콘텐츠로 이동

서비스 요약

DGX Spark 시스템 접속 계정과 구동되는 주요 서비스 그리고 API endpoint 정보입니다.


시스템 및 원격 접속

공통 계정 정보

  • 기본 계정: techax (sudo, docker 권한)
  • 기본 비번: techax@@26
  • 초기 계정: admin / shinhan@26 (DGX Spark를 초기 구성할 때만 사용하였음)
서비스 접속 URL / 정보 계정 비고
운영체제 DGX Spark (Ubuntu) techax sudo, docker 권한
XRDP [IP]:3389 techax Windows 원격 데스크톱
NoMachine [IP]:4000 techax NX 프로토콜 전용 클라이언트 필요
noVNC http://[IP]:59000/vnc.html <기본 비번> 웹 브라우저 기반 접속

LLM endpoint (Backend)

LLM 모델이 구동되는 백엔드 서비스입니다. OpenAI 호환 엔드포인트를 제공합니다.

모델명 구동 방식 포트 endpoint
openai/gpt-oss-120b TensorRT-LLM 8355 http://[IP]:8355/v1
openai/gpt-oss-20b TensorRT-LLM 8356 http://[IP]:8356/v1
Qwen/Qwen3-30B-A3B-Instruct vLLM 8357 http://[IP]:8357/v1
Qwen/Qwen3-Coder-30B-A3B vLLM 8358 http://[IP]:8358/v1
Qwen/Qwen2.5-VL-32B-Instruct vLLM 8359 http://[IP]:8359/v1
nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 vLLM 8360 http://[IP]:8360/v1
mistralai/Devstral-Small-2-24B-Instruct-2512 vLLM 8361 http://[IP]:8361/v1
qwen3-vl:32b, etc. Ollama 11434 http://[IP]:11434/v1

사용자 앱 (Frontend)

서비스 접속 URL 계정 비고
OpenWebUI http://[IP]:8080 techax@shinhan.com 다양한 LLM 백엔드와 연동
AnythingLLM http://[IP]:3001 <기본 비번> RAG 및 Knowledge Base 특화
LM Studio http://[IP]:1234/v1 없음 GUI 애플리케이션 수동 실행 필요
설정 가이드 http://[IP]:8100 없음 현재 보고 계신 온라인 문서

주요 Docker 이미지 구성

시스템에 설치된 주요 서비스 및 런타임 Docker 이미지 목록입니다.

이미지 (Repository) 태그 (Tag) 용도
vllm/vllm-openai nightly 최신 vLLM (Devstral 등)
nvcr.io/nvidia/tensorrt-llm/release spark-single-gpu-dev TensorRT-LLM 최적화 런타임
nvcr.io/nvidia/vllm 25.12-py3 NVIDIA 최적화 vLLM
ollama/ollama latest Ollama 엔진
ghcr.io/open-webui/open-webui main OpenWebUI 프론트엔드
mintplexlabs/anythingllm latest AnythingLLM 프론트엔드

참고 사항

API URL 형식

OpenAI 호환 API의 경우 http://[IP]:[PORT]/v1 형식을 사용합니다.

IP 주소 예시

  • 로컬 (서버 내부): 127.0.0.1 또는 172.17.0.1 (Docker Bridge IP)
  • 원격 연결: 서버의 실제 IP 주소 (예: 192.168.x.x)