서비스 요약¶
DGX Spark 시스템 접속 계정과 구동되는 주요 서비스 그리고 API endpoint 정보입니다.
시스템 및 원격 접속¶
공통 계정 정보
- 기본 계정:
techax(sudo, docker 권한) - 기본 비번:
techax@@26 초기 계정:admin/shinhan@26(DGX Spark를 초기 구성할 때만 사용하였음)
| 서비스 | 접속 URL / 정보 | 계정 | 비고 |
|---|---|---|---|
| 운영체제 | DGX Spark (Ubuntu) | techax |
sudo, docker 권한 |
| XRDP | [IP]:3389 |
techax |
Windows 원격 데스크톱 |
| NoMachine | [IP]:4000 |
techax |
NX 프로토콜 전용 클라이언트 필요 |
| noVNC | http://[IP]:59000/vnc.html |
<기본 비번> | 웹 브라우저 기반 접속 |
LLM endpoint (Backend)¶
LLM 모델이 구동되는 백엔드 서비스입니다. OpenAI 호환 엔드포인트를 제공합니다.
| 모델명 | 구동 방식 | 포트 | endpoint |
|---|---|---|---|
| openai/gpt-oss-120b | TensorRT-LLM | 8355 |
http://[IP]:8355/v1 |
| openai/gpt-oss-20b | TensorRT-LLM | 8356 |
http://[IP]:8356/v1 |
| Qwen/Qwen3-30B-A3B-Instruct | vLLM | 8357 |
http://[IP]:8357/v1 |
| Qwen/Qwen3-Coder-30B-A3B | vLLM | 8358 |
http://[IP]:8358/v1 |
| Qwen/Qwen2.5-VL-32B-Instruct | vLLM | 8359 |
http://[IP]:8359/v1 |
| nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 | vLLM | 8360 |
http://[IP]:8360/v1 |
| mistralai/Devstral-Small-2-24B-Instruct-2512 | vLLM | 8361 |
http://[IP]:8361/v1 |
| qwen3-vl:32b, etc. | Ollama | 11434 |
http://[IP]:11434/v1 |
사용자 앱 (Frontend)¶
| 서비스 | 접속 URL | 계정 | 비고 |
|---|---|---|---|
| OpenWebUI | http://[IP]:8080 |
techax@shinhan.com | 다양한 LLM 백엔드와 연동 |
| AnythingLLM | http://[IP]:3001 |
<기본 비번> | RAG 및 Knowledge Base 특화 |
| LM Studio | http://[IP]:1234/v1 |
없음 | GUI 애플리케이션 수동 실행 필요 |
| 설정 가이드 | http://[IP]:8100 |
없음 | 현재 보고 계신 온라인 문서 |
주요 Docker 이미지 구성¶
시스템에 설치된 주요 서비스 및 런타임 Docker 이미지 목록입니다.
| 이미지 (Repository) | 태그 (Tag) | 용도 |
|---|---|---|
vllm/vllm-openai |
nightly |
최신 vLLM (Devstral 등) |
nvcr.io/nvidia/tensorrt-llm/release |
spark-single-gpu-dev |
TensorRT-LLM 최적화 런타임 |
nvcr.io/nvidia/vllm |
25.12-py3 |
NVIDIA 최적화 vLLM |
ollama/ollama |
latest |
Ollama 엔진 |
ghcr.io/open-webui/open-webui |
main |
OpenWebUI 프론트엔드 |
mintplexlabs/anythingllm |
latest |
AnythingLLM 프론트엔드 |
참고 사항¶
API URL 형식
OpenAI 호환 API의 경우 http://[IP]:[PORT]/v1 형식을 사용합니다.
IP 주소 예시
- 로컬 (서버 내부):
127.0.0.1또는172.17.0.1(Docker Bridge IP) - 원격 연결: 서버의 실제 IP 주소 (예:
192.168.x.x)