vLLM · NVFP4 35BQLoRA · 학습 파이프라인sLLM · 온프레미스Eval · /api/evalWorker · 대화·코딩·자율개발
vLLM · NVFP4 35BQLoRA · 학습 파이프라인sLLM · 온프레미스Eval · /api/evalWorker · 대화·코딩·자율개발
LEADERSHIP
KEY PEOPLE
주식회사 알고몽이 운영합니다. 한국어로 묻고, 워커를 돌리고, 회사 서버 안에서 답을 남기는 제품입니다.
이현창
Director · 이사
주식회사 알고몽
온프레미스 서빙과 제품 운영을 붙입니다. 데이터가 나가지 않는 쪽을 기본으로 둡니다.
STACK
실제로 돌아가는 기법
재단 모델을 새로 지었다는 말이 아닙니다. 라이브는 NVFP4 35B를 vLLM으로 서빙합니다. 한국어 QLoRA는 학습 파이프라인에 있습니다.
모델 스택 보기01
vLLM 서빙
NVFP4 35B, PagedAttention. 공개 채팅 두뇌입니다.
02
한국어 QLoRA
지시 데이터 어댑터 파이프라인. r=16. 재단 학습이 아닙니다.
03
sLLM 온프렘
작은 GPU·폐쇄망 납품용. 게스트 폴백이 아닙니다.
04
Eval API
/api/eval. 점수는 측정하지, 순위를 지어내지 않습니다.