MODEL LINE
자체 도메인 모델을 만듭니다
문서에서 학습 데이터를 만들고, 학습·양자화·서빙하고, 품질과 보안을 검증합니다.
Toaster Platform
고객 환경 안에서 모델과 에이전트를 만들고 검증합니다.
Toaster는 AvalonX의 프라이빗 AI 플랫폼입니다. 두 라인, 다섯 제품으로 이루어져 있고, 필요한 제품부터 따로 도입할 수 있습니다.
02 · Products
다섯 제품이 각자 한 단계를 맡습니다.
Studio
MODEL LINE문서에서 검수된 학습 데이터를 만듭니다.
PDF·HWP·오피스 문서와 이미지를 학습에 쓸 수 있는 데이터로 바꿉니다. 만든 결과는 원문과 나란히 검토하고, 사람이 승인한 것만 내보냅니다.
- PDF·HWP·오피스·이미지 업로드, 한국어 OCR
- 문서 구간에서 SFT·DPO 질의응답 자동 생성
- 검수 대기열: 승인한 데이터만 학습 패키지로
- 개인정보 후보 탐지·마스킹, 레시피 버전 관리
Forge
MODEL LINE업무에 맞게 학습하고, 바로 서빙합니다.
학습 데이터와 기반 모델을 고르고, 실행 전에 입력 형식과 GPU 자원을 점검합니다. 학습한 모델은 병합·양자화해 바로 띄워 봅니다.
- SFT·DPO·LoRA·QLoRA 학습, 실시간 손실 차트
- 어댑터 병합, FP8~GGUF 양자화
- vLLM·Ollama 서빙, 채팅으로 바로 확인
- GPU 노드·실행 이력 관리
Judge
MODEL LINE답변의 품질과 보안을 같은 기준으로 잽니다.
모델이나 프롬프트가 바뀌어도 같은 질문과 기준으로 비교합니다. RAG는 검색 근거와 생성 답변을 나눠 보고, 출시 전에는 보안 공격을 측정합니다.
- 다중 심사위원: 사실 일치·완전성·기준 부합
- 범용 역량 퇴화(망각)·한국어 자연성 측정
- 프롬프트 인젝션·탈옥·개인정보 유출 점검
- 버전별 추이와 회귀, 사람 검토와 부분 재실행
Index
AGENT LINE흩어진 사내 자료를 검색 자산으로 만듭니다.
문서·이미지·음성·영상을 형식별 파서로 읽고, 나누고, 핵심 정보를 뽑아 검색할 수 있게 적재합니다.
- PPT·DOC·XLS·HWP·PDF·이미지·음성·영상 전용 파서
- 청킹 → Entity·Fact 추출 → 임베딩
- 질문 유형에 맞춰 검색 방식 전환
- 폴더 연동 자동 적재, 문서 버전 교체
Agent
AGENT LINE현업이 UI에서 에이전트를 만들고, 조직 권한 안에서 실행합니다.
Index로 만든 검색 자산과 사내 API·DB를 도구로 연결해 업무별 에이전트를 만듭니다. 실행은 조직도 기반 권한 안에서만 이뤄집니다.
- 입력 보안 체크 → 의도 분류 → 실행 → 출력의 흐름
- API·DB·MCP를 도구로 등록해 호출
- 조직도 기반 권한: 열람할 수 없는 자료는 검색에서 제외
03 · Connected
이어서 쓰고, 따로도 씁니다.
Studio가 만든 학습 패키지는 Forge로, Forge가 만든 모델은 Judge로 바로 넘어갑니다. 제품끼리 정해진 형식으로 주고받기 때문에 한 제품을 먼저 도입하고 나머지를 나중에 붙여도 됩니다.
운영 중에 쌓인 질문·답변 로그는 비식별 처리를 거쳐 검색 보강과 재학습 데이터로 되돌아갑니다. 쓸수록 데이터가 쌓입니다.
두 라인 모두 온프레미스·망분리 환경에 설치됩니다. 보안·구축 방식 보기
04 · Examples
이런 업무에서 씁니다.
사내 지식을 학습 데이터로
이런 상황에서규정·매뉴얼·기술 문서는 많은데 모델 학습에 쓸 수 있는 형식으로 정리되어 있지 않습니다.
이렇게 씁니다Studio에서 자료를 정제하고 질의응답 데이터를 만듭니다. 담당자가 원문과 대조해 승인한 결과로 Forge에서 학습합니다.
함께 확인할 것원문과의 일치 여부, 데이터 분할, 학습 후 실제 답변을 함께 봅니다.
업무에 맞는 모델 고르기
이런 상황에서같은 업무에 여러 모델과 학습 설정을 써 봤는데, 어느 쪽이 맞는지 판단해야 합니다.
이렇게 씁니다Forge에서 학습 조건과 결과를 기록하고, Judge에서 같은 질문과 기준으로 후보 답변을 평가합니다.
함께 확인할 것평가 점수, 오류 사례, 사람의 검토 결과를 나란히 비교합니다.
RAG 답변이 틀리는 원인 찾기
이런 상황에서답변 품질이 떨어졌는데 검색이 문제인지 생성이 문제인지 알 수 없습니다.
이렇게 씁니다Judge에서 검색 근거와 생성 답변을 나눠 평가하고, 실패한 사례를 검토합니다.
함께 확인할 것검색 설정, 프롬프트, 모델, 평가 데이터 중 고칠 곳을 찾습니다.
대표적인 활용 예이며 고객 구축 실적이 아닙니다. 실제 범위는 기업 환경에 따라 달라집니다.
필요한 제품부터 시작하세요.
어떤 업무에 어떤 제품이 맞는지 함께 정리합니다.