오픈 웨이트 모델에 LoRA 적용

내 대화 데이터로
모델을 파인튜닝하세요

받은편지함에서 에이전트의 답변을 평가하고 빗나간 답변은 고친 뒤, 그 쌍으로 오픈 웨이트 모델을 튜닝해 결과를 에이전트에 연결하세요 — 프롬프트에서 매번 다시 설명하던 말투가 이제 가중치 안에 자리 잡습니다.

데이터셋, 실행, 에이전트

세 단계 모두, 모델이 일하게 될 워크스페이스 안에서 이루어집니다.

1

데이터셋 만들기

받은편지함 대화에서 학습 데이터셋을 고른 뒤, 남길 만한 AI 답변에 👍를 누르고 빗나간 답변은 개선하세요. 모든 쌍은 학습용으로 보내기 전에 포함 또는 제외 결정을 기다립니다.

2

베이스 모델 선택 후 학습

오픈 웨이트 베이스 모델을 고르고, 데이터셋을 내보내면 예상 비용을 확인한 뒤, 하이퍼파라미터는 기본값 그대로 두거나 바꿔서 실행을 시작하세요.

3

에이전트에 연결

완성된 어댑터는 에이전트의 모델 선택기 My Adapters 아래에 나타납니다. 한 에이전트에 연결하고, 받은편지함의 “Run with…”로 실제 고객 메시지를 그 에이전트로 다시 실행해 보고, 더 나은 쪽을 쓰세요.

별도 스택 없는 파인튜닝

제공사 콘솔도, 예약 용량도, 계약도 필요 없습니다 — 다른 모든 기능과 같은 크레딧 잔액을 씁니다.

이미 검토한 답변으로 학습

학습 쌍은 받은편지함에서 나옵니다. 👍를 준 AI 답변, 답변이 빗나갔을 때 쓴 수정본, 에이전트 메모리의 고득점 에피소드, 직접 추가한 Q&A — 모델이 따라 하도록 지어낸 예시가 아닙니다.

제대로 행동하는 더 작은 모델

말투와 용어가 가중치에 들어가면 매 호출마다 프롬프트 토큰을 쓰지 않아도 됩니다 — 보통은 큰 모델이 필요했던 일을 더 작고 빠른 모델이 해낸다는 뜻입니다.

시작 전에 예상 비용 확인

데이터셋을 내보내면 학습 대화상자가 실행 전에 예상 비용과 학습 토큰 수를 보여 줍니다. 실행 비용은 완료 시 다른 모든 기능과 같은 크레딧 잔액에서 청구됩니다 — 별도 계약도, 예약 용량도 없습니다.

마이그레이션이 아닌 드롭다운

완성된 어댑터는 호스팅 제공사 모델 옆에, 에이전트가 선택할 수 있는 모델로 나타납니다. 에이전트 하나를 연결해 비교하고, 더 잘 답하는 쪽을 쓰세요.

지켜볼 수 있는 작업

데이터셋, 학습 실행, 완성된 어댑터마다 각자의 목록이 있어, 모든 실행의 상태, 베이스 모델, 비용이 제공사 콘솔 깊숙이 묻히지 않고 그대로 보입니다.

별도의 권한으로 통제

학습 데이터는 실제 고객 대화로 이루어지므로, 후보 목록을 포함한 전체 화면이 워크스페이스의 나머지와 분리된 자체 권한을 가집니다.

파이프라인이 지원하는 것

입력되는 대화부터 에이전트가 호출하는 어댑터까지.

데이터셋

  • 받은편지함에서 평가하고 고친 AI 답변으로 구성
  • 모든 후보 쌍은 내보내기 전에 포함 또는 제외를 선택
  • 무엇으로 학습할지 보여 주는 데이터셋 상세 화면
  • 여러 학습 실행에 재사용 가능

베이스 모델

  • 오픈 웨이트 계열: Llama, Qwen, Mistral, Mixtral
  • DeepSeek R1 증류 모델과 gpt-oss
  • 모델별 파라미터 수 표시
  • 데이터셋을 내보내면 예상 비용 표시
  • 학습 제공업체가 파인튜닝할 수 있는 베이스를 엄선한 목록

학습 실행

  • 모든 하이퍼파라미터에 합리적인 기본값을 갖춘 LoRA 어댑터
  • 실행별 작업 상태와 기록
  • 실행에 기록되는 비용
  • 끝없이 조용히 재시도하지 않고 드러나는 실패

서빙

  • 에이전트 모델 선택기에 모델 제공사로 나타나는 어댑터
  • 베이스 모델의 추론 요금에 어댑터의 프리미엄 배수를 곱해 청구
  • 워크스페이스의 모든 에이전트가 사용 가능
  • 에이전트별, 노드별로 전환 가능

제어

  • 학습을 별도 작업으로 구분한 자체 권한 키
  • 같은 키로 통제되는 후보 대화
  • JSONL을 학습 제공업체 Together AI에 업로드하기 전에 전화번호와 이메일 제거
  • 다른 데이터와 합쳐지거나 다른 모델 학습에 쓰이지 않음

비용

  • 플랫폼의 나머지 기능과 같은 크레딧 잔액
  • 구독 없음, 좌석당 요금 없음
  • 실행 전에는 예상 비용, 실행 후에는 실제 비용 청구

튜닝한 모델이 바꾸는 것

비용과 들쭉날쭉함이 실제로 어디서 생기는지.

2pm.space 없이
2pm.space와 함께

매 호출마다 말투를 다시 설명하는 2,000토큰짜리 시스템 프롬프트

말투와 용어를 가중치에 담아 한 번만 비용 지불

작은 모델은 브랜드 톤을 지키지 못해서 가장 큰 모델에 손이 감

호출당 비용의 일부로 제대로 행동하는 튜닝된 작은 모델

이미 대화 기록이 있는 분야인데도 합성 학습 예시를 직접 작성

이미 평가하고 고친 AI 답변으로 만든 데이터셋

모델이 쓰이는 곳과 동떨어진 제공사 콘솔에서 학습

데이터셋, 실행, 서빙 중인 어댑터가 에이전트와 같은 워크스페이스에

파인튜닝에 관한 질문

고객 대화로 학습하기 전에 팀들이 확인하는 것들입니다.

프롬프트는 모델에게 무엇을 할지 알려 주고, 파인튜닝은 우리가 어떻게 하는지를 가르칩니다. 말투, 상품 용어, 좋은 답변의 형태가 가중치에 들어가면 더 이상 매 프롬프트마다 그 비용을 내지 않아도 됩니다 — 보통은 이전에 큰 모델이 필요했던 일을 더 작고, 저렴하고, 빠른 모델이 해낸다는 뜻입니다.

받은편지함에서 나옵니다. 대화 설정에서 학습 데이터셋을 고른 뒤 에이전트의 답변을 평가하세요 — 👍를 받은 답변이 후보가 되고, “개선”으로 원래 했어야 할 답을 쓰면 그 수정본도 학습 쌍이 됩니다. 에이전트 메모리가 10점 만점에 8점 이상으로 평가한 에피소드는 자동으로 들어올 수 있고, Q&A 쌍을 직접 추가할 수도 있습니다. 팀이 직접 쓴 답변은 수집되지 않습니다. 모든 쌍은 내보내기 전에 포함 결정을 기다리며, 실제 고객 메시지이기 때문에 이 기능 전체는 워크스페이스의 나머지와 별도의 권한으로 보호됩니다.

오픈 웨이트 모델만 가능합니다. Claude나 GPT 같은 호스팅 모델은 LoRA로 튜닝할 수 없기 때문입니다. 목록은 학습 제공업체가 파인튜닝할 수 있는 모델을 엄선한 것으로 — Llama, Qwen, Mistral, Mixtral, DeepSeek R1 증류 모델, gpt-oss, 1B부터 120B 파라미터까지 — 각각 파라미터 수와 함께 표시됩니다.

학습은 베이스 모델 요금으로 100만 토큰 단위로 계량되며, 제공업체의 실행당 최저 요금이 있습니다. 데이터셋을 내보내면 학습 대화상자에 예상 비용이 표시됩니다. 실행 비용은 완료 시 다른 모든 기능과 같은 크레딧 잔액에서 청구됩니다. 학습이 끝난 어댑터는 베이스 모델의 추론 요금에 어댑터의 프리미엄 배수를 곱해 청구됩니다. 구독도 좌석당 요금도 없습니다 — 사용량 청구 방식은 요금제 페이지에서 확인하세요.

에이전트의 모델 드롭다운에서 My Adapters 아래, 호스팅 제공업체 옆에 나타납니다. 한 에이전트에 연결하고, 받은편지함의 “Run with…”로 실제 고객 메시지를 다시 실행해 본 뒤 더 나은 쪽을 쓰세요 — 전환은 드롭다운 선택일 뿐, 마이그레이션이 아닙니다.

아니요. 워크스페이스에서 만든 데이터셋은 그 워크스페이스에 속한 어댑터를 학습하며, 플랫폼은 이를 다른 테넌트와 합치거나 공유하지 않습니다. 학습을 위해 내보낸 JSONL은 — 전화번호와 이메일을 제거한 뒤 — 학습 제공업체 Together AI에 업로드되고, 그곳에서 파인튜닝이 실행되며 에이전트가 호출하는 어댑터가 제공됩니다.

이미 우리 말투로 말하는 모델을 학습하세요

에이전트가 이미 한 답변으로 데이터셋을 만드세요. 무료로 시작하며, 학습 실행 비용은 완료 시 크레딧 잔액에서 청구됩니다.