직접 보유한 데이터로 지원 에이전트를 학습시키는 방법

사람들은 흔히 "ChatGPT를 직접 보유한 데이터로 학습시키는" 방법을 묻습니다. 하지만 고객 지원의 경우 모델을 파인튜닝할 일은 거의 없습니다. 당신이 원하는 것은 AI가 당신의 콘텐츠에서 답변을 검색하고 거기에 근거하도록 하는 것입니다. 그 작동 방식과 설정 방법을 소개합니다.

파인튜닝 대 검색

파인튜닝은 패턴을 모델에 새겨 넣는 방식으로 비싸고 느리며 잘못하기 쉽습니다. 검색(흔히 RAG라고 함)은 콘텐츠를 검색 가능한 지식 베이스에 보관하고 답변 시점에 관련된 부분을 모델에 전달합니다. 지원의 경우 검색이 유리합니다. 답변이 정확하게 유지되고, 콘텐츠가 바뀌면 즉시 업데이트되며, 출처를 인용할 수 있습니다.

1. 소스를 모으세요

최고의 지원 에이전트는 이미 가지고 있는 모든 것에서 학습합니다.

• 당신의 웹사이트: 제품, 가격, 도움말 페이지
• 문서: PDF, Word 파일, Markdown(매뉴얼, 정책, 운영 지침서)
• 당신의 고객 센터 또는 지식 베이스

2. 파인튜닝하지 말고 색인하세요

Chatixy에서는 URL을 붙여 넣고 파일을 업로드하면, 이를 분할하여 하나의 비공개 지식 베이스로 색인합니다. 레이블을 붙일 학습 데이터도, 호스팅할 모델도 없으며, 색인은 몇 분 안에 끝납니다.

3. 답변을 근거 있게, 출처와 함께 유지하세요

에이전트는 당신이 색인한 특정 페이지와 문서에서 검색하므로 모든 답변이 사용한 출처를 링크할 수 있습니다. 질문이 지식 베이스를 벗어나면 좋은 에이전트는 답을 지어내기보다 그 사실을 밝히고 사람에게 인계합니다.

4. 최신 상태로 유지하세요

콘텐츠가 바뀌므로 에이전트도 바뀌어야 합니다. Chatixy는 정해진 일정에 따라 사이트를 다시 크롤링하며, 새 문서를 게시하거나 가격을 변경한 직후 수동으로 재크롤링을 실행할 수도 있습니다. 덕분에 에이전트가 오래된 정보를 인용하는 일이 없습니다.

머신러닝 기술이 필요한가요?

아니요. 검색 방식의 핵심은 모델이 아니라 콘텐츠를 가져오는 것입니다. 링크를 붙여 넣고 파일을 업로드할 수 있다면 직접 보유한 데이터로 지원 에이전트를 학습시킬 수 있습니다.