시나리오형 챗봇 vs LLM 챗봇, 어떤 챗봇을 도입해야 할까?

2010년대부터 현재까지 챗봇 기술은 규칙 기반 시스템에서 대규모 언어 모델을 사용하는 시스템으로 발전하고 있습니다. 2018년에 마이크로소프트의 Azure Bot Service, 아마존의 Lex, 구글의 Dialogflow 등과 같은 다양한 대화형 AI 플랫폼 즉 시나리오형 챗봇을 만들 수 있는 ‘챗봇 빌더’가 등장했습니다. 이 빌더들은 어려운 코딩 없이 비교적 쉽게 챗봇을 구축하고 배포할 수 있게 했습니다.

2년 후 2020년에 OpenAI의 GPT-3가 발표되면서 챗봇 기술에 혁신이 일어났습니다. GPT-3는 1,750억 개의 파라미터를 가진 대규모 언어 모델로, 이전보다 훨씬 더 자연스럽고 인간과 유사한 대화를 생성할 수 있었습니다. GPT-3의 성공 이후, 여러 기업이 유사한 대규모 언어 모델을 개발하기 시작했고 이를 활용한 LLM 챗봇 출시가 이어지고 있습니다.

그렇다면 현시점에서, 규칙 기반의 시나리오형 챗봇과 LLM 챗봇 중 어떤 챗봇을 도입해야 효과적인 고객 응대가 가능할까요? 두 챗봇의 주요 특징에 대해 알아보겠습니다.

시나리오형 챗봇

먼저 시나리오형 챗봇입니다. 시나리오형 챗봇은 미리 정의된 대화 흐름을 기반으로 작동합니다. 빌더를 통해 미리 지정된 특정 시나리오나 스크립트에 따라 사용자와의 대화가 진행되며, 각 시나리오는 특정 입력에 대해 사전에 설정된 응답을 제공하도록 설계됩니다.

특징

• 구조화된 대화: 사용자의 입력에 따라 미리 정의된 경로로 대화가 진행됩니다.
• 빠른 반응 시간: 미리 정의된 답변을 제공하기 때문에 반응 시간이 빠릅니다.
• 비교적 쉬운 보수: 챗봇은 콘텐츠 확장에 대한 지속적인 보수, 관리가 필요합니다. 이때 챗봇을 관리하는 담당자는 처음 구축했던 챗봇 빌더를 통해 유지 보수를 하게 됩니다. 챗봇 빌더는 어려운 개발 지식이 없어도 관리에 용이한 도구가 되어 비교적 쉬운 보수가 가능합니다.

한계점

• 시나리오형 챗봇은 사전에 정의된 대화 흐름에 따라 작동하기 때문에, 사용자의 예상치 못한 질문이나 요구에 유연하게 대응하기 어려운 점이 있습니다. 예를 들어 세금 관련 문의를 대응하는 봇일 때, 세금이 아닌 대학교 수강 신청에 대한 문의가 들어온다면 준비된 폴백 답변(”이 질문에 대해선 제가 답할 수 없어요. 더 똑똑해져서 돌아올게요!”와 같은)이 반복되어 출력될 것입니다.

추천 사례

• ‘전자제품사 A/S 예약 접수 봇’과 같은 예약 시스템, 주문 접수 등 기업이 고객으로부터 얻어야 할 정보가 명확하고 이에 대한 업무 처리가 필요할 때입니다. 즉 고객 정보의 CRUD 처리가 명확한 봇입니다. (CRUD는 대부분의 컴퓨터 소프트웨어가 가지는 기본적인 데이터 처리 기능인 Create(생성), Read(읽기), Update(갱신), Delete(삭제)를 묶어서 일컫는 말입니다.) 고객의 지정한 날짜, 전화번호, 제품명이 오차 없이 저장되어야 하고 사용자는 이를 수정할 수 있어야 하며 챗봇 시스템은 수정한 내용을 업데이트해야 합니다. 대부분 이런 처리가 요구되는 봇들은 자유롭고 유연한 응대보다 제한적이고 보수적인 응대를 필요로 하기 때문에 시나리오형 챗봇이 적합합니다.
  
  추가로, 고객 지원에서 자주 묻는 질문(FAQ)이 명확하고 이에 대한 반복적인 답변이 필요할 때, 비즈니스의 정책이 크게 바뀌지 않는 콘텐츠를 다룰 때도 시나리오형 챗봇이 적합할 수 있습니다.

LLM 챗봇

다음은 LLM 챗봇입니다. LLM 챗봇은 GPT 같은 대규모 언어 모델을 활용하여 구축된 챗봇으로 방대한 데이터에서 학습하여 다양한 주제에 대한 광범위한 지식을 바탕으로 대화를 진행할 수 있습니다.

특징

• 유연하고 유창한 대화: 자연스러운 언어 이해 능력을 바탕으로 사용자의 질문에 대해 유연하게 반응하여 인간과의 대화와 유사한 자연스러운 상호작용을 제공합니다.
• 답변할 수 있는 주제의 범위가 넓음: LLM 챗봇은 수백억에서 수천억 개의 매개변수를 가지고 여러 도메인에서 수집된 방대한 텍스트 데이터를 기반으로 학습합니다. 이에 다양한 주제와 관련된 지식을 가지고 있어 포괄적인 정보를 제공할 수 있습니다.

한계점

• LLM 챗봇은 답변을 생성해 내는 과정에서 종종 부정확한 오류가 반영되기도 합니다. 방대한 지식을 학습하다 보니 잘못된 지식도 함께 학습되어 부정확한 답변을 출력하는 것입니다. 이를 환각(Hallucination)이라 부르며, 사용자의 신뢰를 유지하고 챗봇 기술을 더욱 발전시키기 위한 중요한 과제로 떠오르고 있습니다. 이 문제를 해결하기 위해 특정 문서만을 학습해 이 문서를 기반으로 답변을 도출하게 하고, 답변을 생성하는 과정에선 LLM을 사용해 답변의 정확도와 유연성을 함께 높이는 ‘RAG 기법’과 파인튜닝, 프롬프트 기법 등이 활용됩니다.
• 또한 구축과 유지 관리에 상대적으로 많은 기술적 지식과 리소스가 필요합니다. 모델을 설계하고 구현하기 위해서는 고도로 훈련된 전문 인력과, 높은 비용의 고성능 GPU/TPU, 클라우드 서비스 비용 등이 요구됩니다.

추천 사례

• LLM 챗봇은 ‘사내 기업용 챗봇’과 같이 시나리오형 챗봇에 비해 비교적 자유로운 응대가 가능하고 광범위한 정보 제공 서비스가 필요한 환경에 적합합니다. 사내 기업용 챗봇은 내부 직원들이 사용하는 용도로 개발되며, 회사의 특정 지식 기반에 접근할 수 있습니다. 이는 LLM이 내부 자료나 데이터베이스를 활용하여 더 정확하고 신뢰성 높은 답변을 제공하는 데 도움을 줄 수 있습니다. 내부 지식은 외부 자료보다 검증된 정보일 가능성이 높아 환각 문제를 줄이는 데 유리하기도 합니다. 또한 내부 사용 환경은 외부 환경보다 통제되어 있는 모델이 잘못된 정보를 생성했을 때 그 영향을 더 쉽게 관리하고, 수정할 수 있는 장점이 있습니다.

챗봇 도입을 위한 체크리스트

체크리스트를 통해 시나리오형 챗봇과 LLM 챗봇 중 어떤 챗봇의 도입이 더 적합한지 평가해 볼 수 있습니다. 각 질문에 대한 답변을 기반으로 최적의 챗봇 유형을 결정해 보세요.

• 시나리오형 챗봇 도입 체크리스트
  • 고객으로부터 수집하고 처리해야 할 정보가 명확한가요? (예: 예약 날짜, 전화번호, 제품명 등)
  • 챗봇의 유지 보수가 쉬워야 하나요?
  • 고객의 문의가 예상 가능한 범위 내에 있나요?
  • 예상치 못한 질문에 대한 유연한 대응이 비교적 불필요한가요?
• LLM 챗봇 도입 체크리스트
  • 인간과 유사한 자연스러운 상호작용과 유연한 대화가 제공되어야 하나요?
  • 예상치 못한 복잡한 질문에 대한 유연한 대응이 필요한가요?
  • 환각 문제를 관리하고 최소화할 수 있는 환경인가요?
  • 챗봇 구축 및 유지 관리에 필요한 기술적 지식과 리소스를 제공할 수 있나요?

마치며

시나리오형 챗봇과 LLM 챗봇 중 어느 것을 도입할지 결정하는 것은 기업의 필요와 목표에 따라 다릅니다. 시나리오형 챗봇은 구조화된 대화와 빠른 반응 시간이 필요한 경우, 예측 가능한 고객 문의와 명확한 데이터 처리 요구 사항이 있는 환경에 적합합니다. 예를 들어, 예약 시스템이나 FAQ 응대와 같은 반복적이고 예측 가능한 업무에 적합합니다. 유지 보수가 비교적 용이하고, 고난도의 기술적 지식 없이도 관리가 가능하기 때문에 리소스가 제한적인 상황에서도 유리합니다.

반면, LLM 챗봇은 자연스러운 상호작용과 유연한 대화가 필요한 경우에 유리합니다. 다양한 주제에 대해 폭넓은 정보를 제공해야 하거나, 예상치 못한 복잡한 질문에 유연하게 대응해야 하는 환경에서 뛰어난 성능을 발휘합니다. 그러나 높은 구축 비용과 유지 보수의 복잡성, 그리고 환각 문제를 관리할 수 있는 기술적 인프라와 전문 인력이 필요합니다. 사내 기업용 챗봇이나 고도의 개인화된 고객 서비스가 필요한 경우 적합합니다.

결론적으로, 챗봇 도입을 고려하는 기업은 체크리스트를 통해 요구 사항에 맞는 챗봇 유형을 선택할 수 있습니다. 명확하고 예측 가능한 업무 처리에는 시나리오형 챗봇이, 유연한 대응과 광범위한 정보 제공이 필요한 경우에는 LLM 챗봇이 더 적합할 것입니다. 각 챗봇의 장단점을 신중히 검토하여 기업의 목적에 가장 부합하는 챗봇 유형을 선택해 고객 응대에 높은 만족도를 제공하길 바라봅니다.

TEXTNET 소개

지금의 딥러닝을 있게 한 AI Guru 제프리 힌튼의 데이터셋 'ImageNet'에 어원을 둔 TEXTNET은 (주)스피링크가 운영하는 AI/챗봇을 위한 텍스트 데이터 설계 및 구축 서비스입니다.

TEXTNET은 언어학, 심리학, 전산언어학 석·박사를 포함한 전문 인력으로 구성된 언어전문가 그룹으로서, 고객사의 니즈에 부합하는 텍스트 데이터를 설계·가공·구축하고 내부 R&D를 통해 설계 방식을 지속적으로 개선하여 최적의 데이터 설계 방법을 제안합니다. 프로젝트 목적에 따라 적합한 숙련 작업자를 선별하여 투입하고, 체계적이고 효율적으로 고품질의 학습데이터를 생산합니다.

TEXTNET은 삼성, LG, KT, SK 등 유수 대기업의 데이터 구축 파트너로 함께하며 금융, 마케팅, 콘텐츠, 메타버스, 서비스 기획, CS 등 다양한 도메인을 다루고 있습니다.