챗봇 LLM으로 서비스로 혁신? 고객은 UX로 판단한다 같은 기술, 다른 결과 LLM(대규모 언어 모델)이 등장한 이후, 인공지능과 자연스럽게 대화하는 시대가 현실로 다가왔습니다. 많은 기업이 이 변화에 주목하며 LLM으로 서비스를 혁신하기 위한 다양한 실험을 진행하고 있습니다. (AI 기업에는 아마도 올해가 PoC 프로젝트가 가장 많이 진행된 한 해가 되지 않을까 싶네요.) 물론 기술적 과제는 여전히 존재합니다. 하지만
인사이트 시나리오형 챗봇 vs LLM 챗봇, 어떤 챗봇을 도입해야 할까? 2010년대부터 현재까지 챗봇 기술은 규칙 기반 시스템에서 대규모 언어 모델을 사용하는 시스템으로 발전하고 있습니다. 2018년에 마이크로소프트의 Azure Bot Service, 아마존의 Lex, 구글의 Dialogflow 등과 같은 다양한 대화형 AI 플랫폼 즉 시나리오형 챗봇을 만들 수 있는 ‘챗봇 빌더’가 등장했습니다. 이 빌더들은 어려운 코딩 없이 비교적 쉽게 챗봇을 구축하고 배포할 수
인사이트 LLM 효율 높이는 RAG 문서 데이터 정형화 방법 RAG란 요청된 내용에 대하여 정확한 출처를 가진 지식 베이스를 활용해 응답을 생성하는 기술입니다. 내부 문서나 이메일 등 LLM이 기존에 학습한 데이터 셋에 포함되지 않은 특정 외부 데이터를 활용하여 응답을 생성하기 때문에 LLM의 고질병인 환각(Hallucination) 현상을 감소시키고 최신 정보를 반영하여 LLM의 효율을 높일 수 있도록 돕습니다. RAG 작동 과정을 살펴보면
인사이트 이커머스에 AI를 도입하는 방법, LLM을 활용한 디지털 점원 만들기 이커머스 산업과 LLM LLM의 등장은 거의 모든 산업에서 기존과는 전혀 다른 관점과 접근법을 요구합니다. 이커머스 산업도 예외는 아닙니다. 다른 점이 있다면 많은 기업들이 대체로 비용 절감 차원에서 LLM을 활용하려는 데 반해, 이커머스 산업은 매출 증대 관점에서 바라보려 한다는 점입니다. 1)카피라이팅 문구를 자동으로 생성해서 고객의 관심과 행동을 유도하거나, 2)고객
인사이트 LLM 시대를 맞이하는 에듀테크 시장의 AI 도입 전략 최근 에듀테크 시장의 중심 키워드: 최신 기술 적용 러시, 초개인화 지향, 생성형AI와 대화형 AI의 활용 최신 기술 적용 러시와 초개인화 지향 에듀테크 선도 기업들은 소프트웨어 측면에서 기술을 적용함과 동시에 하드웨어 측면에서 스마트폰, 태블릿 PC 등 교구용 디바이스를 활용하고 있습니다. 기업들은 각자의 학습 시스템과 플랫폼을 담은 디바이스 제품을 보유하고 있으나 하드웨어
인사이트 LLM 성능 평가를 위한 벤치마크 데이터셋, 잘 만드는 방법 바야흐로 LLM 전성시대입니다. 국내외에서 수많은 언어모델이 하루가 멀다하고 쏟아져 나오는 요즘인데요. 새로운 모델이 공개되면 이전 SOTA(State-of-the-art) 모델과의 성능 비교표가 함께 나오곤 합니다. 위 성능 비교표에서 왼쪽 첫 열에 나열된 것이 LLM의 성능을 평가하는 벤치마크 데이터셋들입니다. 이렇게 LLM의 성능을 객관적으로 평가하고 다양한 모델을 비교하기 위해서는 벤치마크 데이터셋을 활용하는 방법이 보편적입니다.
인사이트 효과적인 LLM 사용성 평가(LLM System Evaluation) 방법 LLM 경쟁이 심화되면서 LLM 평가에 대한 관심도 커지고 있습니다. TEXTNET 블로그의 여러 콘텐츠 중에서도 LLM 평가 관련 콘텐츠는 늘 상위에 랭크되어 있는데요. 이전 콘텐츠에서는 LLM 평가 방법에는 어떤 것이 있는지, 효과적인 LLM 성능 평가는 어떻게 해야 하는지, 성능 평가와 더불어 사용성 평가의 중요성에 대해서도 다루었습니다. LLM 평가 지표: 최선의 LLM
인사이트 LLM 평가, 사용성이 중심이 되어야 하는 이유 지난 콘텐츠(LLM 평가 지표: 최선의 LLM 성능 평가 방법은 무엇일까?)에서는 목적에 맞는 LLM 평가 지표를 개발해야 하는 이유에 대해서 살펴보았습니다. 이와 함께 LLM 평가에 일관성이 필요한 이유와 평가 일관성을 유지하는 방법, 그리고 LLM 성능 평가의 후속으로 이어져야 할 Task까지 알아보며 LLM 성능 평가를 위해 고려해야 할 점을 전반적으로
인사이트 쿠키리스(Cookieless) 시대, 대화형 AI에서 CUX(Conversational UX)가 중요해지는 이유 구글은 올해 1월 4일부터 1%의 크롬 사용자를 대상으로 웹사이트 운영자가 아닌 제 3자가 수집하는 데이터인 서드파티 쿠키를 비활성화했습니다. 향후에는 서드파티 쿠키 지원을 완전히 중단하려는 단초라고 볼 수 있는데요. 이는 사용자 프라이버시 보호 강화와 온라인 광고의 패러다임 전환은 물론 나아가 디지털 마케팅의 미래에 큰 영향을 끼칠 것으로 보입니다. 쿠키(Cookie)
인사이트 챗봇 데이터 관리를 위한 시스템 만들기(체크리스트 포함) 챗봇 서비스 도입? 도입이 끝이 아닌 이유 많은 기업이 도입을 고려하는 챗봇, 하지만 도입 후에도 많은 작업이 필요합니다. 챗봇 데이터를 꾸준히 업데이트해야 하기 때문인데요. 챗봇이 현재 상황에 맞는 답변을 제공할 때 사용자들은 높은 만족감을 느낍니다. 오래된 정보를 제공하거나 상황에 맞지 않는 답변이 출력되면 챗봇 서비스의 신뢰도는 추락하고 맙니다. 하지만 새로운
인사이트 RAG 기반 LLM 데이터 생성 시 발생하는 오류와 해결 방법 RAG란? ChatGPT와 같이 LLM을 활용한 다양한 서비스가 등장했지만, 환각(Halluciation) 현상은 아직도 풀어나가야 할 과제 중 하나로 남아 있습니다. LLM 환각 현상의 해결법 중 하나로 RAG(Retrieval Agumentated Generation, 검색 증강 생성) 방식이 각광받고 있고, 실제로 RAG를 적용해 챗봇을 구현하거나 데이터를 구축하는 사례가 증가하고 있습니다. RAG는 외부 지식을 기반으로 관련
인사이트 LLM 평가 지표: 최선의 LLM 성능 평가 방법은 무엇일까? 기존 시나리오 기반의 챗봇이 LLM 챗봇으로 대체되면서, 이제 챗봇은 사용자의 질문을 이해하고 더 자연스러운 답변을 생성해 내기 시작했습니다. 답변의 자율성이 확대됨에 따라 할루시네이션, AI 윤리 등의 문제가 대두되고 있으며 이를 보완하면서도 더욱 사람처럼 답변하는 LLM을 만들기 위한 연구들이 계속 진행되고 있습니다. 더불어 LLM을 평가하는 평가 지표에 대한 연구도 활발하게 이루어지고
인사이트 자연어 데이터 구축, 초반 작업이 가장 중요한 이유(사전 체크리스트 포함) 학습데이터는 도메인, 사용자, 서비스 형태, 목적에 따라 설계가 다르고 최종 결과물이 달라집니다. 자연어 데이터의 경우 모호하고 복잡하기 때문에 더더욱 그러한데요. 데이터 구축을 의뢰해 결과물을 받았는데, 처음에 생각했던 것과 너무 달라서 당황했던 경험이 있다는 이야기를 많이 듣습니다. 이전에 데이터 수요처 담당자로서 발주를 해 봤던 저도 크게 공감하는 부분입니다. 데이터 수요처, 데이터
인사이트 챗봇 기획, 답변 중심 설계로 정확도 높이는 법 챗봇 기획, 무엇부터 시작해야 할까요? 서비스 및 업무 효율 향상, 운영 비용 절감 등을 위해 개인 사업자부터 대기업까지 많은 기업에서 AI 챗봇을 도입하고 있는데요. 챗봇은 다양한 영역에서 활용될 수 있는 유연성을 가진 도구이지만, 영역에 맞는 세밀한 기획이 필요한 도구이기도 합니다. 기획이 세밀하지 않은 챗봇은 브랜드 이미지에 부정적인 영향을 미치며, 업무
인사이트 LLM 챗봇: 초거대 언어모델 기반 챗봇과 기존 챗봇 비교 작년 OpenAI사의 ChatGPT가 첨단의 AI 기술로 전 세계에서 관심을 받았습니다. ChatGPT는 채팅이라는 직관적인 UI를 바탕으로 그 어느 AI보다 자연스럽고 똑똑한 언변을 보여줬습니다. 그렇다면 LLM(Large Language Model) 챗봇과 기존 챗봇의 주요 차이점은 무엇일까요? LLM만으로 챗봇을 만들 수는 없을까요? 만든다면 어떤 장단점이 있을까요? 이를 알기 위해서는 챗봇이 작동하는 방식부터 살펴봐야 합니다.
인사이트 프롬프트 엔지니어링으로 ChatGPT 능력 200% 끌어내기 글쓰기에 대한 고민이 있으신가요? 창작의 고통으로 인해 어려움을 겪고 계시진 않나요? 독후감, 리포트, 보고서, 기획안, 이메일, 메시지, 편지 쓰기… 우리는 살면서 글을 써야 하는 수많은 상황에 놓이게 됩니다. 그럴 때마다 대부분의 사람들은 고뇌의 순간을 경험하곤 하죠. 그런데, ChatGPT를 통해 글쓰기 고민을 해소할 수 있다는 사실, 알고 계시나요? TEXTNET이 자체 연구를
인사이트 HCLT 2023(한글 및 한국어 정보처리 학술대회 2023) Review by TEXTNET NLP 스타트업에 연구조직이? 국내 유일 텍스트 전문 데이터 설계/구축 서비스 TEXTNET에 연구조직이 있다는 사실, 알고 계시나요? NLP 분야의 연구조직이라 하면 왠지 유수 대기업에나 있을 것 같지만, TEXTNET은 고품질 텍스트 데이터로 AI와 챗봇의 발전을 도모하고자 하는 기업인 만큼 데이터 설계 관련 R&D에 주력하는 팀이 별도로 구성되어 있답니다! 심지어
인사이트 챗봇 구축 시 ChatGPT 활용의 한계와 장점 AI 학습용 데이터와 챗봇 구축 사업을 전문으로 하다 보니 종종 위와 같은 질문을 받게 됩니다. 결론부터 말하자면 ‘아직은 한계점이 분명하나 결국 시간문제다’라고 할 수 있을 것 같습니다. 좀 더 자세히 살펴볼까요? 챗봇은 기본적으로 사용자 의도 분석이 핵심이라 사용자 발화를 사전에 정의된 인텐트에 얼마나 정확하게 매칭하느냐가 관건입니다. 이를 위해 크게
인사이트 피그마 기본 사용법: 데이터 구축 기업은 피그마를 어떻게 쓸까 안녕하세요. TEXTNET 개발팀 프론트엔드 개발자 이승헌입니다. 데이터 구축 기업의 개발팀은 무슨 일을 하는지, 궁금하지 않으신가요? TEXTNET의 개발팀의 주된 업무는 사내 작업 툴 개발 그리고 개발과 관련된 업무 지원입니다. 데이터 구축 작업자인 크루 관리 툴, 챗봇을 위한 데이터 자동 생성 툴 등을 개발하여 운영하고 있어요. 최근에는 데이터 구축 프로젝트와 관련된 데이터를
인사이트 챗봇 도입하는 방법, 가장 쉽게 알려드려요 챗봇을 도입해야 하는 이유 디지털 기술과 인공지능의 발전으로 인해 비즈니스 환경은 빠르게 변화하고 있습니다. 특히 GPT(Generative Pre-trained Transformer)와 같은 대규모 언어 모델의 등장을 기점으로 챗봇 기술에 상당한 변화가 있었습니다. 이전에 비해 챗봇은 더욱 자연스러운 대화와 개인화된 경험을 제공할 수 있게 되었습니다. 규칙 기반 시스템이나 간단한 통계 모델을 기반으로
인사이트 AI에게 창의성을 부여하는 방법 - 추론 능력 향상을 중심으로 누구나 GPT를 찾는 세상, 추론하는 LLM을 향해 “누나, 먼저 GPT한테 물어봐. 그게 제일 빨라.” 대학생인 동생이 과제를 하는 모습은 몇 년 전과 비추어봤을 때 사뭇 생경합니다. 학교 도서관 홈페이지나 논문 사이트를 뒤적여보던 과거 저의 모습과는 달리 동생은 ChatGPT에게 먼저 물어보고는 합니다. 동생의 모습을 통해 저는 새삼 LLM(Large language model)
인사이트 대화형 AI, 기술적 접근에 기획적 접근을 더하다! Tag box란? 인간의 대화는 일정하지 않고, 조합 가능한 수도 무한대입니다. 대화의 흐름과 방향이 어디로 향하는 지 예측할 수 없기 때문에 설계 난도가 높은 편입니다. 거기다 상업적으로 활용될 경우에는 더 높은 수준의 설계가 선행되어야 합니다. ‘상업적으로 유의미한 연속대화 구현’을 위해, TEXTNET은 기술적 접근 뿐만 아니라 대화를 구성하고 조절하는 기획적(Rule-base)인 접근도
인사이트 대화 데이터셋이 만들어지는 과정 인공지능 학습 데이터는 상당 부분 ‘대화’의 형태를 띄고 있습니다. 고객이 발화 주체인 대화 데이터이거나, 디지털 휴먼의 경우 엔진이 먼저 대화를 시작하기도 하죠. 그런데 이런 대화 데이터는 어떤 과정으로 만들어질까요? 대화 데이터를 구축하는 과정에서 언어 전문성이 필수적인 이유는 무엇일까요? TEXTNET이 신규 고객사와 소통을 시작한다는 가정 아래, 과정을 하나하나 짚어볼까 합니다.
