인더뉴스 이종현 기자ㅣSK텔레콤[017670]이 자체 개발한 Telco LLM(Large Language Model)과 LMM(Large Multimodal Model)을 활용한 고객센터 AI 상담 업무 지원 시스템을 국내 메이저 고객센터 중 최초로 10월 중순부터 한 달여간 베타 서비스를 성공적으로 운영했다고 18일 밝혔습니다.

 

SKT는 지난 1년여 간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고 통신 관련 데이터를 활용한 모델 튜닝을 진행했습니다.

 

또한, 고객센터 상담 전문가 수십명이 참여해 성능 향상을 위한 학습 데이터를 구축했으며 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들어 왔습니다.

 

아울러 텍스트 뿐 아니라 이미지도 이해할 수 있는 LMM을 활용해 통신 관련 다양한 서류 등 이미지를 학습시켜 통신업에 특화된 전용 LMM을 개발했습니다.

 

SKT는 자체 개발한 Telco LLM·LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축하고 이를 통해 고객에게 한층 더 빠르면서도 고품질의 상담을 제공할 수 있게 될 예정입니다.

 

먼저 Telco LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원합니다.

 

이 서비스는 '퍼플렉시티'나 'ChatGPT'를 통해 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 줍니다. 이를 통해 상담사들의 정보 탐색 시간을 단축시키는 것이 가능해졌습니다.

 

지난 10월21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 시키고 있으며 내년부터는 모든 고객 상담 업무에 전면 적용할 예정입니다.

 

아울러 A.X LMM을 활용하여 AI 서류 자동 처리 시스템도 구축합니다. 다양한 형태의 각종 서류를 AI가 자동으로 분류하고 처리해 줌으로써, 증빙서류 확인에 소요되는 시간을 크게 단축시킬 수 있을 것으로 SKT는 기대하고 있습니다.

 

먼저, 10월23일부터 서류를 자동으로 분류하는 시스템을 도입했으며 향후에는 서류 내용까지 자동으로 판독하여 처리할 수 있게 될 예정입니다.

 

12월에는 고객 상담 결과를 Telco LLM을 활용하여 자동으로 분류·요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 계획입니다.

 

이전에는 상담이 종료된 후 상담 결과를 정리하는데 평균 30초 정도 소요됐지만 AI가 자동으로 처리를 해주게 되면 상담 종료 이후 빠르게 대기중인 고객들에게 상담을 제공할 수 있습니다.

 

홍승태 SKT 고객가치혁신 담당은 "SKT는 Telco LLM 기반 상담 업무 지원 시스템을 발판으로 앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다"고 말했습니다.