통신 데이터 학습해 전문성 확보
고객센터 상담사, '텔코LLM' 도입하면 업무부담 줄 듯
축적된 데이터 기반의 정보 조회에도 확대 적용
"마케팅, 법무 HR 등 사내업무에도 활용 가능"
AI 도구모음 '인텔리전스 플랫폼'도 공개
[앵커]
앞서 KT가 주력사업인 미디어에 AI 기술을 결합해 추가적인 성장을 꾀하고 있다면, SK텔레콤은 생성형 AI에 보다 집중하는 모습입니다. SK텔레콤은 한국어 기반의 통신특화 모델 '텔코LLM'을 6월 출시하겠다고 밝혔습니다.
계속해서 박주연 기잡니다.
[기자]
'텔코 LLM'
SK텔레콤이 글로벌 AI 업계 선도기업인 오픈AI, 앤트로픽 등과 함께 통신사의 서비스와 상품, 멤버십 혜택, 고객 상담 패턴 등의 데이터를 기반으로 개발하고 있는 대규모 언어모델(LLM)의 명칭입니다.
'텔코 LLM'은 통신에 특화된 LLM인데요. 예를 들면 기존의 범용LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵습니다, 하지만 텔코 LLM은 AI가 답변한 내용에 대해 품질, 만족도를 평가하는 과정을 거치고 이후 관련 데이터를 추가로 학습하면서 능력을 고도화해 어려운 업무도 처리가 가능합니다.
현재 고객센터 상담사가 상담 전화 한건을 처리하려면 약 4분여가 소요되는데요. 텔코LLM을 도입하면 소요시간이 확 줄어들 전망입니다.
[ 인터뷰 / 정민영 SKT AI플랫폼 담당 : "훨씬 적은 입력을 줘도 더 좋은 답변을 얻을 수도 있고 또 훨씬 더 짧은 답변 내에 원하는 결과를 만들어낼 수도 있어서 속도라든가 이제 이런 것들은 당연히 따라오는 효과라고 저희가 생각을 하고 있고요" ]
SK텔레콤은 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용한다는 계획인데요.
고객센터 뿐 아니라 마케팅, 법무 HR과 같은 사내업무에서도 텔코 LLM이 업무 효율성을 높일 것으로 내다봤습니다.
[ 인터뷰 / 정민영 SKT AI플랫폼 담당 : "마케팅용 PR 보도자료 초안을 예를 들면 LLM을 지원을 받는다거나 아니면 예를 들면 계약서 검토를 받는다거나 이제 이런 유지 케이스들 저희가 좀 생각을 해볼 수 있는 것들이 있고요. 계약서 조항에 있어서 검토해야 되는 리스크가 무엇인가 약간 이제 이렇게 질문을 하게 되면 LLM 이 그 답변을 생성하는 포인트도 있지만 또 한편으로는 유사 사례를 검색하는 데 있어서도 의미적으로 굉장히 잘 검색을..." ]
한편, SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축할 수 있는 '인텔리전스 플랫폼'도 개발 중인데요. 이를 통해 멀티 LLM, 멀티모달, 검색증강생성(RAG) 등 다양한 생성형 AI 기술에 필요한 소스를 제공한다는 계획입니다.
팍스경제TV 박주연입니다.
