[비즈니스포스트] LG유플러스는 LG AI연구원, 온디바이스 AI 솔루션 업체인 옵트에이아이와 함께 거대언어모델(LLM) 엑사원(EXAONE) 3.5 기반 온디바이스 소형언어모델(sLM)을 개발했다고 25일 밝혔다. 

이 모델은 인공지능(AI) 통화 앱 ‘익시오(ixi-O)’에 적용해 서비스 고도화하는 데 활용된다.
 

이번 온디바이스 sLM 개발은 LG AI연구원이 지난해 12월 선보인 ‘엑사원 3.5 2.4B’ 모델을 기반으로 이뤄졌다. 

온디바이스 sLM는 이용자의 데이터가 외부 네트워크나 서버를 거치지 않고 자신의 스마트폰 내에서 구동되므로 보안성이 강화된다. 

스마트폰 내 신경망처리장치(NPU)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고, 다양한 단말에서 사용할 수 있다는 장점이 있다.

기존 익시오에 구현된 온디바이스 AI 기술은 중앙처리장치(CPU)를 사용했지만, NPU 기반의 온디바이스 sLM을 적용하면 성능은 동일하지만 전력 소모량도 기존 대비 78%, 모델 크기는 82% 줄어든다.

회사 측은 엑사원이 한국어 처리 능력 측면에서 우수한 성능을 보유한 만큼, 익시오가 제공하는 통화 요약 및 통화 내용 텍스트 변환 등 기능과 시너지가 날 것으로 예상한다.

LG유플러스는 엑사원 기반의 온디바이스 sLM을 익시오에 적용해 △한 줄 요약 △상세 요약 △키워드 추출 △AI 태스크 제안 등 기능 고도화에 나선다. 

오는 10월 베타 테스트를 통해 안정성 및 품질 검증을 완료하고, 이르면 내년 상반기 상용화한다.

엑사원 기반 온디바이스 sLM은 퀄컴의 스냅드래곤8 칩셋을 기반으로 하는 스마트폰에 탑재된다. 내년에는 iOS 운영체제가 적용된 스마트폰까지 적용 범위를 확대한다.

7월 출시된 엑사원 4.0도 온디바이스 sLM으로 구현한다. 이를 통해 온디바이스 sLM 기반의 익시오가 제공하는 서비스도 개인별 맞춤형으로 발전시킨다. 조승리 기자