[비즈니스포스트] 최근 해외 생성형 인공지능(AI) 분야에서 소형언어모델(SLM)에 대한 선호도가 높아지고 있는 것으로 나타났다.
SLM은 곧 온디바이스(내장형)AI의 발전과 연관되는데, 국내에서도 온디바이스 테마 관련주가 존재해 이목을 끈다.
11일 AI 전문 매체인 유나이트AI의 최근 보도에 따르면 AI 자산운용사인 부스티드AI는 SLM을 활용해 컴퓨팅 비용의 90%를 절감한 것으로 나타났다.
기존에 활용하던 대형언어모델(LLM)을 대체한 것인데, 이 과정에서 오히려 서비스 속도와 성능은 향상된 것으로도 나타났다.
뿐만 아니라 마이크로소프트, 아마존 등 미국 빅테크 대부분이 SML을 운영하고 있으며 오픈AI도 GPT5 모델에서는 일부 SLM 형식을 채용하기도 했다.
LLM과 SLM을 가르는 기준은 파라미터의 갯수다. 파라미터란 언어모델의 데이터 훈련에 활용되는 숫자묶음이다.
LLM은 수천억 개의 파라미터로 훈련되는 반면 SLM은 400억 개 이하만 필요하다. 이처럼 SLM은 LLM보다 경량화되었다는 특징을 지닌다.
LLM에 거대 클라우드가 필수적인 것과 달리, SLM은 온디바이스 형태로 스마트폰, 자동차 등에 간단하게 탑재될 수 있다.
특히 LLM은 GPU(그래픽처리장치)가 필수적이어서 비용이 많이 드는 데 반해 일부 SLM은 CPU(중앙처리장치)로도 구동이 가능하다. 따라서 LLM과 비교해 SLM은 비용효율성도 높다.
엔비디아 리서치 부문의 최근 연구를 보면 70억 파라미터 규모의 SLM은 1750억 파라미터 규모의 LLM과 비교해 30배가량 저렴한 것으로 나타났다.
또한 LLM이 사실상 세상의 모든 정보를 파악하는 ‘만물박사’를 지향하는 반면, SLM은 특정한 분야에 한정해 활용되는 경향이 있다.
그런데 특정 분야에만 쓰인다고 가정하면 SLM이 LLM의 성능을 추월하는 경우가 있다. 예를 들어 엔비디아의 네모트론나노(90억 파라미터)는 메타의 Llama(3600억 파라미터)의 성능을 일부 분야에서 앞지르는 것으로 나타났다.
뿐만 아니라 LLM이 지나치게 방대한 데이터량으로 ‘할루시네이션(착오)’을 일으키는 것과 달리 SLM은 그런 단점도 없는 것으로 알려졌다.
이에 최근 해외 기업들 사이에서는 소위 ‘비싸고 무거운’ LLM보다 ‘목표 중심적이고 가벼운’ SLM을 선호하는 경향이 높아지는 것으로 나타났다.
IT리서치업체 가트너에 따르면 2027년에 이르러 전세계 기업들은 LLM보다 SLM을 3배가량 더 많이 활용할 것으로 예측된다.
하버드비즈니스리뷰는 최근 기고에서 “SLM의 훈련에 들어가는 전력은 LLM의 30~40% 수준”이라며 “LLM과 비교해 SLM은 적은 비용, 빠른 훈련, 용이한 활용, 특정 분야에서의 성능적 우월 등 특성을 지닌다”고 말했다.
국내에서 SLM과 연관된 상장사는 아직 특별히 알려진 것이 없다.
다만 SLM의 진화는 곧 온디바이스AI 성능개선과 직접적 연관이 있는 만큼 관련주가 주목받을 수 있다는 의견이 나온다.
온디바이스는 기술 특성상 저전력반도체(LPDDR)를 필수적으로 요한다.
제주반도체가 이 분야에서 기술력을 보유하고 있다. 제주반도체의 매출 가운데 LPDDR의 비중은 70%에 달할 정도로 주력제품으로 꼽힌다.
온디바이스용 반도체의 경우 패키징 단계에서 기존 방식과 다른 WLP(웨이퍼 레벨 패키지) 기술이 활용되는데 고영이 WLP 공정에 대한 검사 솔루션을 갖추고 있다.
박종선 유진투자증권 연구원은 “상반기 관세 이슈로 이연되었던 주문이 하반기에 발생하면서 고영은 점차 실적이 회복될 것이다”며 “특히 중국과 인도 등의 신규 고객향 3D 검사 수요가 확대되면서 실적 회복에 기여할 것”이라 말했다.
온디바이스용 반도체에는 NPU(Neural Processing Unit, 신경네트워크처리기)가 핵심적으로 들어간다. 칩스앤미디어가 이 NPU에 필요한 영상 코덱 및 IP(설계자산)를 공급한다.
정우성 LS증권 연구원은 “칩스앤미디어의 라이선스 매출액은 하반기에 집중되는 경향이 있다”며 “NPU 등 성장 산업 노출도가 높은 점을 고려하여 주가 프리미엄을 유지한다”고 말했다. 김태영 기자
SLM은 곧 온디바이스(내장형)AI의 발전과 연관되는데, 국내에서도 온디바이스 테마 관련주가 존재해 이목을 끈다.

▲ SLM의 발달로 제주반도체 등 온디바이스 관련주 수혜 기대감이 생겨나고 있다.
11일 AI 전문 매체인 유나이트AI의 최근 보도에 따르면 AI 자산운용사인 부스티드AI는 SLM을 활용해 컴퓨팅 비용의 90%를 절감한 것으로 나타났다.
기존에 활용하던 대형언어모델(LLM)을 대체한 것인데, 이 과정에서 오히려 서비스 속도와 성능은 향상된 것으로도 나타났다.
뿐만 아니라 마이크로소프트, 아마존 등 미국 빅테크 대부분이 SML을 운영하고 있으며 오픈AI도 GPT5 모델에서는 일부 SLM 형식을 채용하기도 했다.
LLM과 SLM을 가르는 기준은 파라미터의 갯수다. 파라미터란 언어모델의 데이터 훈련에 활용되는 숫자묶음이다.
LLM은 수천억 개의 파라미터로 훈련되는 반면 SLM은 400억 개 이하만 필요하다. 이처럼 SLM은 LLM보다 경량화되었다는 특징을 지닌다.
LLM에 거대 클라우드가 필수적인 것과 달리, SLM은 온디바이스 형태로 스마트폰, 자동차 등에 간단하게 탑재될 수 있다.
특히 LLM은 GPU(그래픽처리장치)가 필수적이어서 비용이 많이 드는 데 반해 일부 SLM은 CPU(중앙처리장치)로도 구동이 가능하다. 따라서 LLM과 비교해 SLM은 비용효율성도 높다.
엔비디아 리서치 부문의 최근 연구를 보면 70억 파라미터 규모의 SLM은 1750억 파라미터 규모의 LLM과 비교해 30배가량 저렴한 것으로 나타났다.
또한 LLM이 사실상 세상의 모든 정보를 파악하는 ‘만물박사’를 지향하는 반면, SLM은 특정한 분야에 한정해 활용되는 경향이 있다.
그런데 특정 분야에만 쓰인다고 가정하면 SLM이 LLM의 성능을 추월하는 경우가 있다. 예를 들어 엔비디아의 네모트론나노(90억 파라미터)는 메타의 Llama(3600억 파라미터)의 성능을 일부 분야에서 앞지르는 것으로 나타났다.
뿐만 아니라 LLM이 지나치게 방대한 데이터량으로 ‘할루시네이션(착오)’을 일으키는 것과 달리 SLM은 그런 단점도 없는 것으로 알려졌다.
이에 최근 해외 기업들 사이에서는 소위 ‘비싸고 무거운’ LLM보다 ‘목표 중심적이고 가벼운’ SLM을 선호하는 경향이 높아지는 것으로 나타났다.
IT리서치업체 가트너에 따르면 2027년에 이르러 전세계 기업들은 LLM보다 SLM을 3배가량 더 많이 활용할 것으로 예측된다.
하버드비즈니스리뷰는 최근 기고에서 “SLM의 훈련에 들어가는 전력은 LLM의 30~40% 수준”이라며 “LLM과 비교해 SLM은 적은 비용, 빠른 훈련, 용이한 활용, 특정 분야에서의 성능적 우월 등 특성을 지닌다”고 말했다.
국내에서 SLM과 연관된 상장사는 아직 특별히 알려진 것이 없다.
다만 SLM의 진화는 곧 온디바이스AI 성능개선과 직접적 연관이 있는 만큼 관련주가 주목받을 수 있다는 의견이 나온다.
온디바이스는 기술 특성상 저전력반도체(LPDDR)를 필수적으로 요한다.

▲ 칩스앤미디어 역시 온디바이스 관련주로 꼽힌다.
제주반도체가 이 분야에서 기술력을 보유하고 있다. 제주반도체의 매출 가운데 LPDDR의 비중은 70%에 달할 정도로 주력제품으로 꼽힌다.
온디바이스용 반도체의 경우 패키징 단계에서 기존 방식과 다른 WLP(웨이퍼 레벨 패키지) 기술이 활용되는데 고영이 WLP 공정에 대한 검사 솔루션을 갖추고 있다.
박종선 유진투자증권 연구원은 “상반기 관세 이슈로 이연되었던 주문이 하반기에 발생하면서 고영은 점차 실적이 회복될 것이다”며 “특히 중국과 인도 등의 신규 고객향 3D 검사 수요가 확대되면서 실적 회복에 기여할 것”이라 말했다.
온디바이스용 반도체에는 NPU(Neural Processing Unit, 신경네트워크처리기)가 핵심적으로 들어간다. 칩스앤미디어가 이 NPU에 필요한 영상 코덱 및 IP(설계자산)를 공급한다.
정우성 LS증권 연구원은 “칩스앤미디어의 라이선스 매출액은 하반기에 집중되는 경향이 있다”며 “NPU 등 성장 산업 노출도가 높은 점을 고려하여 주가 프리미엄을 유지한다”고 말했다. 김태영 기자