[비즈니스포스트] SK하이닉스가 미국에서 가속기 카드인 AiMX 등 인공지능(AI) 시대를 위한 기술을 선보였다.

SK하이닉스는 지난 9일부터 나흘 동안 미국 캘리포니아주 새너제이에서 열린 ‘AI 하드웨어& 엣지 AI 서빗 2024’에 참가했다고 19일 밝혔다.

회사는 이번 AI 하드웨어 서밋에서 ‘데이터센터부터 엣지 디바이스까지, AI 성능을 가속하는 AiM’이라는 슬로건을 걸고, 가속기 카드인 AiMX 등 AI 시대를 위한 기술을 선보였다.

AiMX는 GDDR6-AiM 칩을 사용해 대규모언어모델(LLM)에 특화된 SK하이닉스의 가속기 카드 제품이다.

생성형 AI에 활용되는 LMM의 크기는 지속적으로 증가하고 있으며, 이로 인한 데이터센터의 컴퓨팅 비용 역시 빠르게 상승하고 있다.

회사 측은 “AiM이 메모리 내에서 일부 연산을 수행해 기존 메모리 대비 높은 대역폭과 우수한 에너지 효율성을 보이며, LLM 기반의 생성형 AI가 요구하는 높은 컴퓨팅 성능을 더 경제적으로 구현할 수 있게 해준다”고 설명했다.

전시 부스에서는 최신 LLM인 ‘라마3 70B’를 활용해 AiMX의 성능을 시연했다.

이번에 공개된 AiMX는 메모리 용량이 16GB에서 32GB로 기존 대비 두 배 늘어났으며, 여러 데이터 그룹을 동시에 처리하는 기법인 멀티-배치로 데이터를 처리해 업계 관계자들의 많은 관심을 받았다.

회사는 데이터센터뿐만 아니라 엣지 디바이스(온디바이스 AI)에 적용 가능한 AiM 솔루션도 공개했다

세션 발표를 통해 AiM 솔루션의 미래 비전도 제시했다.

임의철 SK하이닉스 부사장은 ‘LLM 서비스의 성능 향상’을 주제로 발표를 진행하며 "데이터센터부터 엣지 디바이스까지 AiM 기술이 LLM 서비스를 위한 핵심 솔루션이 될 것"이라고 말했다. 나병현 기자