[비즈니스포스트] 구글 클라우드가 공개한 인공지능(AI) 학습과 추론에 특화된 차세대 텐서처리장치(TPU) ‘트릴리움’이 연산 능력과 전력효율을 크게 개선한 것으로 알려졌다.

모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 16일 국내 매체와 인터뷰에서 트릴리움이 현재까지 출시된 TPU 가운데 가장 강력한 제품이라고 밝혔다.

피치카 매니저에 따르면 트릴리움은 이전 세대 TPU보다 학습 성능은 4배 이상, 추론 처리량은 3배 증가했지만, 전략효율은 67% 개선됐다.

그는 매체와 인터뷰에서 “트릴리움의 칩당 최대 연산 성능은 이전 세대 대비 최대 4.7배”라고 밝혔다.

TPU는 AI 모델 학습과 추론에 적합한 산업용 프로세서다. 고밀도 대형언어모델(LLM)을 활용한 학습과 추론에 최적화 됐으며, 생성형 AI 시장이 커지면서 TPU 수요도 증가할 것으로 예상된다.

카카오 역시 LLM 학습에 구글 클라우드의 트릴리움을 활용하고 있다.

피치카 매니저는 “대기업부터 생성형 AI 기반 스타트업까지 AI를 활용하는 기업들이 구글 클라우드를 통해 TPU를 이용하고 있다”며 “경쟁사와의 가장 큰 차별점은 구글의 혁신적인 연구 결과가 클라우드 고객들에게 바로 제공된다는 점”이라고 말했다. 김호현 기자