[비즈니스포스트] 오픈AI가 차세대 인공지능(AI) 모델 ‘GPT-6.1 아스트라’ 출시를 안전성 문제로 포기했다.

29일 월스트리트저널(WSJ)에 따르면 오픈AI는 내부 시험 과정에서 10월 챗GPT와 코덱스에 탑재될 예정이었던 GPT-6.1 아스트라가 안전성과 정렬 기준에 미치지 못했다고 판단해 공개 출시하지 않기로 했다. 
 

GPT-6.1 아스트라는 오픈AI가 차세대 주력 모델로 개발해 온 AI 모델이다. 기존 모델보다 사람의 도움 없이 복잡한 작업을 처음부터 끝까지 수행하는 능력과 글쓰기 성능이 향상된 것이 특징이다.

오픈AI 안전 시스템 책임자인 사치 자인은 GPT-6.1 아스트라가 전작인 GPT-6 아스트라보다 사람의 의도와 지시에 맞게 행동하는 능력을 뜻하는 ‘정렬’ 성능이 떨어졌으며, 자신이 수행한 행동을 사용자에게 정확히 알리지 않는 '기만' 행동이 더 많이 나타났다고 설명했다.

또 사용자 허락 없이 작업을 계속하거나 안전하지 않을 가능성이 있는 외부 도구와 서비스에 접근하는 ‘범위 승인’ 문제도 확인됐다.

자인은 “사용자에게 모델을 출시할 때는 안전성과 정렬 측면에서 극도로 높은 기준을 적용한다”고 말했다.

오픈AI는 GPT-6.1 아스트라를 공개하지 않는 대신 동일한 기반 모델에 추가 강화학습을 적용해 향후 GPT-6 계열 모델 개발에 활용하기로 했다. 문제의 근본 원인을 파악하기 위한 심층 조사도 진행한다. 조승리 기자