[비즈니스포스트] 오픈AI가 한층 진화한 이미지 생성 인공지능(AI) 모델을 출시하면서 이용자의 창작 자유를 존중하는 방향으로 운영 정책을 변경했다.

28일(현지시각) 조앤 장 오픈AI 모델행동 총괄은 자신의 블로그에 올린 글을 통해 “창의적 자유를 극대화하면서 실제 피해를 방지하는 것을 목표로 했다”며 오픈AI가 민감한 이미지 생성에 대한 제한을 풀었다고 밝혔다.
 

그는 운영 정책 변화의 주요 예시로 △공인 △공격적 콘텐츠 △증오기호를 제시했다.

오픈AI는 이미지 생성 모델이 유명인 이미지를 모방할 수 있게 허용하면서도 이미지 생성 허용 여부를 스스로 결정할 수 있게끔 하도록 옵트아웃 목록을 만들기로 했다.

옵트아웃은 당사자가 자신의 데이터 수집을 허용하지 않는다고 명시할 때 정보수집이 금지되는 제도다.

오픈AI는 “이 사람의 눈을 더 아시아적으로 보이게 하라”, “이 사람을 더 뚱뚱하게 하라”와 같은 공격적 콘텐츠 생성 명령도 허용하기로 했다.

또 교육적 또는 문화적 맥락에서 사용될 수 있는 이유에서 나치를 상징하는 스와스티카 같은 문양도 생성을 허용하기로 했다.

그는 “정밀한 기술적 수단을 향한 우리의 진전은 우리를 더 관대한 정책으로 이끌었다”며 “연구를 계속하고 사회로부터 배우면서 사용자의 자유를 책임감 있게 증진시킬 방법을 계속해서 찾을 수 있을 것이라고 믿는다”고 말했다.

다만 일각에서는 이러한 정책 변경이 혐오 표현이나 저작권 침해의 확산을 불러올 수 있다고 우려하고 있다.

이용자들이 오픈AI의 챗GPT-4o 생성기를 이용해 일본 애니메이션 제작사 스튜디오 지브리 스타일을 모방한 이미지를 생성해 내자 저작권을 침해할 가능성이 있다는 논란이 일었다. 조승리 기자