[비즈니스포스트] 인공지능(AI) 생성물에 AI 표시를 의무화해야 한다는 목소리가 커지고 있다.

생성형 AI가 만든 콘텐츠가 점점 많아지고 있지만 이와 관련한 법적 규제는 아직 없다. 법적 규제 미비는 저작권뿐 아니라 최근 세계적으로도 문제가 된 ‘딥 페이크’ 등 여러 사회문제로 이어지고 있다.

특히 인공지능 제작 콘텐츠 표기 대상의 구별과 기준의 모호성, 기술적 문제까지 고려하면 법적 규제 도입까지 가야할 길은 멀어 보인다.

한국음악저작권협회는 30일 서울 여의도 국회 의원회관에서 인공지능 생성물 표기 의무화를 위한 국회 공청회를 열고 이와 관련한 논의를 진행했다.

공청회에는 이대희 고려대학교 법학전문대학원 교수와 권혁주 한국웹툰작가협회 협회장, 김경화 문화체육관광부 과장, 강승희 법무법인 강남 변호사, 황선철 한국음악저작권협회 2사업국장 등 관계자들이 참석했다.

현재 세계적으로 인공지능은 가전과 금융, 문화 등 여러 분야에 핵심 기술로 자리 잡은 데 이어 창작자의 보조도구로도 활용되면서 효율성을 높여주는 역할도 하고 있다.

하지만 IT업체들이 챗GPT와 같은 생성형 AI를 학습하는 과정에서 저작권 문제가 불거지고 있다.

대표적으로 이미지와 비디오를 제공하는 미국 이미지 서비스 기업인 게티이미지는 스테빌리티AI를 대상으로 1조8천억 달러 규모의 소송을 제기했다. 게티이미지가 30년 동안 쌓아놓은 이미지 1200만 개를 스테빌리티AI가 무단으로 사용했다는 이유에서다.

미국 인기드라마 왕좌의 게임 원작자인 조지R.R마틴 등이 소속된 미국작가협회도 챗GPT 개발사 오픈AI를 상대로 저작권을 침해당했다며 집단소송을 제기했다.

인공지능이 학습한 데이터를 바탕으로 만든 콘텐츠에 대해 원작자에게 보상을 해야 한다는 목소리도 나온다.

문화체육관광부에서도 이런 의견을 검토하고 있다.

김경화 문화체육관광부 과장은 공청회에서 “AI 저작권과 관련해 업무 부서 3개를 운영할 것이다”며 “제1그룹에서 저작물 이용권한 확보와 보상 방안에 관해 다루게 될 것이다”고 설명했다. 

인공지능이 생성한 콘텐츠나 정보 등에 대한 문제와 관련해서는 충분한 사회적 논의가 필요한 상황이다.

이상헌 더불어민주당 의원은 지난해 5월 '인공지능을 이용해 제작된 콘텐츠'라는 사실을 표시하도록 하는 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표발의했지만 현재 국회 문턱을 넘지 못하고 있다.

해외에서도 이런 논의는 활발하게 이뤄지고 있다.

미국, 프랑스, 유럽연합 모두 인공지능 콘텐츠 표기 의무에 관한 입법안을 내놓은 상태이며 백악관에서도 지난해 10월 인공지능 제작 콘텐츠임을 명확하게 표시하는 워터마크에 대한 행정명령을 내렸다.
 
유럽연합 역시 2023년 12월 인공지능으로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과했다. 하지만 여전히 많은 국가에서 실제로 입법이 이뤄진 사례는 많지 않은 것으로 파악된다.

황선철 한국음악저작권협회 2사업국장은 “저작권협회에서는 인공지능 생성물을 가릴 수 있는 기술력이 거의 없는 상황이다”이며 “사후에 인공지능 생성물이라고 밝혀지게 되면 다시 저작권료를 환수조치하고 재분배하는 과정에서 어마어마한 비용이 든다”며 인공지능 제작 콘텐츠 표기 의무화를 촉구했다. 

해당 법안이 통과된다면 인공지능 생성물이 범람하는 시대에 이용자들에게 콘텐츠의 신뢰성을 높이고 저작권도 일정 부분 보호할 수 있을 것으로 기대된다.

다만 이러한 인공지능 표기 의무화법이 통과되기까지는 거쳐야할 관문이 많아 보인다. 우선 인공지능의 생성물과 인간의 창작물을 구별하는 기준이 명확하지 않다.

실제로 인간이 인공지능을 편집도구로 사용해 창작물을 수정하거나 인공지능 생성물에 인간의 창작성이 더해진 사례 등을 살펴보면 어디까지가 창작의 영역이고 어디까지가 인공지능의 몫인지 판단하기 쉽지 않다.

인공지능 생성물을 표시하는데는 기술적 어려움도 따른다.

인공지능 생성물의 개발자나 이용자가 해당 콘텐츠에 인공지능 표시를 지속적으로 수행해야하는 난관이 있는 데다 인공지능 콘텐츠 표시에 조작, 변경, 삭제 등을 방지할 수 있는 기술은 아직 개발이 되지 않았다.

무엇보다 인공지능 생성물 의무 표기 법안이 소비자 보호나 표현의 자유, 저작권 등 다양한 요소를 포괄해야만 한다는 점이 문제다. 산업별, 매체별 생성물의 위험성 등에 따라 표시 의무와 정도, 방법에 있어서 차별성도 필요하다. 가령 인공지능 활용 콘텐츠가 사람을 기망하려는 의도가 없거나 창작과정에서 도구로만 사용됐다면 표기는 불필요한 셈이다.

이대희 고려대학교 법학전문대학원 교수는 “오디오냐 비디오냐와 같은 매체에 따라 인공지능을 표시하는 방법도 달라져야한다”며 “세부적 기술적 부분에 대해 위임한 시행령에도 관심을 기울여야 할 것이다”고 말했다. 김예원 기자