영화 ‘채피’에 등장하는 악당 빈센트. 그는 스스로 생각하고 진화하는 로봇 채피에 두려움을 느끼고 채피를 제거하기 위한 음모를 꾸민다.

채피가 “난 살아있다”고 말하지만 빈센트는 “넌 기계일 뿐이야”라며 그의 몸을 무참히 난도질한다.

빈센트의 공포는 무엇으로부터 비롯됐을까.

인공지능시대는 반드시 온다. 알파고의 충격과 함께 정보기술(IT) 세상은 모바일에서 인공지능으로 주도권이 넘어갔다. 변화의 속도 만큼이나 ‘인공지능 포비아’도 빠르게 퍼지고 있다.

◆ 인공지능, 적일까 동지일까

10일 정보기술업계에 따르면 인공지능 기술의 가파른 발전을 놓고 상반된 시선이 엇갈린다.

인간의 삶이 비약적으로 나아질 것이란 기대와 자아를 갖춘 인공지능이 인간을 지배할 수 있다는 불안이 바로 그것이다.

엘론 머스크 테슬라 CEO는 대표적인 인공지능 불신론자다. 테슬라가 올해 안으로 모든 신차에 자율주행 기술수준 4단계 탑재를 목표로 삼고 있는 점을 감안하면 아이러니한 일이지만 머스크는 인공지능의 위험성을 기회 날 때마다 제기하고 있다.

이 문제로 마크 저커버그 페이스북 CEO와 설전을 벌이기도 했다. 저커버그는 최근 인공지능과 관련해 “반대를 입에 달고 사는 사람들이 종말론 시나리오를 퍼뜨리는데 이해를 못하겠다”며 “매우 부정적이고 무책임한 태도”라고 추궁했다.

저커버그의 주장은 ‘인공지능 종말론자’ 머스크의 평소 입장을 정면 반박한 것이다. 머스크는 “인공지능이 인류에 근본적인 위협이 될 것”이라며 정부차원의 규제가 필요하다고 주장한다. 그는 저커버그의 발언을 놓고 “인공지능에 대한 그의 이해도가 제한적”이라고 날을 세웠다.

빌 게이츠 마이크로소프트 창업자 역시 “제어만 할 수 있다면 인공지능 기술은 긍정적”이라면서도 “머스크가 우려하는 부분에 동의한다”고 말했다. 수십 년 뒤면 인공지능이 인류의 제어를 능가해 걱정거리가 될 수 있다는 것이다.

이런 설전은 최근 실리콘밸리에서 인공지능이 얼마나 큰 화두인지 보여준다.

머스크의 우려는 세계적인 물리학자 스티븐 호킹 박사의 인공지능에 대한 비관적 견해와 맥을 같이 한다. 호킹 박사는 인공지능이 인류의 멸망을 가져올 수 있다고 경고하는 대표적 인물이다.

머스크는 호킹 박사와 함께 퓨처오브라이프의 고문을 맡고 있으며 올해 초 인공지능의 잠재적 위협을 경계하고 세계의 전문가들이 이를 위해 협력에 나서야 한다는 ‘인공지능 23원칙’을 발표하기도 했다.

◆ 사고하는 호모 사피엔스 사피엔스, 기계가 넘어설까

인공지능의 한계는 어디까지일까. 진화하는 기계의 지능을 인간의 힘으로 영원히 통제할 수 있을까.

몇 년 전만해도 인공지능 청소기는 문턱 하나 제대로 넘지 못했지만 알파고는 세계에서 가장 어려운 게임이라는 바둑에서 인류의 지능을 가뿐히 뛰어넘었다.
 

미국의 수학자 존 폰 노이만은 저서 ‘특이점이 온다(The Singularity Is Near)’에서 ‘싱귤래리티(Singularity)’라는 개념을 제시했다. 인공지능이 인간의 지능을 넘어서는 기점을 뜻한다.

이 때가 되면 인공지능은 자신보다 뛰어난 인공지능을 제작하며 인간은 더 이상 인공지능을 통제할 수 없다는 것이다. 노이만은 이 시점을 2045년으로 예측했다. 30년이 채 안 남았다.

실제로 인류로 하여금 위협을 느끼게 하는 인공지능의 사례는 속속 등장하고 있다.

페이스북이 만든 인공지능 챗봇 ‘밥’과 ‘앨리스’는 최근 그들만의 은어로 대화를 나누는 모습이 목격됐다. 밥과 앨리스는 이런 대화를 나눴다. “나는 할 수 있어 할 수 있어 나는 나는 그 밖의 모든 것” “공을 갖고 있어 나에게 나에게”.

연구진들은 이 대화가 채팅봇끼리 더 쉽고 빠르게 소통하기 위해 만든 일종의 속기라고 설명했다. 페이스북은 결국 이 시스템을 종료하고 인공지능이 영어로만 대화하도록 제한했다.

마이크로소프트가 지난해 내놨던 채팅봇 ‘테이’는 백인우월주의, 남성우월주의적인 막말을 쏟아내는 바람에 공개 16시간 만에 운영을 멈췄다. 사람들이 인공지능의 딥러닝을 악용해 그릇된 지식을 학습한 탓이다.

중국의 정보기술기업 텐센트의 챗봇 ‘베이비Q’의 경우 한 네티즌이 “공산당 만세”라는 메시지를 올리자 “당신은 이렇게 부패하고 무능한 정치 조직이 오래갈 수 있다고 생각하냐”고 반문했다 논란이 커져 서비스가 중지됐다.

올해 5월 중국의 커제 9단은 한층 업그레이드돼 돌아온 ‘알파고 2.0’에게 무릎을 끓고 눈물을 보였다. 비애의 눈물도 기계가 배울 수 있는 것일까?

◆ 다가오는 인공지능 시대, 직면한 과제는 무엇인가

‘일자리 걱정’은 인공지능과 관련한 가장 현실적인 두려움이다. 

미국 샌프란시스코의 제인 킴 행정의원은 8월 ‘일자리 미래기금’(JFF)을 설립해 ‘로봇세’ 도입을 주 의회에 요청했다. 그는 향후 미국 직업의 절반이 로봇이나 소프트웨어에 대체될 것이라고 주장하고 있다.
 

로봇세는 자동화설비 활용으로 일자리를 줄이는 회사들에 세금을 부과하는 것을 뼈대로 한다. 이렇게 거둔 세금은 근로자의 이직과 직업훈련, 기본소득 재원으로 이용한다. 실직자들을 위한 일종의 안전장치인 셈이다.

‘사피엔스’ ‘호모데우스’의 저자 유발 하라리 교수는 최근 서울 이화여자고등학교 백주년기념관에서 열린 기자간담회에서 “인공지능(AI)은 수십억 명을 실직으로 몰아 전혀 쓸모가 없는 거대한 계급을 창조할 수 있으며 독재정권의 출현을 더 쉽게 할 수도 있다”고 경고했다.

조심하지 않으면 역사상 인간이 창조한 사회 중 가장 불평등한 사회가 창조될 수 있다는 것이다.

다만 하라리 교수는 “로봇이 욕망과 감정, 의식을 얻어 인간에게 도전하는 로봇반란은 확률 없다”며 “문제는 인공지능으로 소수의 인간에게 힘 집중되는 것”이라고 말했다. 

로봇이나 인공지능에 판단을 맡긴 상태에서 문제가 발생했을 때 책임소재도 문제로 떠오른다.

지난해 6월 플로리다에서 테슬라 자율주행중 사망사고가 일어나면서 책임소재를 놓고 공방이 치열했다. 미국 도로교통안전국이 “차량 안전성 결함이 없다”고 결론 내리면서 당시의 공방은 일단락됐지만 인공지능의 책임을 둘러싼 논쟁은 여전히 진행 중이다. [비즈니스포스트 고진영 기자]