조충희 기자 choongbiz@businesspost.co.kr2024-03-13 12:22:06
확대축소
공유하기
[비즈니스포스트] 빠르게 확산하고 있는 인공지능(AI)이 인류에 위협이 될 수 있다는 미국 국무부 승인 보고서가 나왔다.
미국 CNN은 현지시간으로 12일 인공지능 컨설팅 기업 '글래드스톤AI'가 미국 국무부의 의뢰를 받아 이번 주 발표한 보고서 내용을 인용해 "가장 발전한 인공지능 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있으며 이에 대해 미국 정부가 개입해야 한다"고 보도했다.
▲ 범용인공지능(AGI)은 스스로 학습하고 생각하는 궁극의 인공지능으로 여겨진다. < LGCNS 블로그 >
글래드스톤AI는 주요 인공지능 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 200여 명을 1년 넘게 인터뷰한 내용을 토대로 보고서를 작성했다.
인터뷰를 한 전문가들은 현재 빠르게 발전하고 있는 인공지능의 수준이 인류의 통제를 벗어날 수 있다고 우려했다.
보고서는 "경쟁 압박을 받는 기업들이 안전과 보안을 희생하면서까지 인공지능 개발을 가속화하고 있다"며 "어느 시점에서는 인공지능이 인간의 통제를 벗어날 것"이라고 우려했다.
특히 최근 인공지능 업계의 화두인 '범용인공지능(AGI)'이 가장 큰 위협으로 지목됐다.
인공일반지능은 인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 소프트웨어를 만들려는 연구분야를 가리킨다.
IT업계는 현재 특정 문제를 해결하는 데 도움을 주는 수준인 인공지능 기술이 조만간 사람과 동등한 인공일반지능, 인공의식의 단계를 거쳐 최종적으로는 사람을 뛰어넘는 수준까지 발전할 것이라고 전망한다.
보고서는 "인공일반지능은 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다"며 오픈AI와 구글 딥마인드, 앤트로픽, 엔비디아는 모두 2028년까지 일반인공지능 단계에 도달할 수 있다고 밝혔다"고 소개했다.
대책으로는 인공지능 전담 감독 기관과 긴급 규제 안전장치 등이 제안됐다. 인공지능 학습에 사용할 수 있는 컴퓨터 성능을 제한하는 방안도 거론됐다.
미 국무부 측은 당국이 해당 보고서를 승인힌 것은 맞지만 이것이 미국 정부 공식 견해는 아니라고 밝혔다. 조충희 기자