[비즈니스포스트] 세계 각국이 인공지능(AI) 관련 법제화에 속도를 내고 있다. 법 체계를 정비해 불확실성을 줄여야 인공지능 관련 기업들의 활동이 활발해질 수 있어서다.

미국과 중국에 이어 EU도 최근 인공지능법을 의결하면서 국내 인공지능 관련 업계에서는 22대 국회에서 AI 기본법 제정을 서둘러야 한다는 목소리가 커지고 있다.
 

21대 국회에서 AI 기본법이 발의됐지만 상임위원회 문턱도 넘지 못해 '4.10 총선'으로 새롭게 구성되는 제22대 국회에서 AI 기본법 제정을 서둘러야 필요성이 크다는 시각이 많다.

14일 국회 의안정보시스템을 보면 'AI 기본법'(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)이 국회 과학기술방송통신위원회에 계류된 상태에 놓여 있다. 

AI 콘텐츠 표시 의무를 규정한 정보통신망법 일부 개정안도 국회 문턱을 아직 넘지 못했다.

이런 국내 상황과 달리 유럽연합(EU)은 지난 3월13일 세계 최초로 포괄적 인공지능(AI) 규율법인 인공지능법을 가결했다. 이 법은 올해 말 발효되는데 EU 회원국별로 단계적으로 도입해 2026년부터는 EU가입국들에서 전면적으로 시행된다.

EU의 인공지능법은 생성형 AI의 위험성을 분류하고 기술 개발 과정에서 투명성을 강화하도록 하는 내용이 뼈대다. EU 역내에서 자율주행·의료장비 등과 관련한 ‘고위험’ 기술을 출시하려는 기업은 데이터를 공개하고 테스트를 거쳐야 한다.

EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등해 규율한다. 고위험 등급으로 분류된 의료·교육 등 공공 서비스, 선거·핵심 인프라·자율주행 등에서 AI 기술을 사용할 때 사람이 반드시 감독하고 위험관리시스템을 구축해야 한다.

미국과 중국도 EU에 앞서 AI에 대한 법체계를 마련했다.

조 바이든 미국 대통령은 지난해 10월30일 △AI 안전 및 보안 기준 마련 △혁신과 경쟁 촉진 연방 정부의 사용과 조달을 위한 지침 개발 △소비자 보호 △노동자 지원 △형평성과 시민권 증진 △국제 파트너와의 협력 등 8가지 내용을 담은 ‘AI 행정명령’을 발표했다.

중국도 2023년 8월15일부터 ‘생성 AI 서비스 관리 잠정 방법’이라는 정책을 시행했다.

중국 주민을 대상으로 생성 AI 기술을 활용해 텍스트·이미지·음성·영상 콘텐츠 생성 서비스를 제공하기 위해서는 △생성 AI 서비스 안전 평가와 알고리즘 제출·변경·등록 취소 절차 이행 △연구·개발 과정에 데이터 라벨링 규칙 제정과 품질 평가 △생성 콘텐츠에 체제 전복·차별· 프라이버시 침해 같은 문제 정보 제거 등 의무를 준수해야 한다.

업계에서는 미국과 중국은 물론 EU까지 인공지능 관련 법체계를 마련한 만큼 국내에도 법적 근거 마련이 필요하다는 목소리가 많다.

AI 산업이 올바른 방향으로 성장하기 위해서는 진흥과 규제를 아우르는 법제도가 반드시 필요하다. 법제도가 없는 상태에서의 기술 개발은 한계가 있고 합리적 기준 없이 기술을 개발했다가 법적 리스크를 안게 될 가능성도 있기 때문이다.

국내 AI 대기업·중소기업·스타트업 등 132개 기업이 회원사로 참여하는 AI 산업계 대표 단체인 '초거대 AI협의회'는 조만간 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안' 처리를 촉구하는 성명서를 발표하기로 했다.

황종성 한국지능정보사회진흥원(NIA) 원장도 지난해 12월 열린 입법정책포럼에서 “AI 기본법은 AI 관련 아젠다를 구분하고 관련 조직과 권한을 정립하는 등 프레임워크를 만드는 역할”이라며 AI 기본법 제정 필요성을 강조했다.

이런 업계의 요구와 달리 국내 AI 기본법 제정은 속도가 나지 않는 상황에 놓여 있다.
 

윤두현 국민의힘 의원안을 기반으로 윤영찬 더불어민주당 의원이 수정발의한 알고리즘 및 인공지능 법률안을 상당부분 반영한 AI 기본법안은 2023년 2월 국회 과학기술정보방송통신위원회(과방위) 법안2소위를 통과했지만 1년 넘게 상임위 전체회의에 계류된 상태다.

그동안 AI 기본법 제정이 밀린 것은 방송법, 우주항공청 설립을 두고 여야가 과방위에서 갈등을 빚어온 데다 AI 기본법안에 포함된 ‘우선허용·사후규제’ 원칙 때문인 것으로 파악된다.

국회 과방위 법안소위에서 의결된 AI 기본법안 11조는 ‘우선허용·사후규제’ 원칙을 담고 있다. 누구든지 인공지능 관련 제품이나 서비스를 출시할 수 있고 국민의 생명·안전·권익에 위해되는 경우가 아니면 AI 기술개발을 제한하면 안 된다는 취지다.

하지만 이 대목에 반대하는 목소리도 거세다. AI가 얼만큼 영향력이 커질지, 어느 범위까지 확장될지 알 수 없는 상황에서 우선허용·사후규제 원칙이 부작용을 키울 수 있다는 것이다.

민주사회를 위한 변호사모임(민변) 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 보건의료단체연합, 참여연대 등 인권·보건의료·시민사회단체는 2023년 3월 기자회견을 열고 “우선허용·사후규제 원칙은 안전과 생명의 포기”라고 지적했다.

국가인권위원회도 "인공지능이 무분별하게 개발·활용될 경우 기본권 침해를 포함한 예상치 못한 위험이 나타날 수 있다"면서 "사전 평가 없이 개발된 AI가 국제 경쟁력 저하는 물론, 기술 신뢰성까지 떨어트릴 수 있다"고 우선허용·사후규제 원칙에 반대한다는 공식입장을 냈다.

21대 국회는 오는 5월30일로 임기가 만료된다. 여당인 국민의힘이 새로운 지도부를 구성하는 등 복잡한 상황에 놓여있음을 감안할 때 지금까지 진척되지 않은 AI 기본법이 임기 막판 본회의에 상정돼 통과할 가능성은 사실상 없다고 볼 수 있다.

AI 기본법에 관해 국민의힘과 더불어민주당 사이에는 별다른 이견은 없는 것으로 파악된다. 이번 총선에서 양당이 제출한 AI 정책 공약에서도 상당 부분 공통점이 존재했다.

국민의힘은 공약에 △AI 기술개발과 핵심인재 양성 △학습용 데이터 확충 △AI 반도체 글로벌 경쟁력 제고 △국민 체감이 높은 분야에 AI 확산 등을 담았다.

더불어민주당도 △AI 기술 인재 양성 △AI 기술 중심의 전문 벤처‧스타트업 활성화 △AI 기술 구현의 핵심 요소인 데이터 활용 기반 조성 △AI‧클라우드 서비스 활성화 등을 제시했다.

22대 국회에서 부작용에 대한 우려를 불식시키는 입법 논의를 서둘러 국내 AI 업계가 합리적 법제도에 근거한 기술개발을 할 수 있도록 환경을 조성해야 할 필요성이 크다는 시각이 많다.

강도현 과기정통부 2차관은 지난 2일 취임 후 가진 첫 출입기자단 간담회에서 "AI 기본법은 시작 단계인 만큼 (세부사항의) 정도와 내용을 떠나 큰 틀을 만든다는 입장에서 (연내에) 조속한 입법을 희망한다"고 말했다. 김대철 기자