[비즈니스포스트] 정부가 복지대상자 선정과 인허가 등 국민의 권리와 생활에 영향을 미치는 행정업무에 인공지능(AI)을 활용하더라도 최종 책임과 통제는 사람이 맡도록 하는 공공부문 윤리기준을 마련했다.

행정안전부는 1일 공공부문의 신뢰할 수 있는 AI 활용을 위한 '공공부문 인공지능 윤리기준'을 최종 확정했다고 밝혔다. 

행안부는 공공부문의 AI 도입이 확대되면서 발생할 수 있는 편향된 결정과 프라이버시 침해 등의 우려를 줄이고 국민이 안심할 수 있는 행정 환경을 조성하기 위해 이번 기준을 마련했다고 설명했다.

지난해 11월 마련한 초안을 바탕으로 관계기관과 학계 전문가의 검토와 의견 수렴을 거쳤다.

특히 책임성 기준은 AI가 행정 의사결정을 지원하거나 직접적 판단에 활용되더라도 최종적 책임과 통제는 사람에게 있음을 분명히 하는 데 중점을 뒀다.

AI가 복지대상자 선정이나 인허가, 위험예측 등 국민의 권리와 생활에 직접 영향을 미치는 업무에 활용될 경우 서비스 기획부터 제공까지 모든 과정의 책임 주체를 명확히 한다. 또 AI의 판단과 결정에 사람이 검토하고 개입할 수 있는 인적 감독 체계와 사후관리·피해구제 체계를 갖추도록 했다.

윤리기준은 공공성·형평성·투명성·책임성·안전성·프라이버시 보호 등 6대 핵심가치와 68개 세부 점검항목으로 구성됐다.     

공공성과 형평성은 AI를 공공의 이익과 국민 삶의 질 향상을 위해 활용하고 모든 국민에게 공정하고 차별 없이 제공하도록 하는 내용이다.

투명성과 책임성은 AI의 도입·활용 과정을 공개하고 책임 주체를 명확히 하도록 했다. 안전성과 프라이버시 보호는 AI가 국민에게 피해를 주지 않도록 운영하고 개인정보와 사생활을 보호하도록 하는 데 초점을 맞췄다.

각 기관이 AI 활용 수준에 맞춰 윤리기준을 적용할 수 있도록 적용-응용-융합의 3단계 자율점검 체계도 도입했다.

1단계 적용은 AI 기초 활용, 2단계 응용은 AI를 활용한 의사결정 지원, 3단계 융합은 AI의 자율결정 기반 활용을 뜻한다.

이번 윤리기준은 공직자가 업무 수행 과정에서 AI 윤리를 스스로 점검하고 개선할 수 있도록 하는 실무 지침 성격을 갖는다. 행안부는 공공부문 종사자를 대상으로 교육 프로그램을 운영하고 새로운 AI 윤리 쟁점을 지속적으로 점검 사항에 반영하기로 했다.   

윤호중 행안부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 말했다. 허원석 기자