[비즈니스포스트] 글로벌 인공지능(AI) 경쟁에서 ‘안전성’이 새로운 개발 기준으로 부상하면서 미국과 중국을 추격하는 한국은 개발 속도를 유지하면서 높아지는 안전 기준까지 충족해야 하는 과제를 안게 됐다.

안전 검증에 필요한 비용과 시간을 개별 기업이 모두 부담하면 국내 AI 모델의 개발속도가 떨어질 수 있는 만큼, 정부가 공용 안전평가 인프라와 컴퓨팅 자원 등을 갖춰 안전한 AI를 빠르게 개발할 수 있는 기반을 마련할 필요성가 있다는 지적이 나온다.

배경훈 부총리 겸 과학기술정보통신부 장관이 '독자 AI 파운데이션 모델' 사업의 다음 단계와 대한민국 프런티어 AI 모델 개발 방향을 조만간 발표하겠다고 예고한 만큼, 성능 추격과 안전성 확보를 함께 뒷받침할 방안을 내놓을지 주목된다.

21일 정보통신업계 취재를 종합하면 국제 사회의 AI 개발 경쟁이 성능을 넘어 고성능 AI를 얼마나 안전하게 개발하고 활용할지를 놓고 공통 기준을 마련하는 방향으로 확대되고 있다.

로이터 보도에 따르면 23일 유엔 안전보장이사회는 유엔총회 고위급 주간을 계기로 인공지능과 국제안보 문제를 논의한다. 

샘 올트먼 오픈AI 최고경영자(CEO)도 유엔 회의에 참석해 AI가 국제안보에 미치는 영향과 국제공조, 공통의 안전기준 마련 필요성 등에 관해 설명할 것으로 알려졌다.

안토니우 구테흐스 유엔 사무총장도 AI 최전선의 역량을 보유한 국가들 사이에 정보교환과 공통의 안전장치가 필요하다는 입장을 내놓고 있다.

구테흐스 사무총장은 지난 16일 기자회견에서 “개별적이고 검증할 수 없으며 불균등하게 적용되는 자발적 AI 개발 중단만으로는 문제를 해결할 수 없다”며 “AI를 안전하고 투명하며 책임 있게 만드는 가드레일이 필요하다”고 말했다.

하지만 미국과 중국을 추격하는 한국은 안전성을 이유로 AI 개발속도까지 낮추기 어렵다는 분석이 나온다.

배 부총리는 16일 페이스북에서 선두국의 속도 조절과 추격국의 감속은 다른 문제라는 점을 강조하며 “속도는 경쟁력이고 안전은 지속가능성”이라며 “더 빠르게, 더 안전하게 가야 한다”고 밝혔다.

박춘식 서울여자대학교 정보보호학과 교수는 비즈니스포스트와 통화에서 “안전을 무시할 수는 없지만 현재 한국은 후발주자인 만큼, 국제적으로 요구되는 최소한의 안전기준을 지키면서 AI 육성과 기술 추격에 더 무게를 둘 필요가 있다”고 말했다.

LG AI연구원, SK텔레콤, 업스테이지 등 3개 기업이 2차 평가를 통과하고, 올해 말 최종 3차 평가를 앞둔 정부의 독자 AI 파운데이션 모델 프로젝트에서도 ‘속도’와 ‘안전’을 함께 확보하는 문제가 현실적 과제로 떠오를 것으로 예상된다.

기존 안전성 평가를 넘어 글로벌 프런티어 AI 수준에 맞춰 검증 범위와 강도를 높이려면 추가 인력과 비용은 물론 그래픽처리장치(GPU) 등 평가용 연산자원도 더 필요할 것으로 보인다.

정부가 지금까지 학습용 GPU 확보에 무게를 뒀다면, 앞으로는 안전평가와 재검증에 필요한 AI 자원 지원이 필요할 것이란 지적이 나온다.

곽진 아주대학교 사이버보안학과 교수는 비즈니스포스트에 “추격 속도가 중요한 나라일수록 AI 안전검증 기반을 기업마다 따로 만들고 적용하는 것은 정말 어렵고, 현실적으로 가능하지도 않다”며 “자체 위험관리는 기업이 감당해야 할 몫이지만 평가용 연산자원이나 도구, 격리 시험환경 등은 AI안전연구소를 중심으로 공동 인프라로 구축하는 방안을 고려할 필요가 있다”고 말했다.

정부는 이미 AI안전연구소를 중심으로 AI 모델의 위험평가 기반을 구축하고 있다. 오픈AI와는 프런티어 AI의 고위험 영역에 대한 안전평가와 위험 검증을, 앤트로픽과는 AI 안전과 사이버보안 분야의 협력을 추진하고 있다.

AI 안전평가도 모델 출시 직전에 한 차례 시행하는 데 그치지 않고, 개발 과정에서 반복하는 구조로 설계해야 한다는 의견이 나온다.

곽 교수는 “안전평가는 출시 전에만 시행하는 것이 아니라 개발 중 반복하는 절차로 정의돼야 한다”며 “AI 모델의 위험은 연산량이 아니라 모델이 무엇을 할 수 있고, 어떻게 배포되는지에 달려 있는 만큼, 정부는 능력과 배포 방식에 따른 차등 검증 기준을 고려할 필요가 있다”고 말했다.

이에 따라 배 부총리가 내놓을 프런티어 AI 개발 방향에는 학습용 컴퓨팅 인프라 확대뿐 아니라 평가용 연산자원과 도구, 레드팀, 격리 시험환경 등 기업의 안전검증 비용과 시간을 줄일 수 있는 공용 인프라 지원방안도 담길 필요가 있다는 지적이 나온다.

다만 정부가 공용 안전검증 인프라를 구축해 기업의 부담을 낮추더라도, 개별 AI 모델의 위험관리와 안전 확보에 대한 최종 책임까지 대신할 수 없을 것이란 지적도 나온다.

곽 교수는 “자체 위험관리는 기업이 감당해야 할 몫”이라며 “정부 지원이 기업의 AI 안전 책임을 대신하는 구조가 돼서는 안 된다”고 말했다. 조승리 기자