[비즈니스포스트] 정부와 오픈AI가 최첨단 인공지능(AI) 모델의 안전 확보를 위한 협력 체계를 구축한다.

과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 인공지능안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약을 맺었다고 밝혔다.
 

오픈AI가 각국의 AI안전연구소와 업무협약을 맺은 것은 미국, 영국, 일본에 이어 한국이 4번째다.

인공지능안전연구소와 오픈AI는 협약을 통해 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범사례를 공유하고, 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환한다.

두 기관은 국제적으로 적용 가능한 AI 안전 평가 체계를 마련하기 위해 협력을 이어가기로 했다.

인공지능안전연구소와 오픈AI는 협약 체결 이후 실무 협의를 거쳐 구체적 협력 과제와 일정을 확정할 예정이다.

앞서 오픈AI는 지난 5월27일 한국 정부와 공공기관, 기업을 대상으로 AI 기반 사이버 방어 능력 강화를 지원하기 위해 최신 고성능 AI 사이버 보안 모델에 대한 접근을 확대하는 ‘한국 사이버 액션 플랜’을 추진한다고 밝히기도 했다.

한국 사이버 액션 플랜은 한국 정부, 공공기관, 국내 기업들이 오픈AI의 사이버 보안 이니셔티브인 ‘데이브레이크’ 를 통해 제공되는 첨단 AI 기반 사이버 방어 역량에 폭넓게 접근할 수 있도록 지원하는 실행 계획이다.

이진수 과학기술정보통신부 인공지능정책관은 “고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점”이라며 “협약을 계기로 두 기관이 급변하는 글로벌 AI 기술과 이용 환경에 대응해 최첨단 AI의 안전 확보에 적극 협력하길 기대한다”고 말했다. 조승리 기자