[비즈니스포스트] 정부가 미국 인공지능(AI) 기업 앤트로픽과 손잡고 글로벌 AI 안전·보안 협력 체계 구축에 나선다.

과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보, 사이버보안 분야 협력을 위한 업무협약(MOU)을 체결했다고 밝혔다.

과기정통부는 이번 협약을 통해 AI가 사이버 공격과 방어에 미치는 영향을 공동으로 분석하고, 한국어 환경에서의 AI 모델 안전성 및 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 AI 안전성 확보를 위한 협력 체계를 강화하기로 했다.

두 기관은 우리나라 AI안전연구소(AISI)와 앤트로픽 간 협력도 확대한다. AI 모델과 자율형 AI 에이전트의 안전성 평가를 비롯해 AI 안전성 확보를 위한 공동 연구와 정보 교류를 추진한다.

사이버보안 분야에서는 금융권을 포함한 다양한 산업 영역에서 AI 취약점을 발굴하고, 사이버 위협 관련 전문 지식과 정보를 신속하게 공유하는 협력 체계를 구축하기로 했다.

앤트로픽은 협약 체결에 앞서 17일 서울에 한국 사무소를 공식 개소했다. 이는 일본, 인도, 호주에 이어 아시아태평양 지역에서 4번째 개설이다. 

앤트로픽은 한국 사무소를 개소하며 연 간담회에서 생성형 AI 모델 '클로드'를 앞세워 국내 주요 대기업과 스타트업, 연구기관, 공익단체까지 협력 범위를 확대하며, 기업용 AI 시장에서 영향력을 키우겠다는 전략을 내놨다. 조승리 기자