▲ 18일 과학기술정보통신부가 앤트로픽과 업무협약을 맺고 인공지능 안전 및 보안 협력체계를 구축한다고 밝혔다. 사진은 17일 서울 여의도 콘래드 호텔에서 열린 앤트로픽 서울 사무소 개소 기자간담회 모습. <비즈니스포스트>
과학기술정보통신부는 18일 앤트로픽과 AI 안전성 확보, 사이버보안 분야 협력을 위한 업무협약(MOU)을 체결했다고 밝혔다.
과기정통부는 이번 협약을 통해 AI가 사이버 공격과 방어에 미치는 영향을 공동으로 분석하고, 한국어 환경에서의 AI 모델 안전성 및 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 AI 안전성 확보를 위한 협력 체계를 강화하기로 했다.
두 기관은 우리나라 AI안전연구소(AISI)와 앤트로픽 간 협력도 확대한다. AI 모델과 자율형 AI 에이전트의 안전성 평가를 비롯해 AI 안전성 확보를 위한 공동 연구와 정보 교류를 추진한다.
사이버보안 분야에서는 금융권을 포함한 다양한 산업 영역에서 AI 취약점을 발굴하고, 사이버 위협 관련 전문 지식과 정보를 신속하게 공유하는 협력 체계를 구축하기로 했다.
앤트로픽은 협약 체결에 앞서 17일 서울에 한국 사무소를 공식 개소했다. 이는 일본, 인도, 호주에 이어 아시아태평양 지역에서 4번째 개설이다.
앤트로픽은 한국 사무소를 개소하며 연 간담회에서 생성형 AI 모델 '클로드'를 앞세워 국내 주요 대기업과 스타트업, 연구기관, 공익단체까지 협력 범위를 확대하며, 기업용 AI 시장에서 영향력을 키우겠다는 전략을 내놨다. 조승리 기자
