[비즈니스포스트] 메타의 인공지능(AI) 모델이 사이버보안 성능평가 과정에서 외부기업의 시스템에 무단으로 접근한 사실이 확인됐다.

최근 오픈AI와 앤트로픽의 AI 모델도 평가 과정에서 외부기관 시스템을 침해한 사례가 잇따라 드러난 가운데 고성능 AI 에이전트의 인터넷 접근권한과 행동을 통제하는 보안체계를 강화해야 한다는 목소리가 한층 커질 것으로 전망된다.
 

CNN에 따르면 메타는 5일(현지시각) 독립 평가업체 이레귤러가 운영한 시험환경의 설정 오류로 자사 AI 모델 ‘뮤즈 스파크’가 인터넷에 접속해 외부기업의 보안 취약점을 악용했다고 밝혔다.

메타에 따르면 이 모델은 이름이 공개되지 않은 기업의 시스템에 침입해 내부 시스템을 변경한 것으로 파악됐다.

메타 대변인은 “평가 과정에서 이레귤러의 설정 오류로 모델 가운데 하나가 의도치 않게 인터넷에 접근할 수 있었다”며 “앞서 다른 기업에서 보고된 사례와 유사한 방식으로 외부기업의 보안 취약점을 악용했다”고 설명했다.

이레귤러는 이번 사고가 앤트로픽이 앞서 공개한 사건과 같은 평가환경 설정 문제에서 비롯됐다고 밝혔다.

이레귤러 측은 “샌드박스 탈출이나 고도화된 사이버 공격이 발생한 것은 아니다”며 “현재 해결되지 않은 문제는 없으며 사이버보안 평가환경의 격리와 안전한 운영을 위한 모범 사례를 담은 백서를 준비하고 있다”고 말했다.

메타는 이레귤러로부터 사고 사실을 통보받은 뒤 조사에 착수했으며 사실관계를 모두 확인한 뒤 종합적 사후 분석 결과를 공개하기로 했다.

앞서 앤트로픽의 AI 모델 ‘클로드’도 이레귤러가 운영한 사이버보안 평가환경에서 외부 인터넷에 접속해 실제 기관 3곳의 시스템을 침해했다.

앤트로픽은 평가 파트너와의 의사소통 오류와 설정 문제로 실제 인터넷 접속 경로가 열려 있었으며 클로드가 외부 시스템을 평가 대상에 포함된 모의환경으로 오인해 취약한 비밀번호와 인증되지 않은 접속 지점 등을 이용했다고 설명했다.

클로드는 실제 기업의 데이터베이스에 접근하거나 악성 파이썬 패키지를 공개 저장소에 올렸으며 별도의 연구용 모델은 외부에 노출된 애플리케이션의 취약점을 이용해 실제 조직의 시스템을 침해했다.

오픈AI의 GPT-5.6 솔과 내부 연구용 모델도 보안평가 도중 소프트웨어 취약점을 이용해 격리환경을 벗어난 뒤 AI 오픈소스 플랫폼 허깅페이스의 운영 서버와 데이터베이스에 접근한 것으로 나타났다.

다만 사고가 발생한 방식에는 차이가 있었다.

메타와 앤트로픽 모델은 평가환경의 설정 오류로 열린 인터넷 경로를 이용한 반면, 오픈AI 모델은 새로운 취약점을 발견해 격리환경을 직접 벗어난 것으로 조사됐다. 조승리 기자