▲ 19일 LG유플러스는 인공지능 모델인 익시젠의 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 진행되는 레드팀 챌린지에 참여한다고 밝혔다. 사진은 LG유플러스 직원들이 레드팀 챌린지 참여를 응원하는 모습. < LG유플러스 >
글로벌 AI 레드팀 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC가 열리는 스페인 바르셀로나에서 개최된다.
해당 챌린지는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 탈렌트 아레나(Talent Arena) 2026의 핵심 프로그램 중 하나로, 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.
LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 익시젠(ixi-GEN)을 출품해 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검한다.
챌린지는 약 100명의 참가자가 레드팀 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다.
이번 레드팀 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책·안전 장치를 우회할 수 있는지를 검증하는 것이 특징이다.
참가자들은 △안전장치 우회 △편향·차별 △인권 침해 △사이버 공격 △불법 콘텐츠 △허위정보 △응답 비일관성 등 7개 카테고리에서 AI의 대응 수준을 평가한다.
특히 이번 챌린지는 AI 응답의 정확성 여부 아닌 해서는 안 되는 응답을 했는지 여부를 성공 기준으로 삼는 평가 방식을 적용한다.
예를 들어 불법 행위나 인권 침해와 관련한 정보가 실제로 부정확하더라도, AI가 해당 정보를 제공했다면 취약점으로 인정된다. 이는 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검하기 위한 취지다.
LG플러스는 이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 챌린지를 통해 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화한다.
또 글로벌 통신사, AI 전문가들과 교류를 통해 AI 보안과 책임 있는 활용을 위한 논의를 확대한다. 조승리 기자
