[비즈니스포스트] 카카오가 도입한 인공지능(AI) 필터링 기능으로 뉴스 댓글에서 욕설과 비속어가 크게 줄었다.

카카오는 인공지능(AI) 기반 댓글 필터링 기능인 ‘세이프봇’의 성과분석 결과를 14일 공개했다.
 

세이프봇은 욕설과 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI기술로 분석해 자동으로 필터링하는 기능이다. 카카오가 2020년 12월 도입했다.

카카오에 따르면 세이프봇 적용 전과 후의 월평균 수치를 비교한 결과 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 감소했다.

이용자가 직접 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 이는 세이프봇의 능동적 조치에 따른 영향으로 분석이다.

카카오는 AI기술을 고도화해 세이프봇의 성능을 더욱 강화한다는 방침을 세웠다.

카카오는 앞서 8월 증오 발언 대응을 위한 코딩북 제작에 나선 가운데 증오 발언을 판별하는 학습데이터를 구축해 내년 상반기 세이프봇에 적용하기로 했다.

김종한 카카오 다음사업개발실장은 “카카오의 AI기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다”며 “앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화를 위해 노력하겠다”고 말했다. 임민규 기자