네이버, 'AI클린봇' 고도화로 악플 노출비율 확 낮췄다

업그레이드 후 악플 노출 비율 8.9%로 전년 대비 4.6%p↓

댓글 이용 제한 상태 표시, KISO 상반기 발표 가이드라인 준수 예정

네이버 AI클린봇 도입 후 악플 생성비율 및 노출비율 변화(자료=네이버 다이어리) *재판매 및 DB 금지

[서울=뉴시스]최은수 기자 = 네이버가 도입한 인공지능(AI) 기반 악성댓글 차단 프로그램 'AI클린봇'이 악플 생성비율을 대폭 낮춘 것으로 나타났다. 네이버는 앞으로도 이 기술을 더욱 고도화하고, 올 상반기 중 댓글 작성자의 댓글 이용 제한 상태를 표시하는 등 절차를 강화하겠다는 방침이다.

30일 네이버 다이어리에 따르면 2023년 기준 업그레이드된 AI클린봇 적용 이후 악플 생성비율은 16.7%, 악플 노출 비율은 8.9%로 전년 대비 각각 1.9%포인트, 4.6%포인트씩 낮아졌다.

지난 2019년 21.9%에 달하던 악플 노출 비율 역시 한자리 수로 떨어지며 유의미한 결과를 보여주고 있다.

AI클린봇은 네이버가 2019년 4월 업계 최초로 욕설, 혐오 표현 등 악성 댓글 필터링을 위해 선보인 기술이다. AI클린봇은 문맥의 맥락을 바탕으로 욕설, 저속 표현뿐 아니라 선정적, 차별적, 폭력적, 비하적 표현을 유형화한다. 특히 N번방 사건 등 아동청소년 관련 성범죄, 성착취물 관련 성적 표현을 걸러내기 위해 지난 2021년 1월 ‘AI클린봇 2.5’를 적용했다.

네이버는 앞으로도 타인에게 상처를 주거나 불쾌감을 주는 혐오, 비하, 차별 표현에 대한 강화 학습을 통해 클린봇 AI탐지 기술을 더욱 고도화할 계획이다. 최근 댓글 영역에서의 개인의 법적 책임에 대한 문구를 추가하며 사전고지도 강화했다.

아울러 올해 상반기 중 댓글 작성자의 댓글 이용 제한 상태를 표시하는 프로필 영역을 강화하고, 댓글 이용 제한 해제 시 타인의 권리 보호, 온라인 공간에서의 상호 존중을 숙지하는 절차를 추가할 예정이다.

이밖에도 한국인터넷자율정책기구(KISO)가 상반기 발표 예정인 혐오표현 자율정책 가이드라인을 준수해 이용자 정책을 개정할 예정이다.

이를 통해 지난 몇 년간 이어온 온라인 혐오, 비하, 차별 표현에 대한 기술적, 정책적으로 강력한 대응에 나서겠다는 방침이다.

네이버 관계자는 “안전하고 건강한 온라인 공간을 위해 기술적, 정책적, 서비스적 노력에 최선을 다하겠다”고 밝혔다.


◎공감언론 뉴시스 [email protected]