네이버, 총선 앞두고 AI 댓글·딥페이크 감시 강화한다

뉴스 댓글 24시간 모니터링 강화

선거 관련 허위 댓글 신고 기능 추가…AI 생성 기사 판별

네이버가 오는 4월 총선을 앞두고 인공지능(AI) 댓글, 딥페이크 탐지 기능을 도입한다. 선거 관련 허위 댓글 신고 기능과 AI가 생성한 기사를 판별하는 기능도 적용한다.(사진=네이버) *재판매 및 DB 금지

[서울=뉴시스]최은수 기자 = 네이버가 오는 4월 총선을 앞두고 인공지능(AI) 댓글, 딥페이크 탐지 기능을 도입한다. 선거 관련 허위 댓글 신고 기능과 AI가 생성한 기사를 판별하는 기능도 적용한다.

네이버는 1일 네이버 다이어리 블로그에 이 같은 개선방안을 공지하고, "제 22대 국회의원 선거를 앞두고 선거 관련 허위 정보 확산을 막기 위해 다양한 기술적, 정책적 노력과 대국민 플랫폼의 책임을 다하겠다"고 밝혔다.

먼저 뉴스 댓글 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생시 빠른 대응에 나서겠다는 방침이다.

또한 문장 맥락을 파악해 혐오, 비하, 차별표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지하고 분석한다. 이와 함께 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화하고 있다.

네이버는 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다. 뉴스 댓글 외에도 카페, 블로그 등 네이버 서비스 전반의 허위 댓글을 막기 위해 해당 업데이트를 동일하게 적용할 계획이다. 아울러 선거 기간 이후에도 기사 형태의 허위 게시물 신고에 대한 'KISO 가짜뉴스 신고센터 채널' 안내도 함께 추가할 예정이다.

생성형 AI의 본격적인 활용에 따라 뉴스 이용자의 혼란을 방지하고자 AI, 로봇이 자동으로 작성한 기사를 명확히 안내한다. '이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다.'라는 문구가 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 노출되며, 이날부터 적용됐다.

네이버는 지난달 11일부터 언론사 홈 내 ‘총선’ 섹션을 신설했다.  기사 본문의 댓글 운영 여부는 언론사가 직접 설정 가능해져 언론사 댓글 권한을 강화했다.

네이버 측은 "선거 관련 허위 정보 유포와 조직적 매크로, 어뷰징을 막기 위해 최선을 다하고, 대내외의 의견을 경청하겠다"라며 "또한 선거 관련 공정하고 정확한 정보를 제공하기 위해 2월 중 선거 관련 특집 페이지도 선보이겠다"고 밝혔다.


◎공감언론 뉴시스 [email protected]