구글, 선거기간 정치광고 중단…AI콘텐츠' 딱지 붙인다

'AI가 생성한 콘텐츠' 레이블 붙여야…제미나이 대답도 선거 관련해선 일부 제한

머신러닝으로 정책 위반 콘텐츠 식별하고 삭제…"선거방해 방지에 최선 노력"

[런던=AP/뉴시스]2018년 11월1일 영국 런던의 구글 사무실에 구글 로고가 걸린 모습. 2023.09.02.

[서울=뉴시스]송혜리 기자 = 구글이 내달 10일 제22대 국회의원선거를 앞두고 자사 플랫폼에서 공신력있는 정보를 제공하기 위해 선거 기간 동안 정치 관련 광고를 지원하지 않기로 했다.

아울러 생성형 인공지능(AI)로 제작된 콘텐츠는 레이블을 붙이도록 하고, 자사 생성형AI 대답할 수 있는 선거 관련 내용에 제한을 두기로 했다. 플랫폼이 악용되지 않도록 하기 위해선 머신러닝(ML)기술을 투입해 정책 위반 콘텐츠를 식별하고 삭제한다.

구글코리아는 최근 공식 블로그를 통해 '공정한 선거를 위한 구글의 노력'이란 게시물을 올렸다. 이를 통해 구글 측은 유권자에게 양질의 정보를 제공하고, 플랫폼이 악용되지 않도록 보호하며, 사람들이 AI으로 생성된 콘텐츠를 확인할 수 있도록 노력하고 있다고 설명했다.

우선 구글 홈페이지 검색 시에 공신력 있는 정보를 우선 제공할 수 있도록 설계했다. 또 유권자에게 투표 방법, 유권자 등록 방법과 관련해 공신력 있는 정보를 안내하는 링크를 제공하겠다고 설명했다. 아울러 구글은 현지 규정을 준수하기 위해 선거 기간 동안 정치 관련 광고를 지원하지 않는다고 덧붙였다.

AI가 만든 허위정보 유통을 막기 위해선 드림 스크린(Dream Screen)과 같은 유튜브 생성형 AI 기능을 활용해 제작된 콘텐츠에 레이블을 표시하기 시작했다고 설명했다. 이에 따라 유튜브 크리에이터들이 실제처럼 보이지만 변형 됐거나 합성된 콘텐츠를 제작했을 때, 이를 사실을 공개하도록 요구하고 해당 콘텐츠를 시청하는 이용자가 알 수 있도록 레이블을 표시할 것이라고 했다.

아울러 구글은 자사의 AI모델 제미나이가 응답할 수 있는 선거 관련 내용에 제한을 두며, 자사 제품을 통해 생성된 모든 이미지에 구글 딥마인드의 워터마크를 삽입할 수 있는 방법을 모색하고 있다고 덧붙였다.

구글은 자사의 플랫폼이 악용되지 않도록 플랫폼을 안전하게 보호하기 위한 정책을 오랫동안 시행해왔으며 이런 정책은 현재도 지속적으로 시행되고 있다고 설명했다. 특히 유튜브는 머신러닝(ML)과 인력이 함께 진행하는 리뷰 과정을 통해 정책 위반 콘텐츠를 식별하고 삭제하고 있으며, 지난해 10월부터 12월까지 유튜브는 전 세계에서 커뮤니티 가이드를 위반한 900만개 이상의 동영상을 삭제했다고 덧붙였다.

구글은 "C2PA 연합 및 표준에 가입했다"면서 "세계 선거에서 AI를 통해 생성된 기만적인 이미지, 오디오 또는 비디오 콘텐츠가 선거를 방해하는 것을 방지하기 위해 노력하기로 약속했다"고 강조했다. 이어 "앞으로도 유권자에게 온라인에서 믿을 수 있고 유용한 정보를 제공하기 위해 최선을 다할 것"이라고 덧붙였다.


◎공감언론 뉴시스 [email protected]