'총선 딥페이크 근절' 카카오, AI이미지에 '워터마크' 붙인다

카톡 채널 '칼로 AI프로필'에 먼저 도입

AI로 작성된 기사에도 상단에 안내 문구 표기

카카오 로고(사진=카카오) *재판매 및 DB 금지

[서울=뉴시스]최은수 기자 = 카카오가 오는 4월10일 치러지는 제22대 국회의원 선거를 앞두고 딥페이크 근절을 위해 카카오브레인의 생성형 AI(인공지능) 이미지 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다고 13일 밝혔다.

카카오는 카카오톡 채널인 ’칼로 AI 프로필’ 기능에 비가시성 워터마크를 먼저 도입했다. 이미지 생성 웹 기반 전문가 툴인 ‘칼로 AI(Karlo.ai)’에도 이달 내 도입될 예정이다.

비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 칼로로 생성된 이미지라는 정보를 담을 수 있다. 비가시성 워터마크는 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크가 제거되거나 훼손되지 않는다.

또한 카카오는 언론사에서 AI를 이용해 생성한 기사는 사용자가 쉽게 인지할 수 있도록 상단에 해당 사실을 표기하고 있다. 해당 기사에는 “자동생성 알고리즘에 의해서 작성된 기사” 라고 노출한다.

이밖에도 카카오는 올해 치러지는 제 22대 국회의원 선거를 맞아 선거관련 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위한 여러 정책 기술적 조치를 마련했다. 앞서 한국인터넷기업협회 회원사들과 함께 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다. 해당 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간 동안 참여 기업 간 긴밀한 협력 기조를 세우기 위해 마련됐다.

건전한 선거 문화 정착을 위한 이용자 주의를 위해 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오를 통해 캠페인을 지난 3월 8일부터 진행하고 있다.

창작자나 이용자가 악의적인 딥페이크를 포함한 선거 관련 허위 정보가 담긴 콘텐츠를 발견한 경우 공지문 속 링크나 신고하기 팝업 등을 통해 중앙선거관리위원회로 신고할 수 있다. 카카오 고객센터를 비롯해 카카오 권리침해신고센터, 포털 다음 권리침해신고센터, 카카오의 안전한 디지털 세상 등에 신고 방법 확인이 가능하다.

카카오 공식 채널을 통해 딥페이크 근절을 위한 이용자 유의 사항을 발송해 이용자들이 딥페이크를 악용한 허위 조작 정보를 주의할 수 있도록 한다. 카카오 나우 배너를 통해 딥페이크 악의적 이용에 유의하도록 안내하고 있으며, 오픈채팅 탭에서도 딥페이크 근절을 위한 캠페인 배너 광고를 진행할 예정이다.

카페 게시글, 티스토리, 카카오스토리, 브런치 스토리 등 웹 게시글과 댓글 및 카카오 TV 게시물, 뉴스 댓글 등 위반사항이 발견되면 이용자가 신고할 수 있도록 하며, 빠른 조치를 위해 중앙선거관리위원회 신고센터로 바로 연결된다. 게시물의 임시조치는 중앙선거관리위원회의 결정에 따라 빠르게 조치될 수 있도록 한다.

카카오는 이용자 보호를 위해 자체 신고 센터를 24시간 운영해 빠른 모니터링 및 조치가 가능하도록 노력하고 있다. 공개 영역에 딥페이크 영상이나 영상 캡쳐 이미지 등 딥페이크 허위 조작이 확인된 내용에 한해서는 즉각 조치를 취한다.

허위 정보 확산 및 불공정 선거보도를 막기 위한 노력도 강화한다. 다음 곳곳에 ‘허위사실 및 비방 게시물 신고’, ‘오보 및 권리침해 신고, ‘불공정 기사 모음’, ‘정정∙반론∙추후 보도 기사’ 배너를 게시한다. 또한 이용자 참여 공간에 자정 캠페인 및 처벌조항을 명시하는 동시에, 다음 콘텐츠 파트너사가 이용하는 다음채널 스튜디오에서도 콘텐츠 작성 시 주의를 요청하는 캠페인을 진행한다.

카카오 측은 "앞으로 남은 선거 운동 기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나갈 것"이라고 밝혔다.


◎공감언론 뉴시스 [email protected]