"이용자 인격권 침해 받지 않아야"…정부 첫 생성형 AI 가이드라인 발표

방통위, 생성형 AI 이용자 보호 가이드라인 발표…내달 28일 시행

생성형 AI 결정 과정 이용자에 고지 필요…부적절 콘텐츠 관리도

[서울=뉴시스]윤현성 기자 = 기존 콘텐츠를 활용해 유사 콘텐츠를 새로 만들어내는 '생성형 인공지능(생성형 AI)' 서비스 과정에서 이용자 피해를 방지하기 위한 가이드라인이 나왔다.

가이드라인은 생성형 AI 서비스 사업자들이 AI가 이용자 인격권을 침해하지 않도록 알고리즘 등으로 통제하고, AI의 윤리적 기준 준수 여부 등을 지속 검토해야 한다는 내용을 담았다.



방송통신위원회는 28일 텍스트·오디오·이미지 등 생성형 AI 서비스 이용 과정에서 피해를 방지하기 위해 사업자들이 참고할 수 있는 실천 방안을 담은 '생성형 AI 서비스 이용자 보호 가이드라인'을 발표했다고 밝혔다.

이번 가이드라인은 오는 3월 28일부터 시행된다. 생성형 AI 개발사 및 서비스 제공자를 대상으로 서비스 전반에 걸쳐 추구해야 할 4가지 기본원칙과 이를 실현하기 위한 6가지 실행 방식을 제시하고 있다.

6가지 실행 방식의 경우 ▲이용자 인격권 보호 ▲AI 기반 결정 과정을 알리려는 노력 ▲다양성 존중 노력 ▲입력데이터 수집·활용 과정에서의 관리 ▲문제 해결을 위한 책임과 참여 ▲건전한 유통·배포를 위한 노력 등으로 설정됐다.



구체적으로 보면 생성형 AI에 의한 인격권 침해 요소 발견 시 사업자는 이를 통제하기 위한 알고리즘 구축 등에 나서야 하고, 결과물이 AI로 생성됐음을 명확히 고지해야 한다.

또 서비스 이용자들에게 생성형 AI의 결정 과정이 어떻게 이뤄지는 관련 정보도 제공해야 하며, 생성형 AI가 부적절한 콘텐츠를 생성·공유하지 않고 윤리적 기준을 준수하는지 지속 검토·관리해야 한다는 내용도 담았다.

가이드라인은 이같은 실행 방식과 함께 사업자들의 수용성 및 이해도 제고를 위해 실제 제공되고 있는 서비스 중 이용자 보호 영역의 모범 사례도 제공한다.

방통위는 정보통신정책연구원(KISDI) 및 AI 전문가가 참여하는 연구반을 구성하고, 그간의 생성형 AI 피해 사례와 국내외 주요 서비스별 이용자 보호 현황 등을 검토해 이번 가이드라인을 마련했다고 설명했다.

이 과정에서 이해관계자 의견을 수렴하기 위해 지난해 9월 열린 'AI서비스 이용자보호 학술회의'를 통해 가이드라인의 주요 내용을 발표하고, 주요 사업자 대상 기업 간담회를 개최하는 등 현실적이고 실행 가능한 내용을 담기 위해 노력했다.

이번 가이드라인은 28일부터 방통위 누리집에서 내려 받을 수 있다. 방통위는 시행일 기준 2년마다 가이드라인에 대한 타당성을 검토해 개선 등 조치를 취할 계획이다.

신영규 방통위 방송통신이용자정책국장은 "이번 가이드라인을 통해 생성형 AI 사업자가 바람직한 이용자 보호 방안을 마련할 수 있게 될 것으로 기대한다"며 "이를 통해 궁극적으로 이용자의 권리가 보장되고 관련 서비스가 신뢰받을 수 있는 기반을 마련할 수 있을 것"이라고 말했다.


◎공감언론 뉴시스 [e-mail]