방통위, 연내 AI서비스 이용자보호 강화법 제정…"위험성 평가"

"AI서비스 신뢰성 보장하고 역기능으로부터 이용자 보호"

AI 생성물 표시제 도입…"구글·메타·네이버 등도 자율적으로 이행"

[서울=뉴시스] 심지혜 기자= 이상인 방송통신위원회 부위원장(왼쪽 세번째)이 21일 정부과천청사에서 2024년도 업무계획에 대해 발표하고 있다. 2024.3.21

[서울=뉴시스]심지혜 기자 = 정부가 올해 인공지능(AI) 서비스 이용자 보호 강화를 위한 법률 제정을 추진한다. 이를 통해 AI 서비스 신뢰성을 보장하고 역기능으로부터 이용자를 보호한다는 계획이다.

방송통신위원회는 21일 정부서울청사에서 2024년도 업무계획 브리핑에서 AI 서비스 이용자 보호 강화 계획에 대해 발표했다.

방통위는 우선 AI서비스의 신뢰성을 보장하고, 역기능으로부터 이용자를 보호하기 위한 ‘AI서비스 이용자보호에 관한 법률’을 연내 제정한다.

미국의 경우 지난해 10월부터 AI 생성 콘텐츠 워터마크를 표시하도록 하는 등 AI에 대한 행정명령을 공개했다. 유럽연합(EU)에서는 이미 AI 규제법이 통과됐다.

박동주 방통위 방송통신이용자정책국 국장은 "먼저 AI 이용자 보호를 위한 범정부적인 보호체계를 마련할 것"이라며 "AI 진흥 서비스가 출시될 때에도 영향도 평가를 기본적으로 받게 할 계획이다. 고영향을 미치는 서비스라고 판정이 되면, 그 부분에 대해 다시 위험성이나 데이터 관리 등에 대해 적합도를 평가 받도록 하겠다"고 했다.

이어 "진흥 서비스 자체가 이용자에게 피해를 끼칠 수 있기 때문에 이에 대해 적절한 구제 절차를 어떻게 할 것인지, 분쟁조정 절차를 어떻게 할 것인지 등도 예상하기 위해 연구반을 진행하고 있다"고 부연했다.

이와 함께 AI 생성물 표시제도 도입한다. AI를 이용해 생성한 콘텐츠를 게시할 때 AI 생성물임을 드러내는 표시를 하도록 의무화 한다는 것이다.

박 국장은 "AI 생성물 표시제 내용을 포함한 정보통신망법 개정안이 김성수 국민의힘 의원을 통해 발의된 상황"이라며 "기본적으로 국민의 권리와 의무를 부과하는 사항에 대해서는 법률유보의 원칙을 따를 것"이라고 말했다.

이어 "구글, 메타, 엑스(X), 네이버, 카카오 등도 AI 생성물에 대해서는 자율적으로 AI 생성물에 대해 표시하겠다고 했다"며 "이를 위한 기능도 마련하고 있다"고 부연했다.

방통위는 생성형 AI 피해 예방을 위해 가이드라인도 마련할 계획이다. 이를 바탕으로 사업자들이 자발적으로 개선할 수 있도록 유도한다는 방침이다.

가이드라인에는 학습데이터 관련 투명성 제고, 설명 가능성 보장, 필터링 등 기술적·관리적 조치 등을 검토하는 내용을 담을 예정이다.

아울러 초상권 침해, 디지털 성범죄 등 모방범죄가 우려되는 AI 관련 피해구제를 위해 전담 신고창구도 설치한다. 이는 온라인피해365센터 내에 마련한다.


◎공감언론 뉴시스 [email protected]