AI폰, 양날의 검?…삼성·애플 '온디바이스' 보안 강조하는 이유

美 씨넷 조사…응답자 34% AI 원인 개인정보 유출 우려

갤럭시 AI·애플 인텔리전스 모두 '온디바이스 AI'…기기가 AI 자체 구동

애플 인텔리전스 로고. (사진=애플) *재판매 및 DB 금지

[서울=뉴시스]윤현성 기자 = 올해 본격적으로 등장한 AI(인공지능) 스마트폰을 두고 개인정보 유출, 신뢰성 문제 등 우려가 적지 않은 것으로 나타났다. 삼성전자, 애플 등 주요 제조업체들이 자사 AI 폰을 두고 '온디바이스 AI'를 통해 철저한 보안을 유지하고 있다고 거듭 강조하고 있는 것도 이 때문으로 보인다.

3일 업계에 따르면 최근 정보통신산업진흥원(NIPA)은 'AI, 스마트폰의 새로운 혁신 촉발할까?'라는 제목의 보고서를 통해 스마트폰 시장 내 AI의 등장과 향후 도전과제 등에 대해 분석했다.

NIPA는 사진 편집 및 대화 요약과 같은 생성형 AI 기능이 스마트폰 시장에 새로운 활력을 불어넣을 것으로 평가된다면서도 윤리 문제, 개인정보 보호 등 과제가 남아있다고 진단했다.

스마트폰 시장 뿐만 아니라 AI 기술이 전반적으로 발전하면서 딥페이크 등 불법 콘텐츠 생성에 대한 윤리 문제는 꾸준히 제기되고 있다. AI폰에도 이미지 조작·생성 도구 등이 포함되며 보다 주의를 기울여야 하는 상황이다.

이미지 뿐만 아니라 AI가 내놓는 답변에 대한 신뢰성 문제도 여전하다. 이에 대해 NIPA 보고서는 닉 터리 오픈 AI 제품 책임자가 "최근 (AI가) 신뢰성 문제에 있어 많은 진전을 보이고는 있으나 여전히 AI를 맹목적으로 신뢰해서는 안된다"는 입장을 밝힌 것을 소개하기도 했다.

AI와 관련한 또 다른 큰 우려는 개인정보 보호 문제다. NIPA는 미국 정보통신 관련 미디어인 CNET(씨넷) 조사 결과를 인용했다. 해당 조사 결과에 따르면 응답자의 약 25%가 AI 기능이 도움이 되지 않는다고 보고 있으며, 현재 사용 중인 스마트폰에 더 많은 기능을 추가하는 것을 원하지 않는다는 입장을 밝혔다.

이외에도 응답자 34%는 AI로 인한 개인정보 유출에 대한 우려를 표명했고, 45%는 AI 도구 및 기능에 가입할 의사가 없다고 답했다.

AI 폰 시대 본격 띄운 삼성도 보안부터 강조…"실시간 통·번역 등 AI 기능 기기 내부서만 가동"

[서울=뉴시스] 고승민 기자 = 삼성전자의 첫 AI 폰 '갤럭시 S24' 시리즈가 공개된 18일 서울 강남구 '삼성 강남'에 갤럭시 S24가 전시돼 있다. 갤럭시 S24 시리즈는 '갤럭시 S24 울트라', '갤럭시 S24+(플러스)', '갤럭시 S24' 총 3개 모델로 출시됐다. 사전 판매는 19일부터 25일까지 진행한다. 국내 공식 출시는 1월31일이다. 2024.01.18. [email protected]

이같은 소비자 우려를 인지한듯 삼성전자와 애플 등 주요 제조업체는 AI 폰을 출시하면서 보안 역량을 꾸준히 내세우고 있다. AI 스마트폰과 함께 등장한 '온디바이스 AI'가 대표적이다. 스마트폰의 AI 기능이 외부 서버 등과 연동되는 것이 아니고, 통신망 등이 없는 상태에서도 기기 내부에서 자체적으로 가동된다는 것이다.

AI 폰 시대 개막에 앞장선 삼성전자는 자사 첫 AI 폰인 '갤럭시 S24 시리즈'를 공개하면서 온디바이스 AI를 강조한 바 있다.

삼성전자 AI 폰의 가장 대표적인 기능은 '실시간 통·번역'이다. 통화나 메시지 내용을 AI가 인식하고 통역을 하는 만큼 AI가 민감한 정보를 듣게 될 가능성도 있다.

이에 대해 삼성전자는 실시간 통·번역이 온디바이스 AI로 구동되며, 외부 서버나 클라우드의 자원을 이용하는 방식이 아니라 기기 자체의 자원만 이용해 서비스를 제공한다고 설명하고 있다. 번역을 위해서 사용자가 입력한 데이터가 외부 서버로 전송되지 않기 때문에 개인정보 노출을 걱정할 필요가 없다는 것이다.

이뿐만 아니라 삼성전자의 갤럭시 AI는 사용자가 자율적으로 기능 활성화 및 데이터 제어 등을 실행할 수 있고, 데이터가 아예 외부로 빠져나가지 않도록 '기기 내에서만 데이터 처리'와 같은 기능도 제공한다.

이달 공개될 '애플 인텔리전스'도 온디바이스 AI 기반…외부 서버 연동 시에도 '암호화' 등 유지

[쿠퍼티노=AP/뉴시스] 9일(현지시각) 미 캘리포니아주 쿠퍼티노의 애플 본사에서 신제품 발표회가 열려 아이폰 16 프로가 공개되고 있다. 애플은 인공지능(AI) 기능을 탑재할 수 있는 최신 스마트폰 아이폰16 시리즈를 이날 공개했다. 아이폰16 시리즈는 6.1인치형 기본 모델과 6.7인치형 플러스, 고급 모델인 6.3인치형 프로와 6.9인치형 프로맥스로 구성됐다. 2024.09.10.

이번 달 중 AI 시스템 '애플 인텔리전스' 공개를 앞두고 있는 애플도 온디바이스 AI 기반으로 보안성을 높였다고 밝혔다. 그간 애플이 이용자 프라이버시 보호 등을 최우선해온 만큼 AI 서비스에서도 이같은 기조를 이어간다는 방침이다.

애플 인텔리전스 또한 기본적으로 아이폰·아이패드 등 기기 내에서 최대한 데이터를 처리하도록 한다는 게 애플의 설명이다. AI를 사용할 때 외부에서 아이폰 데이터에 접근할 수 없음은 물론, 애플이 수집하게 되는 데이터도 최소화한다는 것이다.

또한 애플 인텔리전스는 이용자의 특성을 분석해 글쓰기 도구, 알람 요약 등에 있어서 개인화된 맞춤형 기능을 제공하게 되는데, 이 또한 대부분 온디바이스 AI를 통해 기기 자체적으로 이뤄진다.

특히 애플 인텔리전스 AI가 활성화되면 이른바 '프라이빗 클라우드 컴퓨팅'이라는 보안 시스템이 적용된다. 이 시스템이 적용되면 AI가 활용한 데이터에는 사용자 외에는 누구도 접근할 수 없고, 데이터가 별도로 보관·저장되지도 않는다.

물론 모든 AI 기능을 온디바이스로만 쓸 수 있는 것은 아니다. 고도의 연산이 필요한 복잡한 명령이 오게 되면 삼성전자나 애플 모두 AI가 기기 외부 클라우드를 활용해 작동하게 된다.

삼성전자와 애플은 AI가 외부 클라우드·서버를 활용할 경우에는 기본적으로 사용자의 개인정보가 암호화 처리되며, 외부에 어떤 데이터가 공유되는지 사용자가 확인·제어할 수 있도록 하는 식으로 보안성을 유지하고 있다.

AI 폰의 보안성을 두고 NIPA는 "글로벌 기업들이 데이터 보안을 강화하려는 노력에도 불구하고 개인정보 유출에 대한 우려가 있다"며 "AI가 스마트폰을 혁신할 잠재력을 보유하고는 있으나, 소비자들의 우려를 효과적으로 해결하는데 더욱 노력해야 할 필요성이 있는 것으로 보인다"고 진단했다.


◎공감언론 뉴시스 [email protected]