독파모 경쟁 SKT·업스테이지, '사이버보안 AI' 손잡는다

국내 대표 보안기업·대학과 ‘독자 AI 사이버보안 협의체’ 출범

보안기업 현장 데이터로 A.X K·솔라 고도화…상용 솔루션 공동 실증

두 AI 모델 상호 공격해 취약점 점검…대학 3곳이 독립 평가

[서울=뉴시스]SK텔레콤은 업스테이지와 국내 정보보호 기업, 대학이 참여하는 독자 AI 사이버보안 협의체를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 8일 밝혔다. (사진=SKT 제공) *재판매 및 DB 금지

[서울=뉴시스]심지혜 기자 = 독자 인공지능(AI) 파운데이션 모델 3차 평가에서 경쟁 중인 SK텔레콤과 업스테이지가 사이버보안 분야에서 힘을 모으기로 했다. 국내 주요 정보보호 기업들의 현장 데이터로 각자의 AI 모델을 고도화하고 상용 보안 제품·서비스에 적용해 성능과 안전성을 검증할 계획이다.

SK텔레콤은 업스테이지와 국내 정보보호 기업, 대학이 참여하는 독자 AI 사이버보안 협의체를 출범하고 AI 정보보호 기술 협력을 위한 업무협약을 체결했다고 8일 밝혔다.

협의체에는 SK텔레콤과 업스테이지를 비롯해 SK쉴더스, 시큐아이, 안랩, 라온시큐어, 지니언스, 파이오링크 등 정보보호 기업 6곳과 고려대, 숭실대, 부산대 등 대학 3곳을 포함해 총 11개 기관이 참여했다.

이번 협력으로 정부 독자 AI 파운데이션 모델 프로젝트 3단계에 진출한 SK텔레콤의 A.X K 시리즈와 업스테이지의 솔라를 사이버보안 분야에 활용한다.

양사는 참여 기업들이 제공하는 악성코드·소프트웨어 취약점 분석, 보안관제 등 실제 보안 업무 데이터를 각자의 모델에 학습시킬 예정이다. 이를 통해 보안 관련 지식을 보강하고 위협 상황을 분석하거나 대응하는 능력을 높인다는 구상이다.

우선 사전학습 단계에서 SK텔레콤은 차기 모델 A.X K3에 보안 분야 데이터와 모두의 AI 서비스의 안전한 운영에 필요한 데이터를 추가한다. 업스테이지는 대용량 코드와 장기간 로그를 분석하는 솔라 차기 모델에 취약점 탐지·분석 데이터를 집중적으로 학습시킬 계획이다.

사후학습에서는 실제 보안 업무 수행 능력을 높이는 데 집중한다. 소프트웨어 취약점 분석과 패치, 보안관제센터의 사고 대응, 보안 도구의 안전한 활용 등이 주요 학습 대상이다.

이 과정에서 보안기업들은 각사가 보유한 위협정보와 보안 솔루션 운영 데이터 등을 제공한다.

학습한 AI 모델은 실제 보안 제품과 서비스에서 성능을 검증받는다. 참여 기업들은 보안 패치가 아직 나오지 않은 제로데이 취약점 분석과 실시간 보안관제 등에 A.X K와 솔라를 적용해 공동 실증을 진행할 계획이다. 실증 과정에서 확인된 분석·대응 사례는 다시 학습 데이터로 활용한다.

두 모델이 서로의 취약점을 찾아내는 상호 레드티밍도 도입한다. A.X K와 솔라가 상대 모델에 공격을 시도하고 대응 능력을 평가하는 방식이다. 이 과정에서 발견한 취약 사례를 학습에 반영해 양쪽 모델의 방어 능력을 보완할 예정이다.

SK텔레콤은 A.X K2 개발 과정에서 구축한 자체 레드티밍 자동화 체계(SERT)를 활용한다. 해당 체계를 통해 생성·학습한 공격 대응 데이터는 약 1만5000건이다. 업스테이지도 보유 중인 고난도·안전성 데이터 21만건과 위험한 요청에 응하지 않도록 하는 정렬 체계를 보안 기능 개선에 활용한다.

평가에는 참여 대학들이 제3자로 나선다. 고려대는 AI의 실행파일 분석 능력과 공격 방어력을, 숭실대는 보안 성능 평가 기준과 안전장치인 가드레일 우회 공격 대응력을 검증한다. 부산대는 차기 모델과 경량 모델의 성능과 안전성을 점검한다.

협의체는 정기적인 기술 교류를 통해 AI 정보보호 공동 연구과제를 발굴하고 관련 정부 사업 등에 공동 참여하는 방안도 검토할 계획이다. 향후 다른 정보보호 기업과 대학, 연구소, AI 기업의 참여도 확대할 방침이다.

유경상 SK텔레콤 AI CIC장은 "보안 AI의 수준은 결국 모델이 얼마나 넓고 깊게 추론하느냐에 달려있다"며 "독자 AI 파운데이션 모델 프로젝트에서 검증된 모델들이 국내 대표 정보보호 기업·대학과 함께 실제 보안 현장에서 효과를 입증해, 국가대표 AI 모델의 활용 성과를 사이버보안 영역에서도 보여주겠다"고 말했다.


◎공감언론 뉴시스 [email protected]