포티투마루, AI안전연구소와 AI정책 연구·평가 '맞손'

AI안전연구소 개소식서 업무협약 체결

AI 위험 평가도구 개발 테스트베드 구축 등도 협력

[서울=뉴시스] 생성형 인공지능(AI) 스타트업 포티투마루(42Maru)가 27일 열린 AI안전연구소 개소식에 참석해 '대한민국 AI안전컨소시엄' 업무협약을 체결했다고 27일 밝혔다. (사진=포티투마루 제공) 2024.11.27. [email protected] *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 생성형 인공지능(AI) 스타트업 포티투마루(42Maru)가 27일 열린 AI안전연구소 개소식에 참석해 '대한민국 AI안전컨소시엄' 업무협약을 체결했다고 27일 밝혔다.

AI안전연구소는 AI 안전성을 평가·연구하는 전담조직이다. 아시아태평양 지역을 대표하는 글로벌 AI 안전 거점연구소를 구현하는 것을 목표로 한다. AI 안전에 대한 과학적 이해 증진, AI 안전정책 고도화와 안전제도 확립 지원, 국내 AI기업의 안전 확보 지원 등을 담당한다.

개소식은 AI안전연구소가 위치한 경기 성남시 판교 글로벌R&D센터에서 진행됐다. 정부기관, 국가AI위원회, 산업계, 학계, 공공기관과 자문위원 등 다양한 분야의 전문가들이 참석했다.

김동환 포티투마루 대표는 민간 부문 AI 대표기업들과 함께 개소식에 참석하고 '대한민국 AI안전컨소시엄' 업무협약을 체결했다.

포티투마루는 AI안전연구소와 함께 AI 안전에 관한 정책 연구와 평가, 연구개발에 있어 상호 협력한다. 이 외에도 AI 위험의 식별·평가·완화에 관한 기준·방법·절차 등의 수립, 평가도구 개발 등 테스트베드 구축과 AI 안전에 관한 정책 수립과 국제규범 대응을 위한 연구, 기술 연구개발과 정보공유 등의 제반 활동도 이어 나갈 예정이다.

김 대표는 "이번 AI안전연구소의 개소와 대한민국 AI안전컨소시엄 업무협약은 AI 기술 활용과 더불어 안전성과 신뢰성을 강화하기 위한 첫걸음이라고 생각한다"며 "앞으로도 글로벌 표준에 부합하는 AI 신뢰성과 안전성을 확보하고 국내외 다양한 파트너들과 협력해 AI 기술의 윤리적이고 안전한 발전을 위해 앞장서 나갈 것"이라고 밝혔다.

한편 포티투마루는 최근 한국 최초로 생성형 AI 기반 거대언어모델(LLM)의 AI 신뢰성 인증(CAT)을 획득했다. 국가 AI 연구 거점에 선정돼 한국을 대표해 국제 공동연구도 수행하고 있다.


◎공감언론 뉴시스 [email protected]