[AI탈옥 下] 헛소리하는 AI 챗봇…검색증강 생성기술로 막는다

AI 대중화 시대 주목받는 '검색증강 생성기술(RAG)'

AI 환각현상 서비스 제공 기업 신뢰에 치명적

금융·법률 분야 적용 활발

[그래픽=뉴시스] 재배포 및 DB금지.

[서울=뉴시스] 오동현 기자 = "검색 증강 생성(RAG) 기술로 인공지능(AI)의 거짓말 막는다."

AI가 제공하는 유해한 답변은 이용자 편의와 신뢰도 저하 측면에서 AI 서비스 제공 기업에 치명적이다. 특히 챗봇을 사용하는 기업들의 경우 AI 사용에 관한 신뢰성과 데이터 보안이 극도로 중요하기 때문에 RAG에 관한 수요가 앞으로 더욱 부상할 것으로 전망된다.

RAG는 LLM이 답변을 생성하기 전 외부의 지식 베이스에서 질의와 관련된 정보를 실시간 검색하는 방식으로 환각 현상을 줄인다는 점에서 주목받고 있다.

RAG로 신뢰 장착…기업 시장 공략

AI의 유해한 답변을 막기 위해 우리나라 IT 기업들은 다양한 산업군에 RAG 기술을 접목한 생성형 AI 서비스를 선보이고 있다.

SK C&C는 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다. 특히 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 RAG 기반 스마트 에이전트 방식을 적용해 결과값에 대한 정확도를 높였다.

LG CNS도  생성형 AI 플랫폼 'DAP GenAI 플랫폼(디에이피 젠AI 플랫폼)'을 기업에 제공하면서 AI가 생성하는 정보 왜곡현상을 줄이는데 사활을 걸고 있다. 고객이 보유한 문서나 데이터와 같은 내부 정보자산을 활용하는 방식이다.

바이브컴퍼니는 RAG 기반의 AI 검색 솔루션 '바이브 서치'를 공개했다. 문장 형태의 질문을 입력하면 AI가 질문의 의도를 파악해 사용자가 원하는 정보를 제공한다. '바이브 서치'는 최신 RAG 기술을 적용해 뉴스 등 방대한 내·외부 데이터를 활용해 질의에 관한 정보를 실시간으로 탐색하고 최적의 답변을 제공하는 동시에 답변의 출처를 명시함으로써 신뢰도를 높였다. 이 솔루션은 현재 국회도서관에 정식 서비스 중이다.

금융·법률·공공 서비스 RAG 적용 활발

특히 정확한 정보 제공이 중요한 금융업계와 법조계, 공공기관에서 RAG 기술 도입이 활발하다.

KB국민카드는 AI 기업 스켈터랩스의 질의응답 챗봇 솔루션 '벨라 큐나'를 활용한 '이벤트 Q&AI' 서비스를 출시했다. 이 서비스는 RAG를 활용해 매일 변화하는 최신 이벤트 정보를 간편하게 업데이트 하고, 이를 기반으로 답변을 생성한다. 정보의 최신성은 높이면서 환각 현상은 최소화했다.

리걸테크 기업인 로앤굿은 RAG를 활용해 만든 변호사용 AI 챗봇을 공개했다. 개인정보 포털에 공개된 최근 5년간 총 4360페이지에 달하는 결정문·심결례·가이드라인·판례집 등을 학습한 국내법에 특화된 챗봇이다.

'로톡' 운영사인 로앤컴퍼니도 빅케이스GPT를 공개했다. 국내 판례 약 329만건 분량의 자체적인 데이터를 활용한 RAG 모델을 적용했다.

공공기관 역시 AI를 도입해 디지털 전환에 박차를 가하고 있다. 최근 통계청은 AI 기반 통계 챗봇 서비스를 선보일 예정이라고 밝혔다. AI의 환각 현상을 예방하기 위해 RAG 방식이 적용된 팩트체크 로직을 구현할 계획이다.

통계청은 언어를 이해하고 표현하는 능력은 민간의 검증된 초거대 AI 언어모델을 활용하되, 실제로 정보를 검색하고 답변을 생성하는 부분은 전문적인 통계문서를 고차원적인 벡터로 저장한 통계학습 데이터베이스에서만 찾아오도록 설계할 계획이다.

한글과컴퓨터도 RAG를 접목해 보다 정확한 정보를 제공하는 전자 문서 생태계를 구축하고 있다. 정지환 한컴 개발본부장(CTO)은 "AI가 더욱 특화된 정보를 바탕으로 전문적인 답변을 하는 것이 필요하기 때문에 RAG 기술이 다시 주목받고 있다"고 전했다.


◎공감언론 뉴시스 [email protected]