이들이 있기에 알파고·GPT 나왔다…노벨상 받은 AI 아버지들

2024 노벨물리학상에 존 홉필드·제프리 힌튼 교수 공동 수상자 선정

홉필드, 기억 저장·복원하는 인공신경망 '홉필드 네트워크' 개발

홉필드 네트워크 진화시킨 힌튼…스스로 상상하는 '볼츠만 머신' 제안

[스톡홀름=AP/뉴시스]스웨덴 스톡홀름 스웨덴 왕립과학원에서 노벨상위원회가 2024년 노벨 물리학상을 수상한 존 홉필드와 제프리 힌튼의 연구를 설명하고 있다. 2024.10.08.

[서울=뉴시스]윤현성 기자 = 올해 노벨물리학상은 인동지능(AI) 기술의 핵심인 '머신러닝'의 기초가 되는 방법을 개발한 2명의 과학자들에게 돌아갔다. 이들 2명은 물리학을 활용해 인공신경망 개념을 고안했다. 이들의 연구결과는 구글 알파고에 이어 오늘날 챗GPT로 대표되는 생성형 AI 기술의 밑바탕이 됐다.

스웨덴 카롤린스카야 의학연구원의 노벨상위원회는 8일 존 홉필드 미국 프린스턴대 교수와 제프리 힌튼 캐나다 토론토대 교수를 올해 노벨물리학상 공동 수상자로 선정했다고 발표했다.

노벨상 위원회는 "이들 수상자들의 연구는 이미 엄청난 도움을 주고 있다. 특정 특성을 가진 신소재를 개발하는 등 방대한 영역에서 인공신경망을 사용하고 있다"고 수상 이유를 설명했다.

AI 근간 되는 인공신경망…홉필드 교수, '기억·복원' 가능한 인공 네트워크 만들어내

통상적으로 AI의 능력은 인공신경망을 활용한 학습을 기반으로 만들어진다. 이같은 기술은 인간의 뇌 구조에서 영감을 받아 구현됐다.

뇌의 '뉴런'은 인공신경망에서 서로 다른 값을 가진 '노드'로 표현된다. 노드는 인공신경망의 기본 단위로, 특정 입력에 대한 신호를 받아들인 뒤, 이를 처리해 다른 노드나 최총 출력으로 전달하게 된다.

또한 노드들은 연결의 강도 등에 따라 서로에게 영향을 미친다. 예컨대 동시에 높은 값을 가진 노드들은 더 강하게 연결되게 하는 식으로 프로그램을 훈련시킬 수 있다. 올해 노벨상 수상자 2명은 1980년대부터 인공신경망의 근간을 개발해왔다.

2024 노벨물리학상 공동 수상자로 선정된 존 홉필드 미국 프린스턴대 교수는 패턴을 저장·재현하는 방법을 활용하는 형태의 '홉필드 네트워크'를 개발해냈다. (사진=노벨상위원회) *재판매 및 DB 금지

먼저 토대를 쌓은 것은 홉필드 교수다. 홉필드 교수는 패턴을 저장·재현하는 방법을 활용하는 형태의 '홉필드 네트워크'를 개발해냈다. 홉필드 네트워크는 일종의 인공신경망으로, 패턴에 대한 기억을 저장·복원하는 기능을 갖고 있다. 홉필드 네트워크에는 물리학 개념이 적용됐는데, 원자가 작은 자석처럼 행동하는 '스핀' 개념을 활용했다.

이를 기반으로 홉필드 네트워크 전체를 일종의 에너지로 간주하면, 홉필드 네트워크가 패턴을 저장할 때 가장 '낮은 에너지' 상태를 보이면 패턴이 안정적으로 저장된 것을 의미한다.

가장 안정적인 상태의 패턴을 저장해놓고, 네트워크에 불완전하거나 왜곡된 패턴이 입력되면 홉필드 네트워크는 이를 보고 저장된 패턴 중 가장 비슷한 것을 찾아내려고 한다.

이 과정에서 홉필드 네트워크는 망 내의 노드 값을 하나씩 조정하면서 에너지가 가장 낮은 상태를 찾기 시작하고, 저장된 패턴 중 입력된 불완전한 패턴과 가장 유사한 패턴이 복원된다.

가장 단순하게 비유하면 홉필드 네트워크는 일종의 '퍼즐 맞추기'처럼 가장 안정적인 상태인 원래 패턴을 복원해 나가게 된다. 네트워크가 여러개의 퍼즐 패턴을 기억하고 있고, 이 중 퍼즐을 다 맞춘 상태가 에너지가 가장 낮은 안정적인 상태다. 만약 퍼즐이 제대로 맞춰지지 않은 패턴이 입력되면 네트워크는 나머지 조각(노드)들을 맞추면서 완성된 퍼즐에 가까운 상태를 찾아가게 된다.

힌튼 교수, 홉필드 네트워크 한층 더 진화…기억·상상 모두 가능한 '볼츠만 머신' 선보여

힌튼 교수는 홉필드 네트워크를 다른 방식으로 사용하는 '볼츠만 머신' 기반의 새로운 네트워크를 만들어냈다. 이를 통해 인공신경망이 주어진 데이터에서 특징적인 요소를 인식할 수 있도록 했다.

즉 홉필드 네트워크가 단순히 패턴을 기억할 수만 있다면, 볼츠만 머신 기반 네트워크는 이를 넘어 '기억과 상상'까지도 가능하다.

홉필드 네트워크가 노드 값을 하나씩 조정해가면서 에너지가 낮은 안정적인 패턴을 찾는다면, 볼츠만 머신은 데이터를 학습할 때 노드들이 값을 랜덤하게 변경하면서 에너지를 낮추는 방향을 찾아가게 된다.

이에 더해 볼츠만 머신은 어떤 이미지를 학습할 때 패턴만 보는 것이 아니라 그 이미지의 색상·모양·질감 등 복잡하고 숨겨진 특징까지도 기억할 수 있다. 이같은 특징을 기반으로 단순히 학습한 패턴을 기억·복원하는 데 그치는 것이 아니라 스스로 새로운 패턴을 창조해낼 수도 있다.

현시대 AI의 근간이 된 '홉필드 네트워크'와 '볼츠만 머신' 네트워크 개요. (사진=노벨상위원회) *재판매 및 DB 금지

홉필드 네트워크가 퍼즐 맞추기를 한다면, 볼츠만 머신은 '미로 탈출'을 하는 것이라고 볼 수 있다. 처음에는 무작위로 돌아다니며 주변을 살피지만, 점점 더 학습량이 늘어나면서 미로의 구조를 이해하고 최적의 경로를 찾아나가는 식이다. 이렇게 미로 찾기를 하며 새로운 환경을 기억하고 나면 스스로 비슷한 지형을 상상해 새로운 미로를 만들어내는 것도 가능하다.

이처럼 힌튼의 볼츠만 머신 기반 네트워크는 학습을 통해 스스로 학습할 수 있는 인공신경망을 만들어내면서 현재 폭발적으로 이뤄지고 있는 머신러닝 개발이 첫 발을 뗄 수 있게 해줬다.

학계에서는 홉필드 네트워크와 거기서 진화한 볼츠만 머신 기반 네트워크가 현재 상용화된 챗GPT와 같은 생성형 AI 모델의 원형이 되는 '고전적 모형'이라고 보고 있다. 뿐만 아니라 올해 노벨상 수상자들의 인공신경망 모형은 '알파고'로 대표되는 분류형 AI 모델에도 영향을 미친 것으로 여겨진다.

서울대학교 데이터사이언스랩의 조정효 교수는 "일종의 물리 모델이 여감이 돼서 나온 모형이 현재의 딥튜럴 네트워크, 자연어 처리 등까지 발전한 건 정말 놀라운 결과"라며 "올해 노벨물리학상은 기계학습이라는 학문적 부분과 최근의 GPT 등 사회적 영향력까지 고려해서 수상을 정하지 않았나 생각된다"고 말했다.


◎공감언론 뉴시스 [email protected]