2024 노벨물리학상에 존 홉필드·제프리 힌튼 교수 공동 수상자 선정
홉필드, 기억 저장·복원하는 인공신경망 '홉필드 네트워크' 개발
홉필드 네트워크 진화시킨 힌튼…스스로 상상하는 '볼츠만 머신' 제안
스웨덴 카롤린스카야 의학연구원의 노벨상위원회는 8일 존 홉필드 미국 프린스턴대 교수와 제프리 힌튼 캐나다 토론토대 교수를 올해 노벨물리학상 공동 수상자로 선정했다고 발표했다.
노벨상 위원회는 "이들 수상자들의 연구는 이미 엄청난 도움을 주고 있다. 특정 특성을 가진 신소재를 개발하는 등 방대한 영역에서 인공신경망을 사용하고 있다"고 수상 이유를 설명했다.
◆AI 근간 되는 인공신경망…홉필드 교수, '기억·복원' 가능한 인공 네트워크 만들어내
통상적으로 AI의 능력은 인공신경망을 활용한 학습을 기반으로 만들어진다. 이같은 기술은 인간의 뇌 구조에서 영감을 받아 구현됐다.
뇌의 '뉴런'은 인공신경망에서 서로 다른 값을 가진 '노드'로 표현된다. 노드는 인공신경망의 기본 단위로, 특정 입력에 대한 신호를 받아들인 뒤, 이를 처리해 다른 노드나 최총 출력으로 전달하게 된다.
또한 노드들은 연결의 강도 등에 따라 서로에게 영향을 미친다. 예컨대 동시에 높은 값을 가진 노드들은 더 강하게 연결되게 하는 식으로 프로그램을 훈련시킬 수 있다. 올해 노벨상 수상자 2명은 1980년대부터 인공신경망의 근간을 개발해왔다.
이를 기반으로 홉필드 네트워크 전체를 일종의 에너지로 간주하면, 홉필드 네트워크가 패턴을 저장할 때 가장 '낮은 에너지' 상태를 보이면 패턴이 안정적으로 저장된 것을 의미한다.
가장 안정적인 상태의 패턴을 저장해놓고, 네트워크에 불완전하거나 왜곡된 패턴이 입력되면 홉필드 네트워크는 이를 보고 저장된 패턴 중 가장 비슷한 것을 찾아내려고 한다.
이 과정에서 홉필드 네트워크는 망 내의 노드 값을 하나씩 조정하면서 에너지가 가장 낮은 상태를 찾기 시작하고, 저장된 패턴 중 입력된 불완전한 패턴과 가장 유사한 패턴이 복원된다.
가장 단순하게 비유하면 홉필드 네트워크는 일종의 '퍼즐 맞추기'처럼 가장 안정적인 상태인 원래 패턴을 복원해 나가게 된다. 네트워크가 여러개의 퍼즐 패턴을 기억하고 있고, 이 중 퍼즐을 다 맞춘 상태가 에너지가 가장 낮은 안정적인 상태다. 만약 퍼즐이 제대로 맞춰지지 않은 패턴이 입력되면 네트워크는 나머지 조각(노드)들을 맞추면서 완성된 퍼즐에 가까운 상태를 찾아가게 된다.
◆힌튼 교수, 홉필드 네트워크 한층 더 진화…기억·상상 모두 가능한 '볼츠만 머신' 선보여
힌튼 교수는 홉필드 네트워크를 다른 방식으로 사용하는 '볼츠만 머신' 기반의 새로운 네트워크를 만들어냈다. 이를 통해 인공신경망이 주어진 데이터에서 특징적인 요소를 인식할 수 있도록 했다.
즉 홉필드 네트워크가 단순히 패턴을 기억할 수만 있다면, 볼츠만 머신 기반 네트워크는 이를 넘어 '기억과 상상'까지도 가능하다.
홉필드 네트워크가 노드 값을 하나씩 조정해가면서 에너지가 낮은 안정적인 패턴을 찾는다면, 볼츠만 머신은 데이터를 학습할 때 노드들이 값을 랜덤하게 변경하면서 에너지를 낮추는 방향을 찾아가게 된다.
이에 더해 볼츠만 머신은 어떤 이미지를 학습할 때 패턴만 보는 것이 아니라 그 이미지의 색상·모양·질감 등 복잡하고 숨겨진 특징까지도 기억할 수 있다. 이같은 특징을 기반으로 단순히 학습한 패턴을 기억·복원하는 데 그치는 것이 아니라 스스로 새로운 패턴을 창조해낼 수도 있다.
이처럼 힌튼의 볼츠만 머신 기반 네트워크는 학습을 통해 스스로 학습할 수 있는 인공신경망을 만들어내면서 현재 폭발적으로 이뤄지고 있는 머신러닝 개발이 첫 발을 뗄 수 있게 해줬다.
학계에서는 홉필드 네트워크와 거기서 진화한 볼츠만 머신 기반 네트워크가 현재 상용화된 챗GPT와 같은 생성형 AI 모델의 원형이 되는 '고전적 모형'이라고 보고 있다. 뿐만 아니라 올해 노벨상 수상자들의 인공신경망 모형은 '알파고'로 대표되는 분류형 AI 모델에도 영향을 미친 것으로 여겨진다.
서울대학교 데이터사이언스랩의 조정효 교수는 "일종의 물리 모델이 여감이 돼서 나온 모형이 현재의 딥튜럴 네트워크, 자연어 처리 등까지 발전한 건 정말 놀라운 결과"라며 "올해 노벨물리학상은 기계학습이라는 학문적 부분과 최근의 GPT 등 사회적 영향력까지 고려해서 수상을 정하지 않았나 생각된다"고 말했다.
◎공감언론 뉴시스 hsyhs@newsis.com