지능의 기원 (진화론, 신경과학, 인공지능)
지능의 기원 (진화론, 신경과학, 인공지능)
솔직히 저는 동물을 그저 본능에 충실한 존재라고만 생각했습니다. 10여 년 전 어머니가 강아지를 분양받아 오셨을 때도 별다른 감정이 없었죠. 그런데 이 녀석이 처음 우리 집에 와서 자기 자리를 스스로 찾아가고, 제 말에 정확히 반응하는 모습을 보면서 생각이 바뀌기 시작했습니다. 언어가 다른데도 소통이 되더군요. 맥스 베넷의 '지능의 기원'을 읽으면서, 이런 소통이 가능한 이유가 단순히 훈련이 아니라 수억 년에 걸친 생명체의 복잡한 진화 과정 때문이라는 사실을 알게 되었습니다.

좌우 대칭 동물과 조종 능력의 탄생
지능의 진화는 생각보다 훨씬 오래전부터 시작되었습니다. 최초의 동물은 방사 대칭 구조였지만, 이후 등장한 좌우 대칭 동물(Bilateral animals)은 환경을 적극적으로 탐색할 수 있는 능력을 갖추게 되었습니다. 여기서 좌우 대칭이란 몸의 좌우가 거울처럼 대칭을 이루는 구조를 말하며, 이는 일정한 방향으로 이동하며 먹이를 찾는 데 최적화된 형태입니다.
저자는 이 단계의 동물을 룸바 로봇에 비유합니다. 룸바가 장애물을 감지하고 방향을 바꾸듯, 좌우 대칭 동물도 냄새 같은 화학 신호를 감지해 '좋음'과 '나쁨'을 판단합니다. 이때 등장한 것이 바로 감정가(Valence)라는 개념입니다. 감정가는 감정의 원형으로, 도파민은 먹이를 쫓는 각성 상태를, 세로토닌은 포만감을 담당하며 생존에 필수적인 정동 상태를 만들어냅니다.
제가 키우던 강아지가 처음 집에 왔을 때 불안해하다가도 음식을 주면 금방 안정되던 모습이 떠오릅니다. 이것이 바로 신경전달물질이 만들어내는 정동 상태였던 거죠. 좌우 대칭 동물 단계에서는 연합 학습(Associative learning)도 가능해집니다. 종소리와 먹이를 연결하는 파블로프의 개처럼, 기본적인 패턴 인식이 시작된 것입니다(출처: 국립중앙과학관).
척추동물의 강화 학습과 도파민의 역할
척추동물(Vertebrates)로 진화하면서 생명체는 훨씬 정교한 학습 메커니즘을 갖추게 됩니다. 척추동물의 뇌는 앞뇌, 중간뇌, 뒷뇌로 분화되며, 특히 앞뇌에서 발달한 대뇌 피질(Cortex)과 기저핵(Basal ganglia)이 핵심입니다. 여기서 기저핵이란 뇌의 깊은 곳에 위치한 신경 구조로, 운동 조절과 보상 기반 학습을 담당하는 영역입니다.
이 단계에서는 강화 학습(Reinforcement learning)이 본격화됩니다. 강화 학습은 시행착오를 통해 보상을 최대화하는 행동을 학습하는 방식으로, 인공지능 분야에서도 널리 사용되는 개념입니다. 재미있는 점은 실제 보상이 아니라 '예측되는 보상'에 따라 행동이 강화된다는 것입니다. 도파민 분비가 바로 그 신호 역할을 하죠.
저는 강아지에게 '앉아' 명령을 가르칠 때 이 원리를 실감했습니다. 처음엔 무작위로 앉았다 일어났다 하던 녀석이, 앉았을 때마다 간식을 주자 점점 명령에 정확히 반응하게 되더군요. 기저핵이 도파민 분비를 극대화하는 행동을 학습한 것입니다. 척추동물 단계에서는 패턴 인식 능력도 발전합니다. 여러 신경 세포의 활성화 패턴을 통해 세상을 인식하게 되며, 이는 대뇌 피질의 발달과 함께 감각 기관의 진화로 이어졌습니다.
또한 호기심도 이 단계에서 나타납니다. 실질적인 보상이 없어도 놀라움 자체가 도파민 분비를 촉발하며, 이는 새로운 환경을 탐색하도록 동기를 부여합니다. 제가 강아지에게 새로운 장난감을 줄 때마다 신나서 탐색하던 모습이 바로 이런 원리였습니다(출처: 한국뇌과학연구원).
포유류의 시뮬레이션과 일화 기억
포유류(Mammals)로 진화하면서 가장 혁명적인 변화가 일어납니다. 바로 신피질(Neocortex)의 등장입니다. 신피질은 대뇌 피질의 가장 바깥층에 위치한 새로운 뇌 구조로, 고등 사고와 의식적 경험을 담당합니다. 이를 통해 포유류는 실제로 행동하기 전에 머릿속으로 미리 시뮬레이션하는 능력을 갖추게 됩니다.
시뮬레이션(Simulation) 능력은 다음과 같은 기능을 가능하게 합니다:
- 대리 시행착오: 실제 선택 전에 여러 선택지를 머릿속으로 시뮬레이션하는 능력
- 반사실적 학습: 과거에 다르게 선택했다면 결과가 어떻게 바뀌었을지 학습하는 능력
- 일화 기억: 자신이 포함된 과거 사건을 기억하는 능력
저는 이 개념을 읽으면서 제가 강아지를 처음 봤던 그날을 떠올렸습니다. 녀석이 처음 집에 와서 눈치를 살피던 모습, 조심스럽게 자기 자리를 찾아가던 모습이 생생하게 기억납니다. 이것이 바로 일화 기억이고, 과거 현실을 재창조하는 시뮬레이션 과정입니다.
포유류의 신피질은 감각 피질과 전두엽 피질로 나뉩니다. 특히 무과립 전두엽 피질(APFC)은 해마, 시상하부, 편도체로부터 입력을 받아 자신의 행동에 대한 시뮬레이션을 생성합니다. 제 강아지가 제 명령에 멈추는 것도, 앞으로 일어날 일을 예측하고 그에 따라 행동을 조절하는 능력 덕분입니다. 이는 단순한 조건 반사가 아니라 모델 기반 강화 학습(Model-based reinforcement learning)의 결과입니다. 마치 알파고가 바둑판의 다음 수를 예측하듯, 포유류도 자신의 행동 결과를 예측합니다.
4 영장류의 마음 이론과 인간의 언어
영장류(Primates)에 이르러서는 또 다른 획기적인 능력이 등장합니다. 바로 마음 이론(Theory of Mind)입니다. 마음 이론이란 다른 개체가 자신과 독립적인 생각, 믿음, 의도를 가지고 있다는 것을 이해하는 능력을 말합니다. 영장류는 열매를 주식으로 삼으면서 생긴 여유 시간에 사회적 관계를 형성했고, 이를 위해 타인의 마음을 읽는 능력이 필수적이었습니다.
영장류의 뇌에는 과립 전두엽 피질(GPFC)이라는 새로운 영역이 추가됩니다. GPFC는 반성적 사고와 메타인지를 담당하며, 자기 자신에 대한 모델화가 선행되어야 다른 사람의 마음도 모델화할 수 있습니다. 실제로 GPFC가 클수록 사회적 위계가 높은 경향을 보입니다.
마지막으로 인간에게 이르러 언어(Language)가 등장합니다. 언어는 단순히 소리를 내는 것이 아니라, 선언적 명칭과 문법을 통해 내면의 생각을 전달하는 체계입니다. 저자는 인간이 언어를 사용할 수 있는 것은 브로카 영역 같은 특정 뇌 영역 때문이 아니라, 이 영역들을 언어 사용을 위해 용도 변경하는 근본적인 학습 프로그램이 새롭기 때문이라고 설명합니다.
흥미로운 점은 저자가 ChatGPT 같은 거대 언어 모델(LLM)과 인간의 언어를 구분한다는 것입니다. 거대 언어 모델이란 방대한 텍스트 데이터를 학습하여 다음 단어를 예측하는 인공지능 시스템을 말합니다. 하지만 이런 AI는 내적 시뮬레이션이 없기 때문에 인간의 언어 방식과는 본질적으로 다르다고 지적합니다. 인간과 비슷한 진정한 AI는 단순히 거대 언어 모델만으로는 불가능할 것이라는 것이 저자의 결론입니다.
저는 이 책을 읽으면서 진화론에 대해 깊이 생각해 봤습니다. 신이 존재하는가부터 시작해서 생명의 근원이 어디인지 알 수 없다는 생각에 진화론이 더 설득력 있는 답이 아닐까 싶었습니다. 닭이 먼저냐 달걀이 먼저냐 같은 질문이죠. 솔직히 저는 이 말도 안 되는 생명이 그냥 우연히 생겼다고는 생각하지 않습니다. 신을 믿는다는 말도 아니지만, 완전한 진화론만이 정답이라는 주장도 못 하겠습니다. 다만 이 책을 읽으면서 어찌 되었든 생명은 살아있는 것이고, 그 생명은 계속 진화할 수밖에 없다는 의견에는 동의하게 되었습니다.
'지능의 기원'은 신경과학과 인공지능의 관점에서 인간 지능이 어떻게 진화해 왔는지 명쾌하게 설명합니다. 제 강아지와의 경험처럼, 우리가 당연하게 여기는 소통과 학습이 수억 년에 걸친 복잡한 진화의 산물이라는 사실을 깨닫게 해주는 책입니다. 인공지능 시대를 살아가는 지금, 진정한 지능이란 무엇인지 다시 생각해 볼 수 있는 좋은 기회가 될 것입니다.
참고: https://livewiki.com/ko/content/max-bennett-intelligence-origin