지난 2024년, 네이처 휴먼 행동(Nature Human Behavior)연구는 경제적 교류 상황에서 도파민과 세로토닌이 사회적 맥락과 보상 가치를 어떻게 추적하는지 밝혀냈다. 이 연구에 따르면 이러한 신경전달물질은 사회적 행동을 유도하는데 관여하며, 특히 세로토닌 수치는 사회적 상호작용에서 주관적 가치(the subjective value of proposed rewards)를 반영한다는 것이다.
<세로토닌과 사회적 행동>
해당 연구는 인간 뇌의 흑질(substantia nigra)에서 도파민과 세로토닌이 사회적 맥락과 가치 판단을 어떻게 추적하는지를 연구하였는데, 세로토닌 수치는 사회적 상호작용 중 제안된 보상의 주관적 가치를 반영한다는 의미이다. 즉, 세로토닌 수치는 단순히 기분만 조절하는 게 아니라, 사회적 상황에서 “이 제안은 나한테 이득인가? 손해보는 것은 없는가?”와 같은 판단할 때 중요한 역할을 한다는 것이다.
연구는 파킨슨병으로 뇌심부자극술(DBS)을 받는 환자들을 실험했는데, 이들은 수술 중 깨어있는 상태에서 ’최후통첩 게임(ultimatum game)’을 수행할 때 흑질의 도파민과 세로토닌 수치를 측정하였다. 최후통첩 게임이란 일종의 불공정한 게임으로, 상대의 제안이 공정하지 않아도, 이익을 위해 받아들일 것인지 아니면 감정적으로 거절할 것인지를 결정하는 실험을 말한다.
인간 참가자는 제안자로 다른 인간, 또는 컴퓨터(AI는 아닌, 단순 고정 알고리즘 프로그램)를 상대했다. 앞서 설명한 대로 불공정한 게임 상황 ‘ 10달러 중 내가 8달러 가질게. 넌 2달러만 가져. 어떻게 할래?’ 라고 했을 때 불합리해도 2달러를 가지거나 아니면 이를 포기하고 아무것도 갖지 않는 것을 결정하는 게임을 했다.
이 실험을 통해, 사회적 맥락에 따른 거절률은 동일한 제안에 대해 인간 제안자보다 컴퓨터 제안자에게서 온 제안을 더 자주 거절했다. 이는 인간과의 상호작용에서 공정성 규범이 더 강하게 작용함을 시사한다.
또한 도파민 수치의 변화면에서 인간 제안자와의 상호작용 시 흑질의 도파민 수치가 전반적으로 상승하였는데, 이는 사회적 맥락이 도파민 체계에 영향을 미친다는 것을 보여준다. 또한 도파민은 제안 가치의 변화를 추적하여 보상 예측 오차(reward prediction errors)와 유사한 패턴을 보였으며, 세로토닌은 현재 제안 가치를 반영했다. 이는 도파민과 세로토닌이 가치 평가에서 상호 보완적인 역할을 함을 나타난다.
결론적으로 이 연구는 인간의 흑질에서 도파민과 세로토닌이 사회적 맥락과 가치 신호를 실시간으로 추적하여, 이러한 신경전달물질이 사회적 행동과 의사결정에 중요한 역할을 한다는 것을 밝혔다. 특히, 도파민은 사회적 맥락에 따른 전반적인 신경 활동 수준을 조절하고, 세로토닌은 구체적인 가치 평가에 기여하는 것으로 나타났다.
즉 이 실험은 사람이 보상을 공정하게 평가할 때, 그 ‘사회적 맥락’ 즉 상대가 사람인지 기계인지에 따라 다르고 사람일 경우 세로토닌이 더 민감하게 반응하며 달라진다는 점을 입증하였다. 또한 세라토린이 단순히 ‘행복할 때 나오는 호르몬’이 아니라, 사회적 상황에서 “이게 나에게 공정한가? 이득인가? 나를 존중했는가?” 같은 판단을 할 때도 활발하게 작용하는 신경전달물질이라는 것이다. 따라서 우리가 흔히 아는 “행복 호르몬”으로서의 세로토닌은 그 여러 기능 중 하나의 기능일 뿐이고, 실제로는 사회적 행동, 감정 조절, 공정성 인식, 충동 조절 같은 복합적인 인지·정서 기능에 관여한다는 것을 보여준다. 따라서 세로토닌은 사회적 의미와 가치를 따져보는 뇌의 정교한 기능이라고 할 수 있다.
<인공지능(AI) 및 사회적 로봇 개발>
이 연구는 인간이 사회적 맥락에서 도파민과 세로토닌을 활용해 가치 판단을 내린다는 점을 입증했다. 이는 향후 AI과 사회적 로봇이 인간과 더 자연스럽게 상호작용하는 데 도움을 줄 수 있을 것으로 보인다.
물론 AI가 직접 세로토닌과 도파민을 사용할 수는 없지만, 이들 신경전달물질이 인간의 감정과 의사결정에 미치는 영향을 데이터로 학습함으로써, 더욱 인간 친화적인 AI를 개발할 수 있다. 사용자의 감정 상태를 분석하고 더 긍정적인 응답을 추천하는 기능을 설계한 강화학습 (reinforcement learning)과 확률 모델을 통해 인간의 감정 반응을 데이터로 적용할 수 있을 것이다. 비슷한 원리로, 도파민이 보상 예측을 담당하는 것처럼, AI는 과거 데이터에서 인간이 내린 결정을 분석하고, 특정 상황에서 어떤 선택이 가장 합리적인지 예측하는 기능을 가질 수 있다.
현재까지 AI와 세라토닌과 관련된 직접적인 연구결과가 나온 것은 없지만, 인간의 사회적 행동과 관련된 신경과학 연구가 다수 발표되고 있기 때문에, 이러한 연구들이 AI의 사회적 상호작용 연구에 영향을 미치고 있을 것으로 보인다. 이러한 연구가 발전하면, AI는 단순한 도구를 넘어 인간과 더 자연스럽게 상호작용하고, 사회적 맥락을 이해하는 존재로 진화할 가능성이 있다. 감정과 공정성을 고려하는 AI, 과연 어디까지 발전할 수 있을지 기대되는 대목이다.
