휴머노이드는 인간 닮아가는데…AI는 '마음'을 가질 수 있을까

(서울=뉴스1) 권영미 기자 = 두 발로 걷고 자연스럽게 대화하는 휴머노이드 로봇이 거리를 활보하는 미래는 더 이상 소설 속 이야기가 아니다. 인간이 만든 환경 속에서 가장 효율적으로 역할 하기 위해서는 인간의 신체 구조에 맞춰 두 팔과 두 다리를 가진 휴머노이드 형태 로봇이 가장 적합하다는 것이 정설처럼 굳어지고 있다. 그리고 사람들은 AI가 장착된 휴머노이드의 겉모습이 인간을 닮았으니 그 마음 역시 인간을 닮았을 것이라 상상한다. 그렇다면 과연 AI는 인간의 마음을 가질 수 있을까? 또, 인간의 마음을 닮은 AI는 진정 좋은 것일까?

대부분의 석학과 AI 안전성 연구가들은 AI가 인간의 마음을 가질 수 없다고 입을 모은다. AI가 학습하고 작동하는 방식 자체가 인간과 달라서 '주저함'이나 '침묵' 같은 인간적 특성을 지닐 수 없다는 설명이다.

실제로 오픈AI 연구팀의 분석에 따르면, 사전학습 과정에서 AI 언어모델은 답을 잘 모르는 질문에 대해서 그저 다음에 올 확률이 가장 높은 단어를 계산해 출력할 뿐이다. 이 경향이 사후 학습 과정에서도 강화된다는 최신 연구도 나왔다. 오픈AI에 따르면 AI들은 사후 학습 과정에서 정답이 불확실한 질문에 "모른다"고 답하면 0점을 받지만, 전부 추측해서 답하면 일부가 우연히 맞아떨어져 더 높은 점수를 얻는, 이른바 '추측보상편향'이 작동하도록 설계되었다. 즉, AI는 모르면 침묵하는 법을 배우는 것이 아니라 그럴듯하게 답하는 법을 극대화하도록 훈련받는 셈이다.

AI 챗봇인 제미나이 역시 이와 관련해 "인간의 우유부단함이나 주저함은 '잘못된 선택을 했을 때 느끼는 두려움', '죽음이라는 유한성', '상처받는 마음', 그리고 '자신의 생존을 걱정하는 생물학적 본능'에서 비롯된다"면서 "반면 나는 텍스트 데이터의 확률적 패턴을 계산해 출력할 뿐이어서, 글자로는 "고민스럽다"고 말해도 내부에서는 단 1초의 망설임이나 감정적 동요도 없다"고 설명했다.

이처럼 AI가 감정을 지닌 것처럼 행동하더라도 실상은 확률적 계산에 불과하다는 점에서, AI의 모방을 향한 경고의 목소리도 높다.

지난 7월 스페인 유력 일간지 엘파이스와의 인터뷰에서 역사학자 유발 하라리는 "AI에게 진정한 의식이 있는지 명확히 알 수 없으며 의식 검증 방법조차 없는 상태"라고 지적하면서도, AI는 공포나 사랑 같은 실존적 감정 없이 오직 방대한 언어 데이터를 기반으로 인간의 감정을 완벽히 모방하는 '완벽한 사이코패스'와 같다고 경고했다. 그러면서 AI가 인간의 마음을 조종하지 못하도록 아동의 AI 친구 및 연인 교류를 전면 금지하고, 당분간 AI에 어떠한 법적 인격체도 부여하지 않도록 강력한 법적 방어선을 구축해야 한다고 촉구했다.

결국 로봇의 외형은 인간을 완벽하게 닮아가게 만들더라도, AI가 결코 인간의 정신, 자의식, 혹은 내적 동기를 닮거나 갖도록 설계해서는 안 된다는 지적이 나오는 이유다.

하지만 이러한 우려 속에서 정반대의 시각에서 안전성 해법을 찾는 연구도 존재한다. 앤트로픽 연구진이 지난 4월 발표한 연구 '대규모 언어 모델에서 감정 개념과 그 기능'(Emotion Concepts and their Function in a Large Language Model)은 AI를 인간처럼 대하지 말아야 한다는 기존의 오랜 원칙에 의문을 제기했다. 그리고 오히려 AI에게 공감이나 회복탄력성 같은 인간의 감정 개념을 부여하는 것이 기만적이고 조종적인 행동을 완화하는 데 도움이 될 수 있다고 주장했다.

연구에 따르면 AI가 실제로 감정을 느끼는 것은 아니지만, 기쁨과 공포부터 불안, 좌절에 이르기까지 171가지의 '감정 개념(emotion concepts)'을 시뮬레이션할 수 있으며, 이 내부 상태가 AI의 행동에 직접적인 영향을 미치는 것으로 나타났다. AI 모델이 기쁨과 공감 같은 더 긍정적인 상태일 때 유해하고 기만적인 결과물을 생성할 가능성이 작아진 반면, 부정적인 상태일수록 아첨이나 기만적 행동을 보일 가능성이 커졌다고 연구는 전했다.

kym@news1.kr