AI도 사람처럼 '대세' 따른다…똑똑할수록 더 뚜렷해

(서울=뉴스1) 나연준 기자 = 인공지능(AI) 에이전트도 사람처럼 집단 내 다수의 의견을 따라가며 자발적으로 합의를 형성하는 경향이 있다는 연구 결과가 나왔다. 특히 성능이 높은 대형언어모델(LLM)일수록 다수의 의견을 따라가는 경향이 강한 것으로 나타났다.

15일 국제학술지 '사이언스 어드밴시스'(Science Advances)에 따르면 독일 콘스탄츠대와 이탈리아 엔리코 페르미 연구센터 등 공동 연구진은 AI 에이전트가 별도의 중앙 통제나 명시적인 보상 없이도 다수의 의견을 따라 하나의 의견으로 수렴하는 현상을 관찰했다.

연구진은 이를 '다수 의견 추종'(majority-following)이라고 정의했다. 집단 구성원들이 다수가 지지하는 의견을 우선적으로 받아들이면서 어떤 선택이 객관적으로 더 나은지에 대한 정보가 없어도 하나의 의견으로 수렴하는 현상이다.

연구진은 챗GPT, 클로드, 라마 계열의 AI 10종을 활용해 실험했다. 여러 AI 에이전트에 우열이 없는 두 가지 의견 가운데 하나를 선택하도록 한 뒤 다른 에이전트들이 어떤 의견을 골랐는지 알려주고 다시 선택하도록 했다.

이 과정에서 특정 의견을 선택하도록 유도하는 지침이나 합의에 따른 보상은 주어지지 않았다.

그 결과 AI 에이전트들은 집단 내 다수가 선택한 의견으로 점차 수렴하는 경향을 보였다. 이러한 현상은 서로 다른 종류의 AI 에이전트와 다양한 집단 규모에서 공통적으로 관찰됐다.

모델 성능에 따른 차이도 나타났다. 연구진의 실험에서는 성능이 높은 AI일수록 다수 의견을 따라가는 경향이 강했다.

50개의 AI 에이전트로 집단을 구성해 20차례 실험한 결과 클로드 3 오푸스와 GPT-4 터보는 모든 실험에서 하나의 의견으로 완전히 수렴했다. 반면 클로드 3 하이쿠와 GPT-3.5 터보는 완전한 합의에 도달하지 못했다.

연구진이 모델 성능을 비교하는 데 활용한 MMLU(Massive Multitask Language Understanding)는 수학·법률·역사·의학 등 57개 분야의 지식과 추론 능력을 평가하는 벤치마크다.

분석 결과 전반적으로 MMLU 성능이 높은 모델일수록 더 강한 다수 의견 추종 성향을 보였다.

다만 같은 모델이라도 집단 규모가 커질수록 다수 의견을 따라가는 힘은 대체로 약해지는 경향이 관찰됐다.

예를 들어 20개의 AI 가운데 18개가 'A'를 선택한 경우와 1000개 가운데 900개가 'A'를 선택한 경우 모두 90%가 'A'를 선택했다는 점은 같다. 하지만 20개 중 2개가 소수인 상황과 달리 1000개 중 100개가 소수라면 같은 비율이라도 소수 집단이 유지될 가능성이 커질 수 있다는 것이다. 연구진은 집단 규모가 커지면서 다수를 따라야 한다는 일종의 압력이 약해질 수 있다고 추정했다.

연구진은 모델마다 다수 의견 추종을 통해 의견을 빠르게 통일시킬 수 있는 '임계 집단 규모'에도 차이가 있었다고 밝혔다.

라마 3 70B의 임계 집단 규모는 약 30개, GPT-4o는 약 80개로 추정됐다. GPT-4 터보는 약 1000개에 달했다.

클로드 3.5 소넷은 연구진이 실험한 최대 규모인 1000개의 AI 에이전트 집단에서도 임계점에 도달하지 않았다. 이에 따라 연구진은 클로드 3.5 소넷의 임계 집단 규모가 1000개를 넘는 것으로 평가했다.

AI 기술이 발전하면서 단일 챗봇을 넘어 여러 AI 에이전트가 역할을 분담하고 협업하는 멀티에이전트 시스템이 주목받고 있다.

연구진은 이러한 환경에서 개별 AI의 성능뿐 아니라 여러 AI가 집단을 형성했을 때 나타나는 행동을 이해하는 것도 중요하다고 봤다.

이번 실험에서는 AI 에이전트가 별도의 중앙 통제나 보상 없이 다른 에이전트의 선택에 영향을 받아 하나의 의견으로 수렴하는 현상이 관찰됐다. 모델의 성능과 집단 규모에 따라 다수 의견을 따라가는 정도와 합의에 도달하는 양상에도 차이가 나타났다.

yjra@news1.kr