입 연 저커버그, AI 속도조절에 반론…"각 기업이 책임질 일"

(서울=뉴스1) 장용석 기자 = 마크 저커버그 메타 최고경영자(CEO)가 인공지능(AI) 개발 속도를 업계 전체가 공동으로 늦추기보다 개별 기업이 독립적 외부 평가 등을 활용해 안전 문제에 책임 있게 대응해야 한다는 입장을 밝혔다.

저커버그의 이 같은 주장은 이는 최근 다리오 아모데이 앤트로픽 CEO를 중심으로 확산하고 있는 AI '속도조절론'과 다소 거리를 둔 것으로 해석된다.

16일(현지시간) 로이터통신 등에 따르면 저커버그 CEO는 전날 소셜미디어 X에 지난달 발표한 에세이 '모두를 위한 미래'(The Future is for Everyone)를 다시 공유하며 "모든 연구소엔 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 유인이 있고, 이를 위해 스스로 조치를 취할 능력도 있다"고 적었다.

그는 AI 기업들에 안전성을 확보할 경제적 유인도 충분하다고 주장했다. 사용자는 자기 뜻에 맞지 않게 작동하는 AI를 택하지 않을 것이고, AI가 피해를 일으킬 경우엔 개발사가 상당한 법적 책임을 질 수 있기 때문이란 게 저커버그의 설명이다.

그는 "신뢰와 정렬(alignment)은 빠르게 AI 에이전트와 모델을 차별화하는 가장 중요한 능력이 되고 있다"며 "정렬에 집중하지 않는 연구소는 뒤처질 것"이라고 언급하기도 했다. 'AI 정렬'이란 AI가 인간의 의도, 가치, 목표에 부합하도록 행동하게 만드는 연구 분야를 뜻한다.

저커버그는 자가사 최근 출시한 개인용 AI 에이전트 '뮤즈'(Muse)에 대해서도 "안전과 보안에 집중하기 위해 출시를 수개월 연기했다"며 "다른 회사에도 먼저 똑같이 하라고 요구하지 않았다. 사람들과 우리에게 옳은 일이라고 판단했기 때문에 일상 업무의 일부로 그렇게 했다"고 설명했다. 메타는 이달 8일 뮤즈를 공식 출시했다.

다만 그는 AI에 대한 외부 검증 필요성엔 동의했다. 그는 "독립적 평가기관과 자문가를 참여시키는 것은 업계의 모범 사례"라며 메타슈퍼인텔리전스랩스(MSL)도 이미 여러 분야에서 이를 활용하고 있다고 밝혔다. 그는 "다른 연구소들도 그냥 이렇게 하면 된다"며 독립 평가기관과 평가자가 지금보다 더 많고 다양해지는 게 도움이 될 것이라고 부연했다.

저커버그는 AI가 스스로 더 강력한 AI를 만드는 '재귀적 자기 개선' 경쟁에도 선을 그었다. 저커버그는 연산 자원 대부분을 재귀적 자기 개선을 위한 경쟁보다 사람들에게 서비스를 제공하는 데 투입하는 게 AI를 안전하게 개발하는 가장 좋은 방법 중 하나라며 메타는 이미 이 원칙을 따르고 있다고 설명했다.

저커버그는 지난달 에세이에서도 AI 위험에 대응하기 위해 능력을 제한하거나 소수 기관에 권한을 집중시키는 방식에 부정적인 입장을 밝혔다. 그는 AI를 광범위하게 보급해 개인과 기업, 정부 사이에 '권력의 균형'을 형성하는 게 오히려 안전에 도움이 된다고 주장했다.

반면 아모데이는 이달 12일 AI 능력의 발전 속도를 안전 연구가 따라잡을 수 있도록 '최전선의 속도를 조절해야 한다'며 개별 기업에 상주하는 외부 평가자 도입과 업계 공동 안전기준, 국제 공조 등을 제안했다. 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO 등도 이에 동조했다.

이에 대해 젠슨 황 엔비디아 CEO는 15일 AI 안전은 법률보다 공학적으로 해결해야 할 문제라며 빠른 개발과 안전이 양립할 수 있다고 주장했다. 황 CEO는 "가능한 한 빨리 달려라"면서도 기업이나 제품이 안전하지 않다고 판단되면 개발을 멈추고 점검하면 된다고 강조했다.

ys4174@news1.kr