빌 게이츠 "AI 악용하면 10억명 사망할 수도…정부 규제 필요"

(서울=뉴스1) 장용석 기자 = 빌 게이츠 마이크로소프트(MS) 공동 창업자가 인공지능(AI)이 악의적인 사람들 손에 들어갈 경우 최대 10억 명의 사망자를 낳는 사건을 촉발할 수 있다며 미국 정부의 규제 강화를 촉구했다.

NBC뉴스에 따르면 게이츠는 27일(현지시간) 방송 예정인 '미트 더 프레스'와의 인터뷰 발췌본에서 "AI는 분명 10억 명의 사망자를 낳는 사건을 일으킬 만큼 강력하다"고 말했다.

게이츠는 'AI가 인류 전체를 멸종시킬 수 있느냐'는 질문에 "100%까지 가는 것은 상당히 어렵다"면서도 "악의를 가진 사람들이 최신 AI 도구를 함께 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 경고했다.

그는 특히 AI를 이용한 사이버공격과 생물테러를 우려하는 것으로 전해졌다. 그는 NBC '나이틀리 뉴스'가 공개한 인터뷰 영상에서도 게이츠는 악의적 행위자들이 AI를 활용하는 위험을 핵심 우려로 꼽았다.

게이츠는 AI 기업들의 자율규제만으로는 부족하다며 연방정부 차원의 입법도 촉구했다. 그는 "자율규제만으로 충분하다고 생각하는 사람은 아무도 없다"며 워싱턴에서 관련 법안을 통과시켜야 하느냐는 질문에 "그렇다"고 답했다.

그는 "법집행기관과 정치인들이 (AI) 안전장치와 감시가 어떤 형태여야 하는지 논의에 참여해야 한다"며 "그것은 의무적인 것이 돼야 한다"고 강조했다.

게이츠는 지난달 자신의 블로그 '게이츠 노트'에 공개한 장문의 글에서도 AI가 일자리 감소와 사이버공격, 생물테러 등의 위험을 키울 수 있다고 경고했었다.

그는 AI와 로봇이 발전하더라도 일부 업무는 사람에게만 맡기는 이른바 '휴먼 리저브드'(Human Reserved) 영역을 둘 필요가 있다고 제안했다. 간병이나 환자에게 중대한 진단을 전달하는 업무처럼 인간의 판단과 공감이 중요한 분야를 AI로 완전히 대체하지 말자는 취지다.

최근 각국에선 고성능 AI 시스템 통제와 악용 가능성을 둘러싼 우려가 커지고 있다.

호주 정부는 지난 23일 오픈AI가 개발한 AI 에이전트가 올 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 무단으로 접근했다고 공개했다. 이 에이전트는 공개 파일뿐 아니라 비공개 파일에도 접근했다. 다만 현재까지 개인의 메디케어 정보가 유출됐다는 증거는 확인되지 않았다.

오픈AI는 이 사고가 발생한 지 약 3개월 뒤인 이달 10일 호주 정부에 이를 알렸다. 이에 앤서니 앨버니지 호주 총리는 샘 올트먼 오픈AI 최고경영자(CEO)에게 통보가 지나치게 늦었다는 뜻을 전달했다.

앤트로픽도 이달 공개한 위협 정보 보고서에서 북부 예멘에 기반을 둔 한 세력이 자사 AI 모델 클로드를 이용해 유도무기 개발을 시도했다고 밝혔다.

AI 안전 문제는 이달 23일 열린 유엔 안전보장이사회에서도 핵심 의제로 다뤄졌다. 올트먼과 다리오 아모데이 앤트로픽 CEO, 클레망 들랑그 허깅페이스 공동창업자 등이 안보리에 출석해 AI 위험을 관리하기 위한 국제 협력과 공통 기준 마련 필요성을 강조했다.

그러나 트럼프 미 행정부는 새로운 국제 AI 규제 체계엔 반대한다는 입장을 분명히 하고 있다.

마이클 크라치오스 백악관 과학기술정책실장은 안보리에서 "우리의 첫 번째 책무는 초지능(Super Intelligence)의 지속적 발전이 시민들에게 혜택을 주고 그들의 자유와 삶의 방식을 보호하도록 하는 것"이라며 "지능의 최전선이 빠르게 발전한다는 사실은 개발을 중단하거나 새로운 글로벌 거버넌스 구조로 제약해야 할 이유가 되지 않는다"고 말했다.

그는 "국제적 대화가 글로벌 거버넌스로 흘러가선 안 된다"며 유엔 같은 기구는 국제 규제 체계를 만드는 대신 각국의 역량을 키우는 모범사례를 공유하는 데 초점을 맞춰야 한다고 주장했다.

ys4174@news1.kr