트럼프, AI 위험론에도 '자율규제' 택했다…빅테크와 안전협약(종합)

(서울=뉴스1) 양은하 권영미 기자 = 도널드 트럼프 미국 대통령이 29일(현지시간) 백악관에서 인공지능(AI)을 개발하는 주요 기술기업 수장들과 만나 AI를 안전하게 개발하기 위한 자율규제 협약을 체결했다.

AI의 통제 불능 위험에 대한 우려가 커지는 가운데 정부의 직접적인 규제보다는 기업들이 스스로 위험을 관리하도록 맡기는 데 무게를 둔 것이다.

워싱턴포스트 등에 따르면 이번 협약은 법적 강제력을 갖춘 정부 규제가 아니라 기업들의 자발적인 약속에 기반한다. 트럼프 대통령은 이 협약을 "도덕적 구속력이 있는 합의"라고 표현했다.

협약에 따라 기업들은 AI 시스템이 통제 불능 상태에 빠지는 것을 막기 위한 내부 통제장치를 마련하기로 했다.

이번 협약은 AI 기술이 급속도로 발전하면서 안전성에 대한 우려가 커지는 상황에서 정부의 강제적 규제 없이도 AI 기업들이 자체적으로 안전성을 관리할 수 있다는 트럼프 행정부의 정책 방향을 보여준다. 트럼프 행정부는 앞서서도 AI 혁신을 저해할 수 있는 과도한 규제를 거부하고 민간 기업과의 협력을 통한 안전 확보를 강조해왔다.

트럼프 대통령은 젠슨 황 엔비디아 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO 등이 참석한 자리에서 "엄청난 수준의 자율규제가 이뤄지고 있는 것을 보고 있다"고 말했다.

또 정부의 안전장치 없이 AI 업계가 스스로 규제할 수 있다고 보느냐는 기자의 질문에 기업 경영진들이 답하기 전에 "대답은 '그렇다'고 말할 수 있다"고 말했다.

트럼프 대통령은 이후 사회관계망서비스(SNS)를 통해 '프런티어 책임에 대한 공동 약속'이라는 부제가 붙은 협약 문서를 공개했다.

협약에는 기업들이 AI를 안전하고 대중의 신뢰를 얻는 방식으로 개발할 책임이 있으며, 이를 위해 강력한 내부 절차와 통제장치를 갖춰야 한다는 내용이 담겼다. 구체적으로 4단계의 통제 및 감사 체계를 제시했다.

첫 번째로 사이버 보안, 생물안보, 화학적 위협 등의 영역에서 모델의 능력을 모니터링하고, 훈련 및 배포 과정에서 통제시스템과 정렬 상태를 점검하기 위한 내부 통제장치를 구축하기로 했다. 또 모델이 기술 시스템을 해킹하거나 의도하지 않은 방식으로 접근하지 않도록 한다는 내용이 포함됐다.

두 번째로 내부 팀에 권한을 부여해 통제와 모니터링을 실시하고 문제를 해결하도록 했다. 세 번째로 독립적인 외부 감사인 또는 평가기관과 협력해 통제와 모니터링, 탐지 기능이 의도한 대로 작동하는지를 독립적으로 평가하도록 했다. 네 번째로 이사회 내 독립적인 위원회를 지정해 관련 절차를 감독하고 확인하도록 했다.

협약은 참여 기업들이 표준과 모범 사례를 정립하기 위해 정기적으로 만날 것이라고 덧붙였다.

협약에는 구글의 순다르 피차이, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그, 오픈AI의 그레그 브로크먼, xAI의 일론 머스크, 엔비디아의 젠슨 황과 트럼프 대통령이 서명했다.

트럼프 대통령은 이날 AI의 명칭을 '초지능'(Super Intelligence)으로 변경하는 행정명령에도 서명했다. 앞서 트럼프 대통령은 AI라는 명칭이 "인공적이지 않기 때문에" 정부 문서에서 공식 명칭을 '초지능'으로 바꾸겠다고 밝혀왔다.

워싱턴포스트는 이 같은 명칭 변경을 두고 대중의 불안감을 불러일으킨 AI의 이미지를 바꾸려는 시도이자, 정부가 안전장치를 마련해야 한다는 요구를 거부하는 행보로 평가했다.

yeh25@news1.kr