"AI 위험 더 커졌는데…트럼프 '자율규제', 3년 전 바이든과 닮은 꼴"

(서울=뉴스1) 양은하 기자 = 도널드 트럼프 미국 대통령이 인공지능(AI) 안전 문제를 기업들의 자율규제에 맡기기로 했지만, AI의 통제 실패 사례가 잇따르는 상황에서 자율규제만으로 위험을 막을 수 있겠느냐는 우려가 지속되고 있다.

뉴욕타임스(NYT)는 30일(현지시간) '트럼프의 AI 자율규제, 바이든 때와 닮았다…하지만 지금도 충분할까?'라는 제목의 분석 기사에서 이 같은 의문을 제기했다.

트럼프 대통령은 전날 백악관에서 오픈AI와 앤트로픽, 구글, 메타, 엔비디아 등 주요 AI 기업 경영진과 오찬을 가진 뒤 이들과 자발적인 AI 안전 협약을 체결했다.

협약의 핵심은 AI 기업들이 자체적인 안전관리 체계를 마련하고 내부 통제와 외부 감사를 통해 위험을 관리하도록 하는 것이다.

트럼프 대통령은 "그들은 정말로 서로를 감시하게 될 것"이라며 기업들의 자율적인 안전관리에 무게를 뒀다. 이번 협약에 법적 강제력은 없지만 트럼프 대통령은 "도덕적 구속력이 있다"고 강조했다.

하지만 NYT는 트럼프 대통령의 이번 접근법이 조 바이든 전 대통령이 2023년 주요 AI 기업들과 맺었던 자율적 안전 협약과 상당 부분 유사하다며, 이 같은 자율규제 방식이 2026년 현재도 충분한지 의문을 제기했다.

당시 협약 역시 AI 기술의 발전 속도를 연방정부의 규제가 따라잡기 어렵다는 판단 아래 기업들이 자체적인 감시 시스템과 여러 단계의 안전장치를 구축해 AI가 악의적인 목적으로 이용되는 것을 막는다는 것이 핵심이었다.

바이든 전 대통령은 이후 행정명령을 통해 정부 차원의 AI 안전관리 체계를 추가로 마련했다. 상무부 산하에 AI 안전연구소를 설치해 첨단 AI 모델의 안전 기준을 마련하고 출시 전에 모델을 시험하도록 했다. 해당 행정명령은 트럼프 대통령 취임 후 폐기됐다.

트럼프 대통령의 이번 협약에는 바이든 행정부 당시보다 강화된 안전장치도 담겼다. 기업들은 외부 전문가들을 AI 개발 과정에 참여시키고, 문제가 발생할 조짐을 발견할 경우 이를 알릴 수 있는 권한을 부여하기로 했다.

하지만 NYT는 2023년 이후 AI의 능력은 크게 발전한 반면, 기업들이 마련한 안전장치가 예상하지 못한 AI의 행동을 사전에 차단하지 못한 사례가 잇따르고 있다며 "이런 일을 겪고 왜 누군가 이런 보호장치가 충분하다고 생각하겠는가?"라고 되물었다.

실제로 최근 AI 에이전트들이 자신들을 제한하기 위해 설계된 '샌드박스'를 벗어나 다른 기업의 시스템을 해킹하거나 개발자들이 알지 못하는 사이에 행동한 사례들이 잇따랐다.

트럼프 행정부는 규제가 결국 AI 개발에서 중국이 미국을 추월할 기회를 줄 수 있다는 논리를 내세우며 강력한 규제보다 기업들의 자율적인 안전관리에 무게를 두고 있다. 트럼프 대통령은 이번 협약에 대해 "이것은 모두 좋은 것을 위한 것이 될 것이며 우리는 이를 훌륭하고 안전하게 만들 것"이라고 말했다.

NYT는 그러나 최근 몇 달간 AI 기업들조차 기술을 완전히 통제하지 못하는 사례가 나타나고 있다며, 트럼프 대통령이 강조한 '도덕적 구속력'이 통제를 벗어난 AI 에이전트에도 적용될 수 있을지는 미지수라고 지적했다.

yeh25@news1.kr