美빅테크 연구진 1100명 "첨단 AI 개발속도 국제적으로 관리해야"

(서울=뉴스1) 신기림 기자 = 메타와 오픈AI, 구글, 앤트로픽 등 주요 인공지능(AI) 기업 직원 1100여명이 최첨단 AI 개발 속도를 관리하기 위한 국제적 대응에 미국 정부가 나설 것을 촉구했다.

AI 기업들이 갈수록 강력한 모델 개발 경쟁을 벌이는 상황에서 기술 발전 속도가 기존의 안전·규제·감독 체계를 앞지를 수 있다는 우려가 업계 내부에서도 확산하는 분위기다.

28일(현지시간) 로이터에 따르면 주요 기술기업 직원들은 '프런티어 속도 조절'(Pacing the Frontier)이라는 제목의 공동 성명을 통해 미국 정부가 첨단 AI 개발 속도를 의도적으로 관리하는 데 필요한 기술적·제도적 수단을 마련하기 위한 국제적 노력에 동참해야 한다고 밝혔다.

성명에는 메타플랫폼스와 오픈AI, 앤트로픽, 구글 모회사 알파벳의 직원들이 참여했다. 비영리단체 가이드라이트 AI 스탠더즈와 인코드 AI도 이번 운동을 지원했다. 서명자에는 돈 송 메타 AI 연구 담당 부사장과 재러드 캐플런·크리스 올라 앤트로픽 공동창업자, 야쿠프 파초키 오픈AI 수석과학자 등 1100여명에 달한다.

성명은 "미국 정부가 자동화된 최첨단 AI 개발의 속도를 의도적으로 조절하는 데 필요한 기술 및 거버넌스 수단을 개발하기 위한 국제적 노력을 지원해줄 것을 요청한다"고 적시했다.

연구자들의 요구는 AI 개발을 즉각 중단하자는 주장은 아니다. 향후 AI 시스템이 스스로 연구·개발 속도를 높이는 단계에 도달할 경우에 대비해 개발 속도를 조정할 국제적 안전장치를 미리 구축해야 한다는 취지다.

오픈AI는 성명 발표 후 엑스(X)를 통해 "미래 어느 시점에는 최첨단 모델 개발에서 AI에 의한 발전 속도가 매우 빨라져 세계가 AI 진보 속도를 조절해야 할 수 있다"고 밝혔다.

AI 업계에서는 이른바 자동화된 AI 연구개발이 본격화하면 기술 발전 속도가 인간과 정부의 대응 능력을 넘어설 수 있다는 우려가 커지고 있다고 로이터는 전했다.

AI가 새로운 모델 설계와 코드 작성, 실험, 성능 개선 작업까지 자동화하면 AI 개발 속도가 기하급수적으로 빨라질 수 있다. 이 경우 기존의 모델 출시 전 안전성 평가나 정부 규제가 기술 진전을 따라잡기 어려워질 수 있다는 지적이다.

앤트로픽은 지난달 주요 AI 연구소들이 개발 속도를 공동으로 늦추는 방안을 검토해야 한다고 제안했다. AI 시스템이 사회가 위험을 관리할 수 있는 속도보다 빠르게 스스로를 개선할 가능성이 있다는 이유에서다.

다만 기업 한 곳이 독자적으로 개발을 늦출 경우 경쟁에서 뒤처질 수 있어 개별 기업의 자율적인 조치만으로는 한계가 있다는 평가가 나온다. 미국과 중국을 비롯한 주요국과 핵심 AI 기업들이 동시에 참여하는 국제적 공조가 필요하다고 로이터는 설명했다.

별도로 엔비디아는 27일 어도비, 크라우드스트라이크 등과 함께 AI 안전 및 사이버보안 도구를 개발하는 연합체를 결성했다고 밝혔다.

최근 AI 개발 플랫폼 허깅페이스에서 발생한 사이버보안 사고를 계기로 사람의 개입 없이 작업을 수행하는 자율형 AI 에이전트가 보안 위협을 확대할 수 있다는 우려가 커진 데 따른 것이다.

AI 기술 경쟁이 모델 성능과 투자 규모 중심에서 개발 속도와 안전성을 어떻게 통제할 것인지의 문제로 옮겨가면서 미국 정부의 역할을 요구하는 업계 내부 목소리도 더욱 커질 것으로 보인다.

shinkirim@news1.kr