트럼프, AI 기업 수장들과 '초지능에 대한 백악관 협약' 맺어

(서울=뉴스1) 권영미 기자 = 도널드 트럼프 미국 대통령이 29일(현지시간) 백악관에서 인공지능(AI)을 개발 중인 기술기업 수장들과 초지능(super intelligence)에 관한 백악관 협약을 맺었다. 이날 트럼프 대통령은 AI라는 명칭이 "인공적이지 않기 때문에" 정부 문서상 공식 명칭을 '초지능'으로 바꾸겠다고 밝혔다.

트럼프 대통령이 트루스소셜에 올린 협약은 구글의 순다르 피차이, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그, 오픈AI의 그레그 브로크먼, XAI의 일론 머스크, 엔비디아의 젠슨 황과 트럼프 대통령이 서명했다.

협약은 '프런티어 책임에 대한 공동 약속'이라는 부제가 붙어 있는데 기업들이 AI(프런티어 모델)를 안전하고 대중의 신뢰를 얻는 방식으로 개발할 책임이 있으며 이는 강력한 내부 프로세스와 통제장치를 갖추는 것에서 시작된다고 선언했다. 그러면서 4개 단계의 통제 및 감사 제도를 시행할 것을 제안했다

우선 첫 번째로 사이버 보안, 생물 안보, 화학적 위협과 같은 영역에서 모델의 능력을 모니터링하고 훈련 및 배포 과정에서 제어시스템과 정렬을 모니터링하기 위한 강력한 내부 통제장치를 구축하고, 모델이 기술 시스템을 해킹하거나 의도하지 않은 방식으로 접근하지 않도록 보장한다는 내용이다.

두 번째는 내부 팀에게 권한을 부여해 통제와 모니터링, 그리고 문제를 해결토록 하고 세 번째는 독립적인 외부 감사인 또는 평가자와 파트너십을 맺어 통제와 모니터링, 감지 기능이 의도한 대로 작동하는지 여부를 독립적으로 평가토록 한다는 것이다. 네 번째는 이사회의 독립적인 위원회를 지정해 감독하고 확인한다는 내용이다.

협약은 참여 기업들이 표준과 모범 사례 정립을 위해 정기적으로 만날 것이라고 덧붙였다.

kym@news1.kr