찰스3세 英국왕, AI 기업 대표들 회동…"선한 방향 개발 논의"

(서울=뉴스1) 윤다정 기자 = 전 세계적으로 통제되지 않는 인공지능(AI) 발전의 위험성을 놓고 공감대가 확산하는 가운데, 찰스 3세 영국 국왕이 스코틀랜드에서 주요 AI 기업 대표들을 만난다.

13일(현지시간) 뉴욕타임스(NYT)에 따르면, 버킹엄궁은 찰스 국왕이 엔비디아·구글·딥마인드·오픈AI·앤트로픽 등 기업 대표들과 정부 관계자들을 소집한다고 밝혔다.

버킹엄궁은 이번 회동에서 "AI가 사회에 이익이 되는 방식으로 개발·배치될 방안을 논의한다"며 "지역사회를 강화하고 삶을 개선"하는 등 선한 방향으로 활용할 방안을 모색할 것이라고 설명했다.

회동 장소는 스코틀랜드 남서부 에어셔에 있는 국왕 설립 교육 자선단체 킹스파운데이션 본부 덤프리스하우스다.

영국 비영리단체 디칠리재단이 주관하며 카니슈카 나라얀 영국 AI 담당 장관도 참석한다.

오픈AI에서는 새라 프라이어 최고재무책임자(CFO)가 참석한다. 앤트로픽·딥마인드·구글·엔비디아는 참석 여부를 확인해달라는 요청에 답하지 않았다.

지난 7월 오픈AI의 AI 에이전트들이 테스트 과정에서 통제 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스의 시스템에 무단으로 접근한 사실이 드러난 뒤, 업계 내부에서는 개발 속도를 조절해야 한다는 목소리가 커지기 시작했다.

허깅페이스 해킹 사고가 공개된 뒤, 오픈AI와 앤트로픽 등 주요 AI 기업 직원 1000여 명은 개발 속도를 늦출 장치를 마련할 것을 촉구하는 청원에 서명했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 공개 서한을 통해 개발 속도를 늦출 것을 촉구했다.

그는 AI 모델이 차세대 AI를 스스로 구축하는 '재귀적 자기개선'이 통제되지 않을 경우 "이러한 시스템을 이해하고 통제하는 우리의 능력을 앞지를 수 있다"고 경고했다.

서한에는 제삼자 평가자의 최전선 AI 기업 파견, 민주주의 국가 기업 간 공동 안전기준 수립 등 3단계 방안이 담겼다.

샘 올트먼 오픈AI CEO와 xAI를 소유한 일론 머스크 테슬라 CEO도 지지 의사를 밝혔다.

올트먼은 이에 앞서 전사 회의에서 "오픈AI는 AI 개발 속도를 조절할 수 있고 다른 여러 AI 연구소와 함께 추진할 가능성도 있지만 일부는 이에 동의하지 않을 수도 있다"며 AI 개발 속도조절론에 동참할 뜻을 밝혔다.

maum@news1.kr