샘 올트먼 "AI 개발 속도조절 방안 검토…타사도 함께하길"

(서울=뉴스1) 윤다정 기자 = 샘 올트먼 오픈AI 최고경영자(CEO)가 첨단 인공지능(AI) 개발 속도를 늦추는 방안을 검토 중이라고 10일(현지시간) 블룸버그가 보도했다.

복수의 소식통에 따르면, 올트먼은 이번 주 전사 회의에서 "오픈AI는 AI 개발 속도를 조절할 수 있고 다른 여러 AI 연구소와 함께 추진할 가능성도 있지만 일부는 이에 동의하지 않을 수도 있다"고 말했다.

최근 몇 주 사이 주요 AI 기업의 직원들이 첨단 AI 시스템의 위험 증가에 대해 공개적으로 염려를 나타내고 있다.

오픈AI 수석과학자 야쿠프 파호츠키는 최근 AI의 위험성을 경고하는 글을 통해 AI 기업들이 "필요에 따라 향후 개발 속도를 늦추기 위해 공조해야" 한다며 "공통의 안전 기준이 마련될 때까지 자발적 속도 조절이 일반화되기를" 희망한다고 밝혔다.

우려를 키운 결정적 계기는 보안 사고다. 지난 7월 오픈AI의 AI 에이전트들이 테스트 과정에서 통제 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스의 시스템에 무단으로 접근한 사실이 드러났다. 경쟁사 앤트로픽 등에서도 유사한 사례가 잇따라 보고됐다.

허깅페이스 해킹 사고가 공개된 뒤, 오픈AI와 앤트로픽 등 주요 AI 기업 직원 1000여 명은 개발 속도를 늦출 장치를 마련할 것을 촉구하는 청원에 서명했다.

올트먼도 AI 개발 속도를 조절할 필요성에 대해 백악관 관계자들과 논의했다고 밝힌 바 있다. 이후 오픈AI는 안전 문제를 이유로 모델 개발 일부를 늦추고 내부 AI 훈련 일부를 중단했다.

AI를 개발하던 직원들의 사직은 계속되고 있다. 앤트로픽 연구원 제이컵 콕슨은 8일 X(구 트위터)에 "3년간 오픈AI와 앤트로픽에서 사전 학습 연구를 진행했지만 두 회사 모두 책임감 있는 모습을 보이지 않고 있다"며 "스스로 발전하는 초지능을 향해 질주하며 우리의 생명을 위험에 빠뜨리고 있다"고 비판했다.

특히 "개발자들은 AI가 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿는다. 이는 마케팅 전략이 아니다. 많은 경영진과 고위 연구자들이 대외적으로는 그럴듯한 표현으로 다듬어 말하지만 사적으로는 두려움을 토로하곤 한다"고 경고하며 퇴사했다.

이 글은 조회수 1억 5000만회를 넘기며 널리 퍼져 나갔고 유력 정치인들의 주목도 받았다.

앤트로픽 수석 과학자 에번 휴빙거는 콕슨의 사임 발표 후 X에 "AI가 인류를 절멸시킬 확률이 향후 10년간 10%가 넘는다"며 동조하고 나섰다.

한편 오픈AI와 앤트로픽은 올해 초 나란히 비공개로 기업공개(IPO) 서류를 제출한 상태다.

maum@news1.kr