올트먼 등 AI 리더 "생물학 무기 개발 장벽 무너질 수도" 경고

(서울=뉴스1) 김지완 기자 = 미국의 인공지능(AI) 업계 주요 기업 경영진이 AI 기술 발전으로 인해 생물학 무기의 위험이 더 커질 수 있다고 경고했다고 월스트리트저널(WSJ)이 3일(현지시간) 보도했다.

보도에 따르면 오픈AI, 앤트로픽, 구글 딥마인드 AI 연구소의 CEO인 샘 올트먼, 다리오 아모데이, 데미스 허사비스는 기업들이 합성 DNA와 RNA를 주문할 때 의회가 안전 조치를 의무화할 것을 촉구하는 서한에 서명했다.

합성 DNA와 RNA 주문은 백신 개발 등 생명공학 분야에서 핵심적인 단계다. 서한이 촉구한 안전 조치는 주문 내용을 검토해 위험할 수 있는 DNA 및 RNA 합성을 차단하고, 주문한 고객이 정당한 인물인지 확인하도록 하는 것이다.

이 서한 작성을 주도한 기술 관련 싱크탱크 두 곳은 정부 규제에 대해 의견이 갈리는 경쟁사들이 드물게 의견을 모았다고 전했다. 실제로 허사비스는 강력한 규제를 지지해 왔다.

서한은 "AI 시스템이 급속도로 발전해 과학과 의학에 엄청난 혜택을 주는 동시에, 역사적으로 악의적 행위자들이 생물학적 무기를 획득하는 것을 막아왔던 지식의 장벽이 실질적으로 무너질 가능성이 있다"고 지적했다.

서한 발송을 주도한 싱크탱크 '미국혁신재단' 소속의 딘 볼 선임연구원은 "생물학적 생명체나 바이러스를 생성하는 물질을 합성한다면, 그것이 어떤 식으로든 위험한지 확인하기 위해 검사해 달라고 요청하는 것"이라며 "이는 사회가 요구하기에 합리적인 조치로 보인다"고 말했다.

앞서 AI가 위험한 병원체를 만들 수 있도록 DNA와 RNA를 합성하는 데 도움이 될 수 있다는 우려는 이전부터 꾸준히 제기돼 왔다.

조 바이든 행정부는 유전자 합성 심사 체계를 마련했으나 도널드 트럼프 행정부는 이를 철회하고 자체 심사 지침으로 대체하겠다고 밝혔다. 대체 지침은 아직 나오지 않았다.

이에 오픈AI는 최근 생물학적 위험을 예방하기 위해 연방 정부와 협력하는 새로운 프로그램을 발표했다. 올트먼도 3일 백악관 관계자 및 의원들과 만나 AI 모델 개발자에 더 강력한 요건을 요구하는 방안을 논의했다.

트럼프 대통령도 지난 2일 AI 기업들이 AI 모델 공개 30일 전 모델에 대한 접근권을 행정부에 제공하도록 요구하는 행정명령에 서명했다. 이는 AI 기술에 대한 비개입적 접근 방식에서 벗어난 것이라는 평가를 받았다.

gwkim@news1.kr