'AI 안전' 충돌…아모데이 "표준 만들자" 젠슨황 "일률규제 안돼"

(서울=뉴스1) 장용석 기자 = 인공지능(AI) 기술의 급속한 발전에 따른 안전 우려가 커지는 가운데 글로벌 AI 업계를 이끄는 최고경영자(CEO)들이 개발 속도와 규제를 놓고 뚜렷한 시각차를 드러냈다.

15일(현지시간) CNBC·가디언 등에 따르면 다리오 아모데이 앤트로픽 CEO와 젠슨 황 엔비디아 CEO, 샘 올트먼 오픈AI CEO는 이날 미국 샌프란시스코에서 열린 세일즈포스 연례행사 '드림포스 2026'에 참석해 AI 안전 문제에 대한 견해를 밝혔다.

세일즈포스는 고객관계관리(CRM) 소프트웨어를 중심으로 기업용 클라우드 서비스를 제공하는 미 소프트웨어 기업이다.

아모데이 CEO는 이날 마크 베니오프 세일즈포스 CEO와의 대담에서 AI 성능 향상 속도를 안전 연구와 검증이 따라잡을 수 있도록 조절해야 한다고 거듭 주장했다.

그는 자동차 업계를 예로 들어 경쟁 회사에서 브레이크 결함이나 제조 과정상 문제로 안전사고가 발생하면 "'저 회사는 안전하지 않다'고 공격하고 싶은 유혹이 생긴다"면서도 책임 있는 대응 방법은 경쟁사 비난이 아니라 자기 회사에도 비슷한 문제가 없는지 먼저 점검하는 것이라고 설명했다.

그는 "업계를 앞으로 이끌어 가는 방법은 모범을 보이고 모두가 언제나 더 나아질 수 있음을 보여주는 것"이라며 자체 안전 관행을 개선하고 투명성을 높이는 한편, 안전 분야에 대한 투자를 확대한 뒤 업계 차원의 공통 안전기준 마련과 국제적 협력으로 가야 한다고 말했다.

아모데이는 지난 12일 '우리는 최전선의 속도를 조절해야 한다'(We Must Pace the Frontier)'는 글에서도 첨단 AI 모델의 능력 향상 속도를 늦추자고 제안했다.

다만 그는 이 같은 '속도 조절'이 AI 기술 발전이나 모델 훈련을 중단하자는 의미가 아니라, 현재 AI 기술만으로도 기업과 사회가 활용할 수 있는 잠재력이 막대하기 때문에 기술을 계속 발전시키면서 안전 연구·검증에 필요한 시간을 확보해야 한다는 취지라고 밝혔다.

아모데이는 과거 연산 자원이 늘어날수록 AI 모델 성능이 향상된다는 이른바 '스케일링 법칙'을 통해 AI 능력의 발전을 어느 정도 예상했지만, 기술과 관련 기업이 이처럼 빠른 속도로 성장할 것이라고는 예상하지 못했다고 부연했다.

아모데이의 이 같은 속도 조절 제안엔 올트먼과 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 딥마인드 CEO 등도 지지 의사를 나타냈다.

그러나 이날 행사에서 뒤이어 마이크를 잡은 황 CEO는 새로운 법률이나 규제를 통해 AI 개발 속도를 늦출 필요는 없다는 입장을 밝혔다. 시장의 자율적 통제 장치가 이미 작동하고 있으며, 빠른 기술 개발과 안전은 서로 배치되는 개념이 아니란 게 그의 주장이다.

특히 그는 "안전은 최우선 과제인 동시에 공학적 문제"라며 AI 시스템을 충분히 시험하고도 안전에 확신이 들지 않을 땐 출시하지 않으면 된다고 말했다. 일률적으로 AI 개발 속도를 제한하기보다 개별 기업이 안전성을 판단해 필요할 때 속도를 조절해야 한다는 것이다.

황 CEO는 AI 모델 개발업체 스스로 제품에 대한 책임을 져야 한다며 "가능한 한 빨리 달려라"고 말했다. 다만 그는 "어느 순간 통제 불능 상태가 되거나 제품이 안전하지 않을 것 같다는 느낌이 든다면 잠시 멈추고 제대로 됐는지 확인해야 한다"고 주문했다.

이런 가운데 올트먼 CEO는 이날 오후 진행된 베니오프 CEO와의 대담에서 또 다른 측면의 '책임론'을 강조했다.

그는 현재 AI 모델의 능력을 감안하면 새로운 기능 개발보다 안전성과 감시 체계를 우선해야 한다고 말했다.

그는 일부 AI 업체들이 "다른 회사가 책임 있게 행동할 때만 우리도 책임 있게 행동하겠다"고 주장하는 데 대해선 비판적인 입장을 취했다. 올트먼은 AI 기업이 안전하고 책임 있게 행동하는 데는 경쟁사의 행동 여부가 전제가 돼선 안 된다며 "어떤 조건도 붙어선 안 된다"고 말했다.

AI 개발 속도를 둘러싼 논쟁은 최근 첨단 모델이 사이버 공격과 무기 개발 등에서 악용될 수 있다는 우려가 잇따르면서 확산하고 있다.

앤트로픽은 지난 10일 일부 군사·정보 분야에서 최신 AI 모델이 과거엔 고도로 훈련된 전문가만 수행할 수 있었던 작업까지 수행할 수 있다는 자체 평가 결과를 공개했다.

ys4174@news1.kr