팔란티어 CEO "AI기업, 규제 기대지 말고 법적 책임질 생각해야"

(서울=뉴스1) 장용석 기자 = 미국 데이터 분석 기업 팔란티어의 알렉스 카프 최고경영자(CEO)가 인공지능(AI) 안전 문제와 관련해 AI 개발 업체들이 규제에 의존하기보다 자신들이 만든 결과에 법적 책임을 져야 한다는 입장을 밝혔다.

카프 CEO는 17일(현지시간) 방송된 CNBC '스쿼크 온 더 스트리트'에 출연, AI 개발 속도와 안전 문제에 대해 "집행 가능한 합리적 지침을 마련할 방법을 찾아야 한다"면서도 "첫 번째 방어선은 자신의 행동에 대해 책임지는 것"이라고 말했다.

특히 그는 AI 기업이 위험성을 공개한 경우엔 먼저 "그렇다면 당신들은 뭘 하고 있느냐"고 물어야 한다고 지적했다. 그는 AI 기업이 "전 세계의 10%를 파괴할 수 있는 기술을 만들었다면 그에 따른 민·형사상 책임도 져야 한다"고 강조했다.

최근 AI 업계에선 AI가 인간의 통제를 벗어날 가능성을 놓고 안전 논쟁이 격화하고 있다. 다리오 아모데이 앤트로픽 CEO 등은 첨단 AI 개발 속도를 조절하고 외부 감시를 강화해야 한다고 주장하는 데 맞서 규제보다 기존 법률과 기업 책임을 활용해야 한다는 반론도 제기되고 있다.

카프 CEO는 AI 기업 내에 독립적인 제3자 안전 평가자를 상주시켜 개발 과정을 점검하도록 하는 방안엔 현실적인 어려움이 있다고 말했다. 그는 AI 시스템을 제대로 감독하려면 기술을 이해하는 전문가가 필요하지만 "이 분야를 이해하는 사람은 모두 누군가의 급여 명부에 올라 있다. 그렇다면 누구를 믿을 수 있느냐는 문제가 생긴다"고 지적했다.

카프 CEO는 이날 방송에서 일부 AI 기업들이 정부의 새로운 규제를 요구하는 배경엔 막대한 법적 책임으로부터 보호받고자 하는 이해관계가 있다는 해석도 내놨다.

카프 CEO에 따르면 팔란티어 고객사들의 경우 사업 아이디어·노하우 등이 AI 모델의 학습 데이터로 쓰여 경쟁업체에 노출된다는 불만을 제기하고 있다. 카프 CEO는 이로 인해 AI 기업들을 상대로 한 지식재산권 관련 소송이 잇따를 가능성이 있다고 전망했다.

그는 "내가 보기에 그들(AI 기업들) 생각은 이 기업들이 국유화돼야 한다는 것(The view that I believe they have is, these businesses have to be nationalize)"이라며 "국유화하지 않는다면 내 고객사 모두 소송을 제기할 것이기 때문"이라고 언급하기도 했다.

즉, 현재 진행 중인 AI 관련 논쟁의 본질은 '규제냐 아니냐'를 따지는 데 있는 게 아니라, AI 기업들이 감당하기 어려운 법적 책임을 면제받기 위해 정부의 보호를 필요로 할 수 있다는 게 카프 CEO의 주장이다.

정보기술(IT) 전문매체 기즈모도 또한 카프 CEO의 해당 발언을 소개하며 "(AI 기업들의) 법적 책임 면제를 위한 유일한 해결책은 트럼프 행정부가 회사 지분의 약 50%를 소유하는 방식일 것"이라고 전했다.

카프 CEO는 AI 기업 국유화가 실제로 이뤄진다면 "기업 가치가 폭락하고 결국 시장 전체가 붕괴될지도 모른다"고 말했다.

ys4174@news1.kr