하정우 "AI 개발 늦추기보다 안전 역량 갖춰야"

(서울=뉴스1) 이기범 기자 = 하정우 국가인공지능(AI)전략위원회 상근 부위원장이 최근 전 세계적으로 불거진 AI 속도조절론을 놓고 "우리가 주도적으로 AI 안전성에 대한 역량을 갖고 목소리를 내야 한다"고 강조했다.

하 부위원장은 1일 오후 서울 중구 국가AI전략위에서 열린 'AI 개발 속도조절론 관련 세미나'에서 영상 축사를 통해 이같이 밝혔다.

당초 하 부위원장은 이날 현장에 참석할 예정이었지만, 아랍에미리트(UAE) 아부다비 출장 일정으로 영상으로 대신했다.

하 부위원장은 최근 프런티어(최상위급) AI 모델의 발전과 이에 따른 위험성 증가와 속도 조절론을 언급하며, 이에 대해 기업과 국가마다 다른 입장을 내고 있다고 밝혔다. 앤트로픽, 오픈AI 등은 속도 조절을 촉구한 반면, 엔비디아를 비롯해 미국·중국 정부는 속도 조절론에 비판적 입장을 나타냈다.

하 부위원장은 "결국 중요한 건 우리가 어떤 전략을 수립하고 실행하느냐, AI 시대 우린 어떤 역량을 보유해야 하느냐다"라며 "중견국들이 소버린 AI를 확보하기 위한 노력을 하고 있는 가운데, 대한민국은 지난 1년여간 독파모(독자 AI 파운데이션 모델)를 진행하면서 프런티어 AI 개발 역량에 있어 명백한 3위까지 성장했다"고 말했다.

이어 "현시점에서 AI 위험성이 증가한 건 사실이기 때문에 어떤 안전장치를 마련할지와 이에 대한 평가 체계 역량을 개발하는 것도 매우 중요하다"면서도 "우리의 프런티어 AI 개발 속도를 조절할지 많은 이견이 있다"고 덧붙였다.

특히 하 부위원장은 한국이 AI 시대에 경쟁력을 갖고 글로벌 선도 국가가 되려면 AI 안정성에 대한 역량도 함께 강화해야 한다고 짚었다.

하 부위원장은 "AI 시대 선도국이 되기 위한 전략을 찾아가는 과정에서 우리가 주도적으로 AI 안정성, 규율에 대한 목소리를 낼 수 있어야 한다"며 "이를 위해 우리가 AI 안전과 관련한 역량을 갖고 영향력을 펼칠 수 있는 힘을 가져야 한다"고 말했다.

한편, AI 모델이 인간의 통제를 벗어나는 사고는 지속해서 발생하고 있다. 지난 7월 오픈AI의 비공개 모델이 내부 사이버보안 벤치마크 테스트 과정에서 AI 개발 플랫폼 허깅페이스를 해킹한 사건을 시작으로 앤트로픽, 메타, 중국의 '키미 K3' 등에서 비슷한 사례가 이어졌다. 최근에는 오픈AI의 AI 에이전트가 미국 및 호주 정부 웹사이트에 무단으로 접근한 사례와 함께 챗GPT 이용자로부터 제공받은 53개의 이미지를 유출한 사실도 확인됐다.

이 같은 상황이 지속되자 다리오 아모데이 앤트로픽 CEO는 지난 12일 AI의 능력이 안전하게 통제할 수 있는 수준보다 빠르게 발전할 가능성을 경고하며 프런티어 AI의 성능 향상 속도를 늦출 필요가 있다고 주장했다. 샘 올트먼 오픈AI CEO도 이에 공감을 나타냈다.

이에 대해 배경훈 부총리 겸 과학기술정보통신부 장관은 "지금 대한민국 AI에 필요한 것은 속도 조절이 아니라 속도 책임이다"라며 AI 속도 조절론에 여러 차례 선을 그은 바 있다.

Ktiger@news1.kr