"국가대표 독파모 AI 증류 '불법' 소지…美와 선제 협상해야"

(서울=뉴스1) 대담=강은성 ICT과학부장 김민수 기자 = 정부가 추진하는 '독자 AI 파운데이션 모델'(독파모)을 비롯해 국내 AI 개발 과정에서 해외 상용 AI의 출력물을 무단으로 학습에 활용할 경우 저작권법 위반 등 법적 문제가 발생할 수 있다는 지적이 나왔다.

미국과 중국의 AI 패권 경쟁에서 다른 AI가 내놓은 답변을 학습하는 'AI 증류'(Distillation)가 새로운 쟁점으로 떠오른 만큼 국내 AI 개발도 관련 법률과 상용 AI의 이용약관을 따져야 한다는 주장이다.

임종인 숭실대 AI위원회 위원장(고려대 정보보호대학원 명예교수)은 <뉴스1 초대석>에서 해외 최고 성능 AI의 활용이 필요하다면 미국 AI 기업과 선제적으로 협상해 합법적인 활용 통로를 확보해야 한다고 제언했다.

AI 증류는 성능이 높은 대형 AI 모델이 생성한 답변이나 지식 등을 학습 데이터로 활용해 다른 모델의 성능을 높이는 기술이다. 적은 비용과 컴퓨팅 자원으로 모델 성능을 높일 수 있어 AI 개발에 널리 활용된다.

증류 자체가 불법인 것은 아니다. 문제는 다른 기업의 상용 AI에 대량으로 질문을 던져 출력물을 확보한 뒤 이를 경쟁 AI 모델 개발에 무단으로 활용하는 경우다. 이용약관 위반이나 저작권 침해 여부가 쟁점이 될 수 있다.

최근에는 이 문제가 미·중 AI '신경전'으로 번졌다. 앤트로픽은 올해 2월 딥시크·문샷AI·미니맥스 등 중국 AI 기업들이 약 2만4000개 계정을 통해 클로드와 1600만 건 이상의 대화를 생성, 자사 모델 개발에 활용했다고 주장했다. 오픈AI도 중국 AI 기업들이 자사 모델을 겨냥해 '적대적 증류'(adversarial distillation) 시도를 했다고 주장하며 문제 삼고 있다.

임 교수는 미국에서 벌어지는 이 같은 논쟁을 한국과 별개의 문제로 볼 수 없다고 지적했다.

한국은 한미 자유무역협정(FTA) 이행 과정에서 저작권법을 개정해 미국 저작권 제도의 상당 부분을 국내 법체계에 반영했다. 임 교수는 이에 따라 미국에서 위법성 논란이 제기되는 AI 증류 방식이 국내에서도 법적 문제로 이어질 소지가 있다고 봤다.

독파모를 비롯한 국내 AI 개발 과정에서 해외 상용 AI의 출력물을 학습에 활용한다면 해당 서비스의 이용약관은 물론 저작권법상 허용 범위까지 사전에 따져야 한다는 것이다.

임 교수는 "상용 AI 이용약관에는 증류 목적의 사용을 제한하는 내용이 있다"며 "이를 어길 경우 계약이나 법률상 문제가 발생할 수 있다"고 설명했다.

AI 기업들도 대량의 유사한 질문이나 여러 계정을 통한 반복적인 요청 등을 탐지해 무단 증류를 차단하고 있다.

임 교수는 "증류를 막는 것도 결국 '창과 방패'의 싸움"이라며 기술적 차단만으로 막기 어려운 만큼 법적 대응도 강화될 수 있다고 내다봤다.

그렇다고 해외 최고 성능 AI의 활용을 포기하는 것은 현실적인 해법이 아니라고 봤다.

임 교수는 "미국과 협상해 정당한 대가를 지급하고 합법적으로 사용할 수 있는 통로를 만들어야 한다"고 말했다. 기술적으로 규제를 우회하기보다 미국 AI 기업과 정식 계약을 맺고 일정 범위에서 AI 출력물을 학습 등에 활용할 수 있도록 하자는 것이다.

한국의 협상 카드로는 삼성전자와 SK하이닉스의 반도체 경쟁력을 꼽았다.

임 교수는 "한국은 미국과 AI 밸류체인을 함께하는 나라"라며 "삼성전자와 SK하이닉스가 멈추면 AI 생태계 전체가 흔들릴 수 있다. 이를 협상의 지렛대로 활용해야 한다"고 말했다.

한국이 AI 모델에서는 미국에 뒤처져 있더라도 고대역폭메모리(HBM) 등 AI 반도체 공급망에서는 핵심적인 위치를 차지하고 있는 만큼 이를 미국 AI 기술에 대한 접근권을 확보하는 협상 카드로 활용하자는 주장이다.

이를 통해 독파모 등 독자 AI(소버린AI) 개발에도 힘을 실을 수 있다는 것이 임 교수의 설명이다.

그는 "우리는 성공과 실패를 자꾸 0 아니면 1로만 보는 경향이 있는데, 현실에선 0.8도 있고 0.9도 있는 것"이라고 말했다.

세계 최고 수준에 도달하지 못하더라도 자체 모델을 개발하는 과정에서 기술과 인력, 운용 경험을 축적할 수 있고, 자체 기술을 갖춰야 해외 AI에 일방적으로 종속되는 것도 피할 수 있다는 설명이다.

임 교수는 "자체 개발을 포기할 수는 없다"면서 "결국 하이브리드로 가야 한다. 우리 것도 개발하면서 최고의 모델을 활용해야 한다"고 강조했다.

☞임종인 숭실대 AI위원회 위원장

임종인 숭실대 AI위원회 위원장은 정보보호·사이버안보 전문가다. 고려대 수학과를 졸업하고 같은 대학에서 대수학 석·박사 학위를 받았다. 1986년 고려대 수학과 교수로 임용돼 이후 정보보호대학원 교수와 원장 등을 지냈으며 2022년 2월 정년퇴임했다. 2015년 대통령비서실 안보특별보좌관을 지냈고 2024년 대통령비서실 사이버특별보좌관을 맡았다. 현재 숭실대 AI위원회 위원장으로 활동하고 있다.

△1956년 12월 2일 △고려대 수학과 △고려대 대학원 대수학 석·박사 △고려대 수학과·정보보호대학원 교수 △고려대 정보보호대학원장 △한국정보보호학회 회장 △한국디지털포렌식학회 회장 △대검찰청 디지털수사자문위원회 위원장 △대통령 직속 개인정보보호위원회 위원 △대통령비서실 안보특별보좌관 △금융보안원 금융보안 자문위원장 △대통령비서실 사이버특별보좌관 △고려대 정보보호대학원 명예교수 △숭실대 AI위원회 위원장

대담=강은성ICT과학부장, 정리=김민수기자

kxmxs4104@news1.kr