EU 'AI법' 본격 가동…유럽, 세계 첫 'AI 규제 강국' 된다

(서울=뉴스1) 노민호 기자 = 유럽연합(EU)의 인공지능(AI) 규제가 2일(현지시간) 본격 시행되며 세계 AI 규제의 중심지로 부상하고 있다.

2일(현지시간) 유로뉴스 등에 따르면 EA는 2024년 제정한 'AI법'(AI Act) 가운데 범용 AI와 대규모언어모델(LLM), 생성형 AI의 투명성 의무와 관련한 핵심 조항이 이날부터 적용됐다.

이에 따라 이날 이후 EU 시장에 출시되는 생성형 AI 시스템은 이미지와 음성, 영상, 텍스트 등 AI가 생성하거나 조작한 콘텐츠에 워터마크나 메타데이터 등 기계가 판독할 수 있는 표시를 넣어야 한다.

공익적 정보 전달을 목적으로 한 콘텐츠라도 인간의 편집이나 감독 없이 AI로 생성됐다면 AI 제작물이라는 사실을 표시해야 한다.

이용자가 챗봇과 같은 AI 시스템과 상호작용할 때는 상대가 사람이 아닌 AI라는 사실도 사전에 알려야 한다.

2일 이전 EU 시장에 출시된 기존 생성형 AI 시스템에는 관련 표시 의무를 갖출 수 있도록 오는 12월 2일까지 4개월의 유예기간이 주어진다.

아울러 기존 AI보다 연산 능력과 범용성이 뛰어난 이른바 산업용 '프런티어 모델' 개발사에는 한층 강화된 의무가 적용된다.

프런티어 모델 개발사는 기술이 초래할 수 있는 시스템적 위험을 평가하고 이를 줄이기 위한 안전 조치를 마련해야 한다. 모델 시험 결과와 사고 발생 현황을 당국에 보고하고 사이버 보안체계도 갖춰야 한다.

AI법에 따른 추가 규정도 올해 말부터 순차적으로 시행된다. 오는 12월부터는 선정적 딥페이크를 생성하는 AI 시스템이 금지된다. 이는 일론 머스크가 소유한 X의 AI챗봇 '그록'이 당사자 동의 없이 나체 이미지를 생성해 논란이 확산된 가운데 마련된 조치다.

EU 집행위는 규정을 위반한 기업에 시정명령을 내리고 위반 유형에 따라 과징금을 부과할 수 있다. 가장 중대한 위반의 경우, 직전 회계연도 전 세계 연간 매출의 최대 7% 또는 3500만 유로(약 590억원) 가운데 더 큰 금액을 과징금으로 내야 한다.

AI법은 AI 기술 전반을 포괄적으로 규제하는 세계 최초의 법률이다. EU 집행위가 실제 조사와 제재에 나설 수 있게 되면서 세계에서 가장 강력한 AI 규제 권한을 가진 당국이 됐다는 분석이다.

다만 이번 규정은 EU 기업뿐 아니라 AI 서비스를 제공하는 미국·중국 등 해외기업도 적용된다. 소비자는 일정 수준의 안전성을 확보한 AI를 사용할 수 있지만, 기업의 규제 준수 절차로 첨단 모델의 유럽 출시가 다른 지역보다 늦어질 수 있다는 일부 지적도 제기되는 것으로 전해졌다.

또한 EU AI사무국의 전문인력 부족과 미국과의 통상 갈등 가능성도 과제로 꼽힌다. EU가 혁신을 훼손하지 않으면서 기본권과 안전을 보호하는 규제 모델을 정착시킬 수 있을지가 세계 각국의 AI 정책에도 영향을 줄 전망이다.

ntiger@news1.kr