규제 아니라는데 기업은 어떻게 지키나…AI 윤리원칙 다음 과제는

(서울=뉴스1) 이기범 기자 = 정부가 인공지능(AI) 윤리원칙을 확정하면서 인간중심성·공정성·투명성 등 추상적인 원칙을 기업과 이용자가 실제 현장에서 어떻게 적용할지가 후속 논의의 쟁점으로 떠오르고 있다.

정부는 새로운 규제가 아니라 AI 개발·활용 과정에서 자율적으로 참고할 가이드라는 입장이다. 산업계에서는 국가 윤리원칙의 필요성에 공감하면서도 일부 내용이 향후 입법이나 규제 논의에 영향을 미칠 가능성을 우려하는 목소리가 나온다.

25일 정보통신기술(ICT) 업계에 따르면 과학기술정보통신부와 정보통신정책연구원(KISDI)은 전날 제12회 과학기술관계장관회의를 거쳐 대한민국 AI 윤리원칙을 확정했다.

윤리원칙은 △인간중심성 △프라이버시 보호 △공정성·포용성 △책임성 △안전성 △신뢰성 △투명성 등 AI 개발·활용 과정에서 고려해야 할 7대 원칙을 제시했다.

법적 구속력은 없다. 기업이나 이용자에게 새로운 법적 의무를 부과하는 규제가 아니라 각 주체가 AI를 개발·제공·이용하는 과정에서 참고하는 자율규범이다.

정부는 자율적인 윤리원칙이 제대로 작동할 경우 법적 규제를 줄이는 데도 도움이 될 수 있다고 보고 있다.

최우석 과기정통부 인공지능안전신뢰지원과장은 지난 14일 열린 AI 윤리원칙 대토론회에서 "연성적 원칙이기 때문에 이를 잘 도입하면 규제가 필요 없게 된다"며 "공급자, 이용자, 사회가 고려해야 할 최소한의 가이드를 제공하려 했다"고 말했다.

현장에서 제기되는 문제 중 하나는 추상적인 윤리원칙을 실제 AI 개발·서비스 과정에 어떻게 적용할 것인지다.

가령 '투명성' 원칙을 지키기 위해 기업이 이용자에게 어느 수준까지 정보를 제공해야 하는지, '공정성·포용성'을 확보하기 위해 데이터와 알고리즘의 편향을 어느 정도까지 점검해야 하는지는 서비스와 분야에 따라 달라질 수 있다.

기업들은 국가 차원의 AI 윤리 기준이 필요하다는 데 공감하면서도 윤리원칙이 향후 입법 과정에 미칠 영향에는 경계감을 나타냈다.

특히 투명성 원칙에 학습 데이터와 관련한 내용이 포함된 점이 쟁점으로 제기됐다. 학습 데이터 공개 범위 등을 둘러싼 논의가 아직 진행 중인 상황에서 윤리원칙이 향후 관련 법제의 기준으로 활용될 가능성이 있다는 것이다.

정부는 기업에 알고리즘이나 영업기밀을 공개하도록 요구하는 취지가 아니라고 설명했다.

최우석 과장은 "투명성 원칙과 관련해 마치 기업이 AI 알고리즘을 공개하라는 것처럼 오해할 수 있는데 일반인 입장에서 이해 가능한 수준으로 설명하라는 것"이라며 "이 같은 오해를 막기 위해 어떤 목적을 달성하기 위해 충분한 설명을 해야 한다는 식으로 한정해 놓았다"고 말했다.

이어 "기업에 추가 의무가 부가되는 게 아니라는 점을 명확히 하기 위해 노력했다"고 강조했다.

정부는 윤리원칙과 현장 적용 사이의 간극을 줄이기 위해 후속 기준을 마련한다는 계획이다. 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재 등을 만들어 보급할 예정이다.

AI 서비스의 특성이 서로 다른 만큼 분야별 세부 기준도 추가로 마련될 전망이다. 정부는 각 분야의 특성을 고려한 구체적인 적용 기준을 관계 부처의 가이드라인 등을 통해 제시한다는 방침이다.

윤리원칙을 기업 규모와 관계없이 실제 현장에 적용할 수 있도록 하는 방안도 논의되고 있다.

대규모 AI 기업과 달리 중소기업이나 스타트업은 별도의 AI 안전·윤리 조직을 갖추거나 전문인력을 확보하는 데 상대적으로 부담이 클 수 있다는 이유에서다.

지난 대토론회에서도 윤리원칙의 수준을 낮추기보다는 기업이 실제 적용할 수 있는 환경을 만들어야 한다는 의견이 나왔다.

김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 "윤리원칙의 수준을 낮추는 게 아니라 실제 지킬 수 있는 환경을 조성하는 게 더 의미 있다"며 "중소기업과 스타트업도 이해하고 적용할 수 있는 가이드와 지원체계가 필요하다"고 말했다.

정부가 마련할 분야별 자율점검표와 해설서가 실제 기업들이 활용할 수 있을 정도로 구체적인 내용을 담을지도 향후 확인할 대목이다.

아울러 AI 기본법과 윤리원칙의 역할을 어떻게 구분할지도 향후 논의 대상이다.

AI 기본법은 일정한 사항을 법적 의무로 규율하는 반면 윤리원칙은 법으로 일일이 정하기 어려운 영역에서 각 주체의 자율적인 판단을 돕는 연성규범이라는 게 정부의 설명이다.

정부는 AI 기본법이라는 법적 규범과 윤리원칙을 함께 운용하는 방식을 통해 규제와 자율규범이 상호 보완적인 역할을 할 수 있을 것으로 보고 있다.

반면 산업계에서는 윤리원칙에 포함된 내용이 향후 법제화 과정에 영향을 미칠 가능성을 주시하고 있다. 현재는 자율적으로 고려하는 사항이 향후 법적 의무로 연결될 경우 기업 입장에서는 규제의 예측 가능성과도 연결되기 때문이다.

윤리원칙이 제대로 지켜지지 않을 경우 어디까지 자율에 맡기고 어느 단계부터 법적 규율이 필요한지도 향후 논의될 수 있는 지점이다.

기술 변화에 따라 윤리원칙 자체를 지속해서 보완해야 한다는 의견도 나온다. 생성형 AI에 이어 스스로 여러 작업을 수행하는 AI 에이전트 등 새로운 기술이 등장하면서 개발 당시 예상하지 못했던 윤리·안전 문제가 나타날 수 있어서다.

이상욱 한양대학교 철학과·인공지능학과 교수(AI사회정책포럼 위원장)는 "윤리가 과학기술 연구를 금지하는 경향이 있지만, 어떤 연구를 어떤 식으로 하는 게 비용 효율적이면서 규범적으로 바람직한지 통합적인 고찰을 통해 바람직한 연구를 돕는 헬퍼 역할을 할 수 있다"고 말했다.

과기정통부는 윤리원칙을 현장에서 적용하면서 지속적으로 점검·보완한다는 방침이다. 사례 중심 해설서와 분야별 자율점검표를 마련하는 한편 국제사회에도 윤리원칙을 공유하고 관련 논의를 이어갈 계획이다.

Ktiger@news1.kr