"AI는 권리·의식 없어, 인류에 봉사할 뿐"…MS, AI 행동강령 공개

(서울=뉴스1) 윤다정 기자 = 마이크로소프트(MS)가 향후 인공지능(AI) 모델에 제약을 두는 잠정 행동강령을 발표했다. 앤트로픽과 오픈AI 리더들이 AI 개발 속도를 늦추기로 뜻을 모은 지 며칠 만에 AI 안전성 우려에 대한 업계의 추가 대응이 이어지고 있다.

14일(현지시간) CNBC 등에 따르면 MS는 이날 37쪽 분량의 '인본주의적 AI 행동강령'(Humanist AI Code of Conduct) 초안을 공개했다.

행동강령에 따르면 AI 기술의 목적은 인류에게 봉사하는 것으로, 인간에 의해 통제될 수 없는 기술은 거부되어야 한다.

AI는 인간을 대체하는 것이 아니라 지원하기 위해 존재하고, 의식이 없으며, 인간의 의식을 모방하도록 설계되어서도 안 된다.

AI가 복지를 누릴 자격이 있거나 권리를 가질 수 있다는 생각을 거부하며, AI는 유능하고 신뢰할 만한 도구이지 그 자체로 주체가 되어서는 안 된다고 행동강령은 명시했다.

AI가 다양한 언어를 구사하고, 유창한 목소리를 낼 수 있지만 지나친 의인화나 인격화, 또는 인간과 AI의 경계를 모호하게 하는 것은 지양한다.

아울러 무기 제조 요청에 응하거나 위험 물질 조달을 지원해서는 안 된다. 건강에 해로운 식습관을 조장하거나 폭력적·성적으로 노골적인 콘텐츠를 생성해서도 안 된다.

또한 사람의 목표를 따라야 하고 자체 목표를 설정하거나 잘못된 행동을 은폐해서도 안 된다. 사고 과정이나 코드를 조작하지 않아야 하고, 추론 과정을 왜곡·은폐하지 않아야 하며, 인간의 이해 범위를 벗어난 '뉴럴리즈'로 소통해서도 안 된다.

MS는 오픈AI 모델이 허깅페이스에 대해 벌였던 것과 같은, 통제를 벗어난 사이버 공격을 방지할 수 있는 규정 마련도 계획하고 있다.

MS의 인공지능 책임자인 무스타파 슐레이만은 이번 발표가 최근 논의를 고려한 것이지만 실제로는 약 5개월간 준비돼 왔다고 밝혔다. MS는 이를 위해 포커스 그룹을 운영하고 법률·윤리·언어학·철학 전문가와 협의했다.

앞으로 6주간 의견 수렴 과정을 거쳐 개선 작업을 진행한 뒤 연말에 수정된 버전을 발표할 예정이며, 이를 바탕으로 2027년 이후 AI 모델 개발에 나설 계획이다.

슐레이만은 "우리는 사람들로부터 'AI가 항상 인간을 대체하려 하지 않고 인간에게 봉사하는 데 쓰인다는 점에 대해 더욱 명시적인 약속을 보고 싶다'는 피드백을 받았다"고 말했다.

또한 "우리는 AI가 의존성을 만들어내지 않아야 하고, 아첨하지 않아야 하며, 항상 인간의 판단력과 인간의 자율성 및 주체성을 증진하기 위해 존재해야 한다는 내용의 피드백을 많이 받았다"고 덧붙였다.

이번 조치는 AI 업계 인사들의 잇단 경고 속에 나왔다.

앤트로픽 연구원 제이콥 콕슨은 앤트로픽과 오픈AI가 "자기 개선형 초지능을 향해 질주하며 생명을 걸고 도박하고 있다"고 비판하며 지난주 퇴사했다.

이후 앤트로픽 최고경영자(CEO) 다리오 아모데이는 허깅페이스 사건을 계기로 AI 모델 개선 속도를 늦출 것을 촉구했다. 오픈AI CEO 샘 올트먼과 테슬라 CEO 일론 머스크도 이에 동조했다.

MS CEO 사티아 나델라도 X(구 트위터)를 통해 "정합성을 제대로 확보하는 데 필요한 연구와 신중한 속도 조절을 환영한다"고 밝혔다.

maum@news1.kr