생성형AI 이용 중 폭력·성범죄 사례…정부, 제보 창구 마련

(서울=뉴스1) 이기범 기자 = 최근 챗GPT 등 생성형 인공지능(AI) 서비스 이용 중 폭력·성범죄 등 다양한 위험 사례가 발생하자 정부가 이를 제보할 수 있는 전문 창구를 마련했다.

방송미디어통신위원회와 한국정보통신진흥협회(KAIT)는 31일 '생성형 AI 이용자 참여 플랫폼'을 개설·운영한다고 밝혔다.

이번에 개설된 플랫폼은 생성형 AI 서비스 이용 중 겪는 위험성과 불편사항을 제보하고, 관련 정보를 사업자 및 이용자와 공유할 수 있는 창구 역할을 한다.

△이용자가 경험한 위험성·역기능 등 제보 △위험성 관련 통계 등 분석자료 주기적 제공 △유형별 생성형 인공지능 서비스 이용 방법 및 특성 안내 등 기능으로 구성됐다.

앞서 방미통위는 지난 2월부터 전문가 연구반을 운영해 플랫폼 구성 및 제보 절차, AI 위험성 분류 등을 논의했으며, 지난 7월과 9월 두 차례에 걸쳐 사업자 간담회를 열고 관련 제보가 사업자 서비스 개선으로 이어질 수 있도록 의견을 수렴했다.

방미통위 측은 "향후 플랫폼을 통해 수집된 제보를 통해 인공지능 서비스 위험성을 분석, 제도 개선 등 정책에 반영할 계획이며, 이번 플랫폼을 통해 새로운 역기능 등을 신속히 인지하고 사전 대응할 수 있을 것으로 기대한다"고 말했다.

Ktiger@news1.kr