​"기소되게 서류 꾸며줘"…AI 챗봇으로 증거 조작한 영 경찰 붙잡혀

(서울=뉴스1) 김경민 기자 = 한 영국 경찰이 인공지능(AI) 챗봇에 편향된 프롬프트를 입력해 증거를 조작한 혐의로 직위 해제됐다고 파이낸셜타임스(FT)가 18일(현지시간) 보도했다.

FT에 따르면 더비셔 경찰은 지난주 소속 형사를 현장 업무에서 배제하고 사법방해 혐의로 조사하고 있다. 영국에서 최초의 사례라고 FT는 전했다.

해당 형사는 경찰이 원하는 결과에 쪽으로 치우친 서류를 생성하도록 AI 소프트웨어에 요청한 혐의를 받는다.

구체적으로는 판사가 양형에 참고하는 '피해자 영향 진술서'를 준비할 때 피해자 진술 영향력이 극대화되도록 지시했다. 또한 검찰에 제출할 자료에도 검찰이 반드시 기소를 승인하도록 만들라는 지시를 AI 소프트웨어에 명령했다.

사건을 잘 아는 소식통은 이 형사가 "피의자가 마땅히 받아야 할 처벌을 확실히 받아내기 위해 그럴싸해 보이는 단어를 AI로 조합해 사용했다"고 말했다.

직위 해제된 형사는 비위 혐의가 드러나기 직전까지 다수의 강간 사건을 담당했다.

이에 따라 해당 형사가 관여한 여러 건의 강간 유죄 판결이 재검토 되고 있다고 FT는 설명했다.

앞서 경찰행동감사기구(IOPC)는 1월 말 이번 오용 의혹에 대한 보고를 받고 더비셔 경찰에 자체 조사하라고 결정했다.

FT는 AI 소프트웨어가 조작된 오류를 범하는 '환각 현상'(Hallucinations)을 일으키기 쉬운 만큼 형사 사법 체계에서 엄격히 통제되어야 한다고 평했다.

이번 사건에서 더비셔 경찰은 실제로 환각 현상이 발생했다는 증거를 아직 발견하지 못했다.

더비셔 경찰 측은 "조사가 마무리되면 여기서 얻은 모든 교훈과 시사점을 전담팀에 전달할 것"이라며 "조사가 진행 중이므로 혐의의 구체적인 내용에 관해선 더 이상 언급할 수 없다"고 말했다.

AI 사용은 크레이그 길드포드 웨스트 미들랜즈 경찰청장의 퇴임에도 영향을 미쳤다. 올해 초 웨스트 미들랜즈 경찰이 이스라엘 마카비 텔아비브 팬들의 버밍엄 경기 관람 허용 여부에 대한 증거 서류를 작성하는 과정에서 마이크로소프트의 코파일럿(Copilot) AI 기술을 일부 활용한 사실이 드러났기 때문이다.

당시 코파일럿은 마카비와 웨스트햄 사이에 실제로 존재하지 않는 경기 기록을 서류에 허구로 삽입했다.

kmkim@news1.kr