법원행정처, '허위 사건번호 확인' 서비스 오픈

(서울=뉴스1) 한수현 김종훈 기자 = 최근 생성형 인공지능(AI)을 활용해 허위의 사건번호와 판결이 만들어지고 있는 가운데, 대법원 법원행정처가 이를 확인할 수 있는 서비스를 시행한다.

20일 법조계에 따르면 법원행정처는 이날부터 사법정보공개포털에서 '허위 사건번호 확인' 서비스를 제공한다.

최근 챗GPT와 클로드 등 생성형 AI의 대중화로 이를 활용한 법률 정보 검색 및 서면 작성 활용이 급증하고 있다.

특히 거대 언어모델(LLM)의 특성상 환각 현상이 발생해 만들어진 사건번호 혹은 판결이 서면에 기재되고 있는 것으로 알려졌다.

생성형 AI는 '2023다12345'와 같은 사건번호의 패턴을 학습해 임의 번호를 조합해 내고, 일반 사용자는 AI가 제시한 판결 내용이 그럴듯해 보일 경우 해당 사건번호가 실제 존재하는지 의심하지 않고 인용하는 것이다.

실제 미국 와이오밍주 연방법원에서는 지난해 2월 AI가 생성한 허위 판례를 인용해 서면을 제출한 원고 측 로펌 소속 변호사 2명에게 5000달러(약 720만 원)의 벌금이 부과되기도 했다. 뉴욕주에서도 변호사들이 챗GPT가 생성한 허위 판례를 인용했다가 법원의 제재를 받기도 했다.

현재 우리나라에서도 AI를 활용해 허위 사건번호나 판례를 인용하는 사례가 계속 발생하는 것으로 알려졌다.

이에 법원행정처는 허위 사건번호로 인한 사용자의 혼선을 방지하고, 사법 정보의 신뢰 제고를 위해 허위의 사건번호를 확인할 수 있는 서비스를 열었다.

사법정보공개포털 내 '허위 사건번호 확인' 메뉴에서 사용할 수 있으며, 사건번호를 입력하면 실제 존재하는지 알려주는 '설명' 창이 뜬다. 아울러 해당 판결서 인터넷 열람 신청을 통해 판결 내용을 구체적으로 확인하도록 하고 있다.

법원행정처 관계자는 "허위 사건 인용을 어느 정도 예방할 수 있을 것으로 기대한다"고 밝혔다.

shhan@news1.kr