AI가 알려준 판례가 가짜라고?…"확인 않고 인용시 소송비용 부담"

(서울=뉴스1) 한수현 기자 = 사법 절차 내 인공지능(AI) 기술의 사용이 증가하면서 환각(hallucination) 현상에 따른 허위 판례 인용 사례가 잇따라 드러나는 가운데 대법원이 대응 마련에 나섰다.

대법원 법원행정처는 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 구성해 활동한 결과를 발표했다.

최근 각급 법원에서는 AI를 활용한 허위 법령과 판례 인용 사례가 다수 드러나고 있다.

이에 법원행정처는 지난해 11월부터 이달까지 법관 8명과 변호사 2명 등 총 8명으로 구성된 TF를 만들어 관련 대응 방안을 논의했다.

TF는 각급 법원의 의견을 수렴하고, 관계 법령과 해외 판결 및 실무 동향, 국제적 경향 등을 조사했다.

TF는 우선 현행법 체계 안에서 재판부가 취할 수 있는 대응 방안을 제시했다. 먼저 당사자 또는 대리인이 AI를 활용해 허위 법령을 인용함으로써 불필요한 소송비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송 비용의 전부 또는 일부를 부담하게 할 수 있다고 제시했다.

또한 허위의 법령·판례가 인용된 서면에 대해 변론에서 그 진술을 제한할 수 있고, 판결서에 관련 내용이 허위라는 것을 적시할 수 있다고 제시했다.

아울러 변호사가 이를 제대로 검증하지 않고 서면 등에 인용한 경우 대한변협에 징계를 의뢰할 수 있다고 했다. 다만 이러한 방안은 모두 개별 재판부의 재량에 따라 결정하도록 했다.

TF는 민사소송법을 개정하는 방안도 제시했다. 구체적으로는 민사소송규칙 개정을 통해 AI를 활용한 당사자 등이 그 활용 사실을 상대방이나 재판부에 고지하는 방안을 제시했다. 또한 민사소송법 개정을 통해 당사자 등이 허위 법령 등을 인용하는 경우 과태료를 부과할 수 있는 방안을 내놨다.

TF는 전산시스템 개편 방안도 밝혔다. 법원에서 제출된 서류에 인용된 법령과 판례의 존재 여부, 서류에 기재된 내용과 실제 내용의 유사도 등을 자동으로 알려주는 기능을 개발할 것을 제안했다.

또한 당사자나 대리인 등 AI가 제시하는 판결이 실제 존재하는지 여부를 확인하는 서비스 제공, 해당 판결의 내용을 확인할 수 있도록 판결문 공개를 확대하는 방안을 제안했다.

법원행정처 관계자는 "생성형 AI의 활용 확대는 거스를 수 없는 시대적 흐름"이라며 "사법부는 지속적으로 AI 기술의 발전 추이와 재판에 미치는 영향, 국민 인식 변화 등을 면밀히 살펴 적시에 추가 방안을 마련해 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행할 것"이라고 밝혔다.

shhan@news1.kr