생성형 인공지능(AI)가 만든 허위 법령과 판례가 인용되는 사례가 늘어나면서, 법원이 대응에 나섰다.
대법원 법원행정처는 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 구성해 관련 대책을 마련했다고 밝혔다. TF는 법관 8명과 변호사 2인 등 총 10명으로 구성돼 지난해 11월부터 올해 3월까지 활동했다.
이 같은 논의는 재판 현장에서 불거진 문제와 맞닿아 있다. 최근에는 AI 가짜 판례를 준비서면에 넣었다가 재판부가 판결 원안 제출을 요구하는 사례까지 등장한 바 있다.
(관련 기사: '가짜 판례 복붙' AI 서면에 황당한 법원…"원문 내라" 요구도)TF는 먼저 당사자 또는 대리인이 AI를 활용해 허위 법령 등을 인용해 불필요한 소송비용을 발생시켰거나 소송을 지연시킨 경우, 그 비용의 전부 또는 일부를 부담하도록 하는 방안을 제시했다.
허위 법령이나 판례 등이 인용된 서면에 대해서는 법원이 변론에서 해당 진술을 제한하거나, 판결문에 허위 사실임을 적시할 수 있도록 하는 방안도 나왔다.
변호사의 책임도 강화된다. TF는 변호사가 AI가 생성한 허위 법령·판례 등을 제대로 검증하지 않은 채 인용해 제출한 경우 대한변호사협회에 징계를 의뢰할 수 있도록 하는 방안도 담았다.
다만 이러한 조치의 시행 여부는 개별 재판부의 재량에 맡기기로 했다.
소송법령 개정 방안도 제시했다. TF는 민사소송규칙 개정을 통해 AI를 활용 사실을 상대방과 법원에 알리게 하고, 소송서류에 적은 법령 등 주요 내용이 정확한지 확인하도록 하는 방안을 제시했다.
허위 법령 등을 인용하는 경우 과태료를 부과할 수 있도록 하는 소송법 개정안도 함께 언급했다.
TF는 전산 시스템 개선도 내놨다. 현재 제출된 서류에 인용된 법령, 판례의 존재 여부, 서류 기재 내용과 실제 내용의 일치 여부를 자동으로 알려주는 기능 개발을 제안했다.
그러면서 국민이 AI가 제시하는 판결의 실제 존재 여부를 확인할 수 있도록 판결 공개 확대를 제안했다. 올해 2월 20일 기준으로 사법정보공개포털에는 '허위 사건번호 확인' 기능이 추가된 상태다.
법원행정처 관계자는 "사법부는 지속적으로 인공기술 기능의 발전 추이와 재판에 미치는 영향, 국민의 인식 변화 등을 면밀히 살펴 적시에 추가 방안을 마련해, 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다"고 밝혔다.