"피고가 답변서와 준비서면에서 인용한 대법원 판결의 원문을 모두 제출하길 바란다. 제출한 답변서 등에서 인용한 대법원 판결 중 해당 판결이 존재하지 않거나 판결 요지가 실제와 상이한 허위 판결을 모두 특정해 밝히고, 허위 판결이 인용된 주장서면의 작성자와 인용 경위 등을 기재한 경위서를 제출하길 바란다. 또 허위 판결과 그 요지를 인용한 부분을 삭제 처리한 답변서와 준비서면을 다시 제출하길 바란다."
최근 한 변호사는 변호사들이 모인 익명 단체대화방에서 이 같은 취지의 재판부 석명준비사항을 접했다고 전했다. 생성형 인공지능(AI)으로 작성된 소송 서면에서 허위 판례 인용 문제가 불거지면서, 이를 걸러내기 위한 법원의 대응이 이어지는 분위기라는 설명이다.
20일 CBS노컷뉴스 취재를 종합하면 생성형 AI를 활용해 작성된 준비서면 등에서 존재하지 않는 판례를 인용하거나 판례 요지를 왜곡하는 사례가 잇따르면서 논란이 이어지고 있다.
판사들 사이에서는 인용 판례의 원문 제출을 요구하는 등 대응이 이뤄지고 있다고 한다. 수도권 법원의 한 부장판사는 "AI를 쓰는 것 자체가 문제가 아니라 존재하지 않는 판례를 가져다 쓰거나 검수 없이 제출하는 것이 문제"라며 "인용 판례의 원문을 제출하라고 요구하는 경우가 실제로 있다"고 말했다.
또 다른 부장판사는 "어떤 경우는 첫 문단만 봐도 AI로 작성된 서면이라는 걸 알 수 있다"며 "이 경우 인용 판례는 아예 신뢰하지 않거나 굳이 찾아보지 않는 경우도 있다"고 밝혔다. 이어 "불과 몇 개월 사이에 'AI 서면은 걸러서 본다'는 실무 감각이 생겼다"고 덧붙였다.
변호사들도 유사한 문제의식을 공유하고 있다. 한 변호사는 "완전히 존재하지 않는 판례를 본 적은 많지 않지만, 법정에서 판례가 실제 맞느냐고 재판장이 질책하는 장면은 있었다"며 "AI가 정보격차를 줄이기보다는 오히려 잘못된 정보를 걸러낼 수 있는 사람과 그렇지 못한 사람 사이 격차를 더 벌릴 수 있다"고 말했다.
부장판사 출신의 또 다른 변호사는 "AI가 판례 번호나 내용까지 그럴듯하게 만들어내는 경우가 있다"며 "경험이 있는 법조인은 금방 걸러낼 수 있지만, 검증 없이 제출될 경우 문제가 될 수 있다"고 지적했다.
법원 내부적으로는 허위 판례 인용 여부를 걸러내기 위해 사건번호 진위를 확인할 수 있는 시스템이 마련되기도 했다. '허위 사건번호 검색' 사이트는 지난달 20일부터 운영되고 있다. AI 작성 서면 증가에 따른 실무 혼선을 줄이기 위한 조치로 풀이된다.
다만 현행 제도상 허위 판례 인용 자체를 직접적으로 제재할 명확한 규정은 부족한 상황이다. 해외의 경우 미국에서는 생성형 AI로 작성된 서면에 허위 판례를 인용했다가 변호사가 제재를 받은 사례가 있다.
법조계 안팎에서는 생성형 AI 활용이 확산되는 가운데, 이와 관련한 책임과 기준에 대한 논의가 불가피하다는 관측이 나온다. 실제로 법원행정처는 지난해 10월 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 꾸려 법조에 'AI 환각(Hallucination)'이 불러 온 부작용에 대한 제재 방안을 논의하기도 했다.