뉴스
[단독] 'AI 환각 오류' 제재안 나온다
LegalCrew
관리자
2026-03-18 10:21 ·조회수 16회
1
0
법원행정처 TF 논의 진전
변호사에 비용 부과, 진술 제한
대한변협에 징계 의뢰도 검토
챗GPT, 제미나이 등 생성형 인공지능(AI)이 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건이 발생한 가운데<법률신문 2025년 9월 29일 1면 단독 보도>, 이 같은 사례에 적용할 수 있는 대응 방안 논의 결과가 빠르면 3월에 나온다.
법원행정처는 2025년 10월 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 꾸려 법조에 ‘AI 환각(Hallucination)’이 불러 온 부작용에 대한 제재 방안을 논의해 왔다.
TF에는 법원 구성원뿐 아니라 일부 외부 위원도 참여했다. TF는 허위 판결이나 법령을 제출한 것이 발각될 경우 재판부가 △해당 변호사(대리인 또는 변호인)에게 소송 비용을 부과하거나 △해당 변호사의 진술을 제한하거나 △허위 판결을 제출했다는 사실을 판결서에 명시하는 방안을 논의했다. 다만 각 재판부가 결정할 사항인 만큼 가능한 안들을 제시하는 형태가 될 것으로 보인다. 대한변호사협회에 징계를 의뢰하는 것도 논의했다. 허위 정보를 검증 없이 기재할 경우 재판장이 과태료를 부과할 수 있도록 하는 내용도 포함됐다.
https://www.lawtimes.co.kr/news/articleView.html?idxno=217907
변호사에 비용 부과, 진술 제한
대한변협에 징계 의뢰도 검토
챗GPT, 제미나이 등 생성형 인공지능(AI)이 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건이 발생한 가운데<법률신문 2025년 9월 29일 1면 단독 보도>, 이 같은 사례에 적용할 수 있는 대응 방안 논의 결과가 빠르면 3월에 나온다.
법원행정처는 2025년 10월 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 꾸려 법조에 ‘AI 환각(Hallucination)’이 불러 온 부작용에 대한 제재 방안을 논의해 왔다.
TF에는 법원 구성원뿐 아니라 일부 외부 위원도 참여했다. TF는 허위 판결이나 법령을 제출한 것이 발각될 경우 재판부가 △해당 변호사(대리인 또는 변호인)에게 소송 비용을 부과하거나 △해당 변호사의 진술을 제한하거나 △허위 판결을 제출했다는 사실을 판결서에 명시하는 방안을 논의했다. 다만 각 재판부가 결정할 사항인 만큼 가능한 안들을 제시하는 형태가 될 것으로 보인다. 대한변호사협회에 징계를 의뢰하는 것도 논의했다. 허위 정보를 검증 없이 기재할 경우 재판장이 과태료를 부과할 수 있도록 하는 내용도 포함됐다.
https://www.lawtimes.co.kr/news/articleView.html?idxno=217907