[서울=뉴시스]김정현 기자 = 인공지능(AI)이 만들어 낸 가짜 판례나 허위 법령을 인용해 재판에 피해를 입히면 과태료나 소송 비용을 물리는 제재 조치가 필요하다는 법원 내 연구조직의 제안이 나왔다. 대법원도 법 개정 등 내부 검토에 착수할 것으로 보인다.

대법원 법원행정처 산하 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'는 이른바 'AI 환각' 현상에 따른 허위 법령·판례, 위·변조 증거가 법원에 제출됐을 때 대응 방안을 마련했다고 31일 밝혔다.

'AI 환각' 현상은 인공지능이 실제로 존재하지 않는 정보를 마치 사실처럼 생성하는 현상을 뜻한다.

최근 AI 기술이 널리 쓰이면서 거짓 판례와 법령을 소송에 내는 사례가 발생하자, 법원행정처는 사법부 차원의 대응 방안을 모색하기 위해 TF를 구성했다.

TF는 소송을 진행하는 개별 재판부 재량 차원에서 자체적으로 추진할 수 있는 제재 방안을 제안했다.

먼저 당사자 또는 대리인이 AI를 활용한 허위 법령 등을 인용해 불필요한 소송 비용을 발생시켰거나 소송을 지연시키면, 이로 인한 소송 비용 전부나 일부를 부담시키는 방안이 가능하다고 제시했다.

재판 진행 중에도 허위 법령·판례 등이 인용된 서면은 변론에서 진술을 제한할 수 있고, 판결서에 관련 내용이 허위라는 점을 적시하는 방안도 제안했다.

또 변호사가 'AI 환각'으로 생성된 거짓 법령·판례를 제대로 걸러내지 않고 인용해 제출하면 대한변호사협회에 징계를 의뢰하는 방안도 검토하자고 했다.

TF는 소송 관계 법령을 개정해 제재 근거를 마련하는 방안도 제안했다. 민사소송규칙 개정으로 소송 과정에서 AI를 활용한 당사자 등이 상대방과 법원에 이를 고지할 의무를 부여하자는 것이다.

소송서류에 기재한 법령 등의 주요 내용이 정확한지 여부를 확인하도록 근거를 함께 담는 내용도 제시됐다. 당사자 등이 허위 법령을 인용한 것으로 드러나면 과태료를 물리는 벌칙 조항 신설도 제안했다.

TF는 법원 전산시스템도 AI 기술의 활용 확대에 맞춰 개편해야 한다고 제안했다.

AI가 제시한 판결이 실제 존재하는지 여부를 검증해 볼 수 있도록 판결서 공개를 확대하자는 게 한 예인데, 대법원은 이런 취지를 담은 최근 '허위 사건번호 확인' 기능을 사법정보공개 포털에 추가한 바 있다.

제출된 서류에 인용된 ▲법령 ▲판례의 존재 여부 ▲서류 기재 내용 등과 실제 내용의 유사도를 자동으로 알려주는 기능도 추가 개발하자고 했다.

TF는 장지용(사법연수원 34기) 수원고법 판사(법원행정처 국제교류추진단장)를 단장으로 8명의 법관과 2명의 변호사 등 10명으로 구성돼 활동해 왔다.

지난해 11월부터 이달 말까지 각급 법원 의견을 모으는 한편 관계 법령과 해외 판결 및 실무 동향, 국제적 경향 등을 조사해 이번 방안을 마련했다.

법원행정처는 TF 제안을 실무 부서에서 검토해 대한변호사협회 등 유관 단체 협의 또는 법령 개정 등 대응 방안을 추진할 후속 절차를 밟을 것으로 보인다.

대법원 법원행정처는 "사법부는 지속적으로 AI 기술의 발전 추이와 재판에 미치는 영향, 국민의 인식 변화 등을 면밀히 살펴서 적시에 추가 방안을 마련하겠다"며 "급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다"고 전했다.


◎공감언론 뉴시스 ddobagi@newsis.com