법원 내 AI 사용 증가, 법적 문제 야기
지난해 멜버른에서 한 변호사가 가정 법원 사건에서 AI 소프트웨어를 사용해 허위 판례를 인용해 법정 심리가 연기되는 사건이 발생했다. 해당 변호사는 부부 간의 분쟁을 다루면서 법원에 판사가 요청한 이전 판례 목록을 제출했으나 판사와 관련자들은 목록 속 사건들을 식별할 수 없었다. 이후 법원에 다시 출석한 변호사는 리스트가 생성 AI 기능을 포함한 법률 소프트웨어 Leap를 사용하여 준비되었다고 인정했다.
Leap의 법률 소프트웨어는 AI가 생성한 결과물을 검토할 수 있는 기능을 제공하지만, 변호사는 해당 기능을 사용하지 않았고, 그로 인해 AI는 존재하지 않는 판례를 만들어냈다. Leap의 CEO 크리스천 벡은 전 세계 변호사들이 AI 기술을 채택하기 시작했다고 밝혔다. 그는 "Leap에서는 통합 AI 제품의 올바르고 윤리적인 사용을 장려하며, 다양한 완화, 교육 및 전문 개발 조치를 서비스에 포함시켰다"고 말했다.
AI 기술 활용의 위험성, 사법부와 변호사 주의 요망
AI 사용의 문제는 변호사뿐만 아니라 법원에 증언서를 제출하거나 본인을 대변하는 사람들 사이에서도 대두되고 있다. 작년 호주 수도 준주의 최고 법원에서는 범죄자가 형제의 개인 추천서를 제출했는데, 이는 ChatGPT와 같은 대형 언어 모델에 의해 작성되었을 가능성이 높다는 지적을 받았다. 이 추천서에는 형제가 "개인적, 직업적으로 오랜 기간 동안 알고 있었다"는 진술이 포함되어 있어, 법원은 형제가 직접 작성하지 않았을 가능성을 시사했다.
또한, 빅토리아 항소 법원은 대학에서 학생이 퇴학당한 사건에 대해 검토하면서, 신청자가 제출한 일부 문서에서 존재하지 않는 판례를 인용한 사례들이 발견되었다고 지적했다. 이에 대해 크리스텐 워커 판사는 "대형 언어 모델 AI가 존재하지 않는 판례를 만들어내는 문제에 기여하지 않도록 해당 인용문은 재생산하지 않았다"고 언급했다.
이러한 사례들은 AI 기술의 사용이 법적 문제를 일으킬 수 있음을 시사하며, 사법부와 법조계가 AI 기술 사용에 더욱 주의를 기울여야 함을 강조하고 있다.
출처 : 원문 보러가기
