사실관계
로베르토 마타(Roberto Mata)는 항공사 아비앙카(Avianca)를 상대로 뉴욕주 법원(Supreme Court of the State of New York, New York County)에 소송을 제기했다. 아비앙카는 2022년 2월 22일 사건을 미국 뉴욕 남부 연방지방법원으로 이송(removal)했다. 아비앙카는 몬트리올 협약상 제소기간이 지났다며 소 각하를 신청했다. 2023년 3월 1일 마타의 소송대리인들이 제출한 반박 서면에는 실제로 존재하지 않는 판결 여러 건이 인용되어 있었고, 이는 변호사 한 명이 ChatGPT로 만들어 낸 것이었다. 상대방 대리인과 법원이 해당 판결을 찾지 못했는데도 변호사들은 서면을 철회하지 않았고, 오히려 가짜 판결의 이른바 원문을 첨부한 진술서를 제출했다. 법원은 소명 명령을 거쳐 2023년 6월 8일 제재 심리를 열었다.
쟁점
법원은 변호사들과 법률사무소가 연방민사소송규칙 제11조(Rule 11)를 위반했는지 판단해야 했다. 이 규칙은 서면에 서명한 변호사에게 그 법률상 주장이 현행법에 근거하고 있는지 확인할 책임을 지운다. 제재를 이 규칙에 따라 부과할지, 법원의 고유 권한에 따라 부과할지도 문제되었다. 또한 개별 변호사들이 주관적 악의로 행동했는지가 쟁점이었는데, 이는 인용 판례의 존재가 처음 의문시된 뒤 이들이 어떻게 대응했는지에 달려 있었다.
판단
P. 케빈 카스텔(P. Kevin Castel) 판사는 제재를 부과했다. 법원은 신뢰할 만한 인공지능 도구의 도움을 받는 것 자체가 부적절하지는 않지만, 현행 규칙은 변호사에게 제출 서면의 정확성을 걸러 내는 관문 역할을 맡기고 있다고 보았다. 변호사들은 가짜 판결을 제출하고 법원이 그 존재를 의심한 뒤에도 이를 고수함으로써 그 책임을 저버렸다. 법원은 개별 변호사들의 악의를 인정하고 법률사무소에도 연대책임을 지웠다. 이들에게 의뢰인과, 가짜 판결의 작성자로 이름이 도용된 각 판사에게 결정문을 첨부한 서신을 보내고 법원 공탁계정에 5,000달러의 제재금을 납부하라고 명했다. 강요된 사과는 진정한 사과가 아니라며 사과는 요구하지 않았다.
의의
Mata v. Avianca는 인공지능이 지어낸 판례 인용에 관한 가장 잘 알려진 초기 판결이다. 법원은 인공지능 사용 자체를 잘못으로 보지 않았다. 인용을 검증하지 않은 점과 문제가 드러난 뒤에도 법원에 솔직하지 않았던 점을 문제 삼았다. 판단이 기존의 주의의무와 진실의무에 근거하고 있으므로, 어떤 도구가 오류를 만들었는지와 관계없이 적용될 수 있다.