사실관계
마크 월터스(Mark Walters)는 전국에 방송되는 라디오 진행자이자 총기 권리 논객이다. 2023년 5월 3일 한 기자가 Second Amendment Foundation이 같은 날 워싱턴주 법무장관을 상대로 제기한 소장을 ChatGPT에 요약해 달라고 했다. ChatGPT는 붙여 넣은 부분은 정확히 요약했다. 그러나 소장 링크를 주자 처음에는 인터넷에 접속할 수 없다고 답했다가 이어서 부정확한 요약을 내놓았고, 두 번째 요약에서는 월터스를 횡령 혐의를 받는 재단 재무책임자로 지목했다. 월터스는 그 사건의 당사자가 아니었다. 기자는 이용약관과 사람에 관한 부정확한 정보가 생성될 수 있다는 화면 경고를 이미 접했고, 약 1시간 반 만에 출력이 사실이 아님을 확인했다. 월터스는 2023년 6월 OpenAI를 상대로 명예훼손 소송을 제기했다.
쟁점
법원은 챗봇이 실존 인물에 관해 내놓은 허위 진술이 조지아주법상 개발사에 대한 명예훼손 청구의 근거가 될 수 있는지 판단해야 했다. 쟁점은 세 가지였다. 기자의 입장에 있는 합리적 독자가 그 출력을 실제 사실의 진술로 이해했을지, AI 개발사에 어떤 과실 기준이 적용되고 월터스가 공인이라면 '현실적 악의(actual malice)' 기준을 포함해 이를 충족할 수 있는지, 그리고 실제 손해를 주장하지 않고 OpenAI에 정정이나 철회를 요구하지도 않은 월터스가 손해배상을 받을 수 있는지였다.
판단
트레이시 케이슨(Tracie Cason) 판사는 각각 독립적으로 충분한 세 가지 이유를 들어 OpenAI의 약식판결 신청을 받아들였다. 경고 문구, 링크를 열 수 없다는 ChatGPT 자신의 답변, 그리고 기자가 이미 그 주장이 사실이 아님을 알고 있었다는 점에 비추어, 기자의 입장에 있는 합리적 독자는 출력을 실제 사실의 진술로 받아들이지 않았을 것이므로 법률상 명예훼손이 아니라고 보았다. 월터스는 OpenAI에 적어도 통상의 과실이 있었다는 증거를 내지 못했다. 법원은 OpenAI가 잘못된 출력을 줄이려고 노력했다는 전문가 증거에 근거했고, 오류 가능성이 있는 도구를 출시한 것 자체를 과실로 보아야 한다는 주장을 배척했다. 공인인 월터스는 현실적 악의도 증명하지 못했다. 그가 실제 손해가 없다고 인정했으므로 추정손해와 징벌적 손해배상도 인정되지 않았다.
의의
이 판결은 생성형 AI의 환각에 근거한 명예훼손 청구를 증거 전체를 바탕으로 판단했다. 법원은 출력이 전달된 맥락, 특히 경고 문구와 이용자 자신의 인식을 중시했고, 오류 가능성이 알려진 시스템을 출시했다는 사실만으로 과실을 인정하지 않았다. 주(州) 1심 법원의 판결이므로 다른 법원을 구속하지 않는다. 또한 출력을 믿지 않은 숙련된 이용자라는 구체적 사실에 기댄 판단이어서, 허위 출력이 더 많은 사람에게 전달되거나 실제 손해가 발생한 사안에서는 결론이 달라질 수 있다.
관련 절차
같은 법원은 2024년 1월 OpenAI의 소 각하 신청을 기각했다. 2025년 5월 결정은 OpenAI 측 변호인이 제출한 결정문안을 법원이 수정한 것이다("As edited by the Court"). 2026년 7월의 평석을 포함해 검토한 자료에서는 항소 사실이 확인되지 않았으나, 조지아주 항소법원 사건기록에 접근할 수 없어 공식 기록으로 확인하지는 못했다. 사실관계가 달라 결론도 달랐던 사례로는, 변호사가 수감되었다고 답한 AI 답변에 대해 중국 법원이 바이두의 책임을 인정한 nanjing-baidu-ai-answer-defamation이 있다.