사실관계
카르타헤나에 사는 한 어머니는 자폐스펙트럼장애 진단을 받은 아들을 대리해 건강보험기관(EPS)을 상대로 기본권 보호 청구(acción de tutela)를 제기하고, 본인부담금 면제, 교통비 지원, 포괄적 치료를 요구했다. 1심 법원(Juzgado Municipal)은 2022년 12월 7일 교통비와 본인부담금 면제는 인정했으나 포괄적 치료 청구는 받아들이지 않았고, EPS가 불복하자 2심 법원(Juzgado del Circuito)은 2023년 1월 30일 이를 유지했다. 2심 판사는 사법절차에 정보통신기술을 도입하는 2022년 법률 제2213호를 들어 판결 이유를 보충하기 위해 생성형 AI를 쓰겠다고 밝히고, ChatGPT 3.5에 한 질문과 답변을 판결문에 옮겨 적었다. 헌법재판소는 이 사건을 심사 대상으로 선정해 OpenAI를 포함한 여러 기관의 의견을 듣고 해당 판사의 진술을 들었다.
쟁점
핵심 쟁점은 2023년 1월 30일 판결이 ChatGPT 3.5의 답변을 판결 이유에 옮겨 담음으로써 적법절차에 대한 권리, 특히 법률이 정한 법관에게 재판을 받을 권리와 판결 이유 제시 의무를 침해했는지였다. 결정을 내린 주체가 법관인지 AI인지, 판결 이유가 AI의 환각이나 편향에 영향을 받았는지에 의문이 제기되었다. 재판소는 사법부에서 AI를 이용할 수 있는 한계와 이를 쓰는 법관의 의무도 정해야 했다. 아동의 건강권에 관한 본안 문제도 함께 다투어졌다.
판단
재판소는 2024년 8월 2일 적법절차 침해가 없다고 판단했다. 판사는 먼저 채택할 입장과 적용 법규, 관련 선례를 정해 사건을 판단한 뒤에야 ChatGPT에 질의했으므로 재판 권한이 AI에 넘어간 것은 아니라고 보았다. 다만 투명성과 책임 원칙은 충분히 지켜지지 않았고, 개인정보를 입력하지 않았으므로 프라이버시 원칙은 지켜졌다고 했다. 재판소는 법관들에게 투명성, 책임, 프라이버시, 인간 이성의 비대체, 검증, 인간 통제 등 12개 원칙을 따르도록 권고하고, 사법최고위원회(Consejo Superior de la Judicatura)에 4개월 안에 생성형 AI 이용 지침을 마련하도록 명했다. 본안에 관해서는 EPS에 추가 의무를 부과했다.
의의
재판소는 법관이 AI를 쓸 수 있다고 인정하면서도, 사실과 증거의 해석, 판결 이유의 작성과 결정 같은 위임할 수 없는 업무는 법관에게 남아 있어야 한다고 했다. 또한 판결의 효력을 당사자 외의 사람에게도 미치게 하여(inter comunis) 원칙이 사법부 구성원 전체에 적용되도록 했다. 재판소는 ChatGPT 3.5가 사법 업무용으로 이용허락된 도구가 아니고 최신 데이터나 콜롬비아 실정에 맞는 데이터로 학습되었다는 보장도 없다고 지적하며, 높은 수준의 검증을 요구했다.
관련 절차
사법최고위원회는 2024년 12월 16일 협정 PCSJA24-12243호로 사법부의 AI 이용 지침을 채택했다.