Olay
Kartagena'da yaşayan bir anne, otizm spektrum bozukluğu tanısı konan oğlu adına sağlık sigortası kuruluşu (EPS) aleyhine anayasal koruma talebinde (acción de tutela) bulundu; katkı paylarından muafiyet, ulaşım giderleri ve kapsamlı tedavi istedi. İlk derece mahkemesi (Juzgado Municipal) 7 Aralık 2022'de ulaşım gideri ve katkı payı muafiyeti taleplerini kabul etti, kapsamlı tedavi talebini ise reddetti. EPS'nin itirazı üzerine ikinci derece mahkemesi (Juzgado del Circuito) 30 Ocak 2023'te kararı onadı. Hâkim, bilişim teknolojilerinin yargılamaya dahil edilmesine ilişkin 2213 sayılı Kanun'a atıfla gerekçeyi genişletmek için üretken yapay zekâ kullanacağını belirtti ve ChatGPT 3.5'e sorduğu soruları ve aldığı cevapları karara aktardı. Anayasa Mahkemesi dosyayı incelemeye aldı, OpenAI dahil birçok kurumdan görüş topladı ve hâkimi dinledi.
Hukuki soru
Mahkemenin önündeki temel soru, 30 Ocak 2023 tarihli kararın ChatGPT 3.5'ten alınan cevapları gerekçeye aktararak adil yargılanma hakkını, özellikle kanuni hâkim güvencesini ve kararların gerekçeli olması gerekliliğini ihlal edip etmediğiydi. Kararı bir hâkimin mi yoksa bir yapay zekâ sisteminin mi verdiği ve gerekçenin yapay zekânın uydurma bilgi (halüsinasyon) ve önyargılarından etkilenip etkilenmediği konusunda kuşku vardı. Mahkeme, yargıda yapay zekâ kullanımının sınırlarını ve bu araçları kullanan hâkimlerin yükümlülüklerini de belirleyecekti. Dosyada ayrıca çocuğun sağlık hakkına ilişkin esas mesele bulunuyordu.
Karar
Mahkeme 2 Ağustos 2024 tarihli kararında adil yargılanma hakkının ihlal edilmediğine karar verdi. Hâkim önce benimseyeceği görüşü, uygulanacak hükümleri ve emsal kararları belirlemiş, uyuşmazlığı çözmüş ve ChatGPT'ye ancak bundan sonra başvurmuştu; yargı yetkisi yapay zekâya devredilmemişti. Bununla birlikte şeffaflık ve sorumluluk ilkelerine tam olarak uyulmadığı tespit edildi; hâkim kişisel veri girmediği için gizlilik ilkesine uyulmuştu. Mahkeme hâkimleri şeffaflık, sorumluluk, gizlilik, insan aklının yerine geçmeme, doğrulama ve insan denetimi dahil on iki ilkeye uymaya çağırdı. Yargı Yüksek Konseyine (Consejo Superior de la Judicatura) dört ay içinde üretken yapay zekâ kullanımına ilişkin bir kılavuz yayımlamasını emretti. Esas bakımından EPS'ye ek yükümlülükler getirdi.
Neden önemli
Mahkeme, yapay zekânın yargıda kullanılabileceğini kabul etti; ancak olguların ve delillerin yorumlanması, kararın gerekçelendirilmesi ve verilmesi gibi devredilemez işlerin hâkimde kalmasını şart koştu. Kararın etkilerinin taraflarla sınırlı kalmaması (inter comunis) öngörüldü; böylece ilkeler tüm yargı mensuplarına yöneltildi. Mahkeme ayrıca ChatGPT 3.5'in yargı için lisanslanmış bir araç olmadığını ve güncel, Kolombiya bağlamına uygun verilerle eğitildiğinin güvence altında bulunmadığını belirterek yüksek bir doğrulama standardı aradı.
İlgili aşamalar
Yargı Yüksek Konseyi, 16 Aralık 2024 tarihli PCSJA24-12243 sayılı kararla yargıda yapay zekâ kullanımına ilişkin ilkeleri kabul etti.