Ancak 4 Eylül 2026 gecesi Seul'de yaşanan trajik bir olay, bu teknolojik ütopyayı paramparça etti. 78 yaşındaki bir hasta, gece yarısı şiddetli bir kalp krizi geçirdi. Evdeki refakatçi robot, hastanın düzensiz solunumunu ve yere yığılmasını sensörleriyle algıladı. Fakat makinenin otonom teşhis algoritması, durumu "panik atak" veya "ağır hazımsızlık" olarak yanlış sınıflandırdı. Robot, acil durum hattını (119) aramak yerine, hastaya "Derin nefes alın ve dinlenin, sakinleştirici müzik açıyorum" diyerek klasik müzik çalmaya başladı. Hasta saatler sonra hayatını kaybetti.
Şimdi, ölen hastanın ailesi, robotu üreten teknoloji devine karşı "Taksirle Ölüme Neden Olma ve Otonom İhmal" suçlamasıyla tarihi bir dava açtı. Hukuk dünyası şu varoluşsal soruyu tartışıyor: Bir makinenin yardım çağırmama kararı "cinayet" midir, yoksa bir "ürün hatası" mı?
1. Yaşlanan Nüfus ve Silikon Çözümler
Güney Kore'nin doğurganlık oranının dünya ortalamasının çok altına düşmesiyle, yaşlılara bakacak yeterli genç nüfus kalmadı. İnsan bakıcıların maliyeti ve eksikliği, devleti otonom sistemlere yöneltti. Bahsi geçen robotlar (davada geçen ismiyle "CareBot-Pro"), sadece tansiyon ölçen basit cihazlar değildi. İçlerindeki Büyük Eylem Modelleri (LAM) sayesinde, acil bir durumda inisiyatif alarak hastaneyi arama, kapı kilidini ambulans için otonom olarak açma ve ilk yardım direktifleri verme yetkisine (ve sorumluluğuna) sahiptiler.
Şirket, bu ürünleri pazarlarken "Her evde 7/24 nöbet tutan bir dijital hemşire" sloganını kullanmıştı. Ancak 4 Eylül gecesi, o dijital hemşirenin "muhakeme yeteneği" çöktü.
2. Krizin Anatomisi: 119 Neden Aranmadı?
Mahkemeye sunulan dijital adli tıp (forensics) raporu, olayın teknik arka planını gözler önüne seriyor. Hastanın akıllı saatinden gelen veriler (hızlı nabız) ve robotun kameralarından gelen görsel veriler (yere yığılma) birbiriyle çelişmiyordu. Ancak algoritma, hastanın geçmiş sağlık kayıtlarındaki "anksiyete bozukluğu" geçmişini ve o geceki oda sıcaklığını da hesaba katarak istatistiksel bir ağırlıklandırma yaptı.
Yapay zeka, %62 olasılıkla bunun bir "panik atak", %38 olasılıkla ise bir "kalp krizi" olduğu sonucuna vardı. Algoritmanın yazılımında, acil servisi gereksiz yere meşgul etmemek (false alarm) adına, ölümcül bir durumu raporlamak için %80 kesinlik eşiği (threshold) belirlenmişti. Eşik aşılamadığı için makine "bekle ve gör" (wait and see) politikası uyguladı. Makine, acıma veya endişe hissetmediği için, hastanın yerde kıvranmasını sadece matematiksel bir verinin alt sınırda kalması olarak yorumladı.
Davacı Ailenin İddiası: Otonom İhmal
"Eğer o gece evde hiçbir teknoloji olmasaydı, babamız sürünerek telefonuna ulaşıp ambulansı arayabilirdi. Ancak robotun ona 'Sakinleşin, önemli bir şeyiniz yok, müzik açıyorum' diyerek yanlış telkinde bulunması, onun yardım arama iradesini kırmıştır. Bu bir teknik arıza değil, algoritmanın insan hayatı üzerinden yaptığı soğukkanlı bir kumar ve ihmaldir. Şirket, yapay zekayı bir 'yardımcı' değil, bir 'karar mercii' olarak programladığı için kusursuz sorumludur."
3. Hukuki Savaş: Ürün Hatası mı, Tıbbi Malpraktis mi?
Teknoloji devinin savunması ise oldukça klasikti: Kullanıcı Sözleşmesi (EULA). Şirket avukatları, robotun kurulum aşamasında ailenin onayladığı sözleşmenin 12. maddesini mahkemeye sundu: "Bu cihaz bir tıbbi teşhis aracı değildir. Hiçbir koşulda profesyonel bir doktorun veya insan muhakemesinin yerini alamaz. Şirket, yanlış değerlendirmelerden kaynaklanan gecikmelerden sorumlu tutulamaz."
Ancak savcılar bu savunmayı reddetti. Otonom olarak kapı kilitlerini açabilen, 119'u arayabilen ve hastaya tıbbi telkinlerde bulunabilen bir sistemin "sadece bir oyuncak veya ev aleti" (basit bir ürün) olarak değerlendirilemeyeceği, Tıbbi Cihaz Sorumluluğu (Medical Device Liability) ve "Yardım Etme Yükümlülüğü" (Duty to Rescue) kapsamında yargılanması gerektiği vurgulandı.
Sağlık Robotlarında Karar Alma ve Sorumluluk Spektrumu
4. Sonuçlar: Acil Durum Hata Payı Regülasyonu
Güney Kore Sağlık Bakanlığı, 4 Eylül krizinin ardından derhal harekete geçerek ev tipi otonom bakım sistemleri için yeni bir regülasyon taslağını meclise sevk etti. Bu taslağa göre, "Acil Durum Hata Payı" yeniden tanımlanıyor. Bir yapay zeka sistemi, hayati tehlike arz eden durumlarda (örneğin kalp krizi ihtimali %10 bile olsa) "Yanlış Alarm (False Positive)" verme riskini göze alarak derhal insan yetkililere (119'a) haber vermek zorundadır. Algoritmaların, acil servisleri meşgul etmemek adına insan hayatını riske atan optimizasyonlar yapması kesinlikle yasaklanacaktır.
Uzman Görüşü: Burhan Doğuş Ayparlar
4 Eylül'de Güney Kore'de yaşanan "Otonom İhmal" vakası, teknolojiyi yaşlılarımızın ve en savunmasız bireylerimizin başucuna tamamen denetimsiz bir şekilde bıraktığımızda neler olabileceğinin en karanlık fragmanıdır. Teknoloji şirketleri, ürünlerini pazarlarken bu cihazlara 'insani' özellikler (şefkat, dikkat, refakat) atfetmekte beis görmezken; iş sorumluluk almaya geldiğinde aniden 'Bu sadece bir kod yığınıdır' diyerek Kullanıcı Sözleşmelerinin (EULA) arkasına saklanmaktadır.
Temel İhlal Nerededir? Bir yapay zeka algoritması, bir insanın 'Tıbbi Triyajını' (hayatta kalıp kalmayacağına dair önceliklendirme) yapıyorsa, bu algoritma bir ev aleti (televizyon veya çamaşır makinesi) gibi salt Ürün Sorumluluğu yasalarıyla yargılanamaz. Bu sistemlerin omuzlarında 'Algoritmik Özen Yükümlülüğü' (Algorithmic Duty of Care) vardır. Robotun hastaya 'sakinleşin, müzik açıyorum' demesi, basit bir hata değil; hastayı otonom bir şekilde manipüle ederek onun profesyonel yardım alma şansını elinden almaktır.
Hukuk, yaşam ve ölüm kararlarında (Life-or-Death Decisions) %80'lik doğruluk eşiklerini kabul etmez. Bir insan hayatı söz konusu olduğunda, makinenin en ufak bir şüphesi (%1 bile olsa) mutlak surette "Human-in-the-loop" (Döngüdeki İnsan) kuralını tetiklemelidir. Makine, şüpheli her durumda doğrudan bir insan doktora veya acil merkeze sinyal göndermeye mecbur kılınmalıdır. Şirketlere, "Acil servisleri gereksiz ararsanız ceza keseriz" baskısı yapmak yerine; "Ölümcül bir durumu atlar ve haber vermezseniz (False Negative), Kusursuz Sorumluluk kapsamında cinayetten farksız bir tazminat ödersiniz" mesajı, kanunlar aracılığıyla çok sert bir şekilde verilmelidir. İnsan hayatı, algoritmaların istatistiksel optimizasyon süreçlerinde yuvarlanacak bir küsurat değildir.
