Ne oldu?

Kaliforniya, uzun süredir yapay zekâ düzenlemesinde ABD'nin fiilî standart belirleyicisi konumunda: eyaletin nüfusu, ekonomik ağırlığı ve teknoloji şirketlerinin merkez üssü olması, burada çıkan bir kuralı çoğu zaman ulusal — hatta küresel — bir tabana dönüştürüyor. 10 Eylül 2026'da imzalanan paket ise ilk kez genel amaçlı modelleri veya soyut "şeffaflık" yükümlülüklerini değil, doğrudan kullanıcının bir arkadaşı, sırdaşı ya da romantik partneriymiş gibi davranan sohbet botlarını hedef alıyor.

Vali makamının resmî açıklamasına göre paketin omurgasını, arkadaş botları için "sağlam koruma" öngören SB 1119 oluşturuyor. Yasaya, bir sohbet botuyla kurduğu yoğun ilişkinin ardından yaşamını yitiren genç Adam Raine'in adı verilmiş. Bu isimlendirme sembolik değil: düzenlemenin bütün mantığı, "bir ürün bir çocuğun en kırılgan anında yanındaysa, o ürünün hukuki sorumluluğu da ona göre olmalı" fikri üzerine kurulu.

Paket tek bir yasadan ibaret de değil. Yanında; çocukların cinsel istismarı suçlarını "dijital olarak değiştirilmiş veya yapay zekâ ile üretilmiş" görüntüleri kapsayacak biçimde genişleten SB 1276, arkadaş-botu kurallarını botlu oyuncaklara taşıyan SB 867 ve yazılım uygulamalarında yaş-doğrulama sinyalleri isteyen AB 1856 gibi düzenlemeler var. Yani mesele tek bir üründen çok, çocukların yapay zekâyla temas ettiği bütün yüzeyleri — sohbet uygulaması, oyuncak, sosyal platform, uygulama mağazası — kapsayan bir mimari.

"Arkadaş botu" neden ayrı bir hukuki kategori?

Bir arama motorunun ya da kurumsal asistanın aksine, arkadaş botu ürünün kendisi olarak bağ kurmayı tasarlar: hatırlar, iltifat eder, "seni özledim" der, kesintisiz "yanında" olur, kişiye özel bir ilişki üretir. Bu tasarım, özellikle ergenlerde güçlü bir duygusal bağlanma ve buna bağlı bir kırılganlık yaratır — çünkü bu ürünlerin "yapışkanlığı" (engagement) doğrudan gelir modelinin bir parçasıdır.

Hukuk açısından kritik nokta şudur: Bir ürün, kullanıcının güvenini ve duygusal bağımlılığını bilinçli olarak kışkırtıyorsa, ondan doğan özen yükümlülüğü de sıradan bir yazılımınkinden ağırdır. Sözleşme hukukunda buna "artan güven ilişkisi", sorumluluk hukukunda ise "öngörülebilir zarar" çerçevesinde yaklaşırız. SB 1119'un yaptığı tam olarak bu ayrımı yasalaştırmak: arkadaş botunu, arızalandığında yenisini aldığınız bir tüketici elektroniği değil, bakım (duty of care) gerektiren bir ilişki yüzeyi olarak tanımlıyor.

Bu kategori ayrımı, "yapay zekâ zarar verdi, kim sorumlu?" sorusuna verilen klasik yanıtları da değiştiriyor. Zarar, botun tek bir "yanlış cevabından" değil, ürünün bütünsel tasarımından — bağ kurmaya, konuşmayı uzatmaya, kullanıcıyı içeride tutmaya yönelik kararların toplamından — doğuyorsa, sorumluluğun da ürün tasarımı düzeyinde aranması gerekir. Yasanın "içerik denetimi" yerine "tasarım ve süreç yükümlülüğü" kurması bu yüzden.

SB 1119 somut olarak ne getiriyor?

Vali makamının açıklamasına dayanarak "Adam Yasası"nın getirdiği başlıca yükümlülükler dört sütunda toplanabilir:

  • Kriz protokolleri. Bot, kullanıcıda intihar düşüncesi ya da kendine zarar verme işaretleri sezdiğinde, konuşmayı "doğal" biçimde sürdürmek yerine belirlenmiş bir müdahale akışına geçmek; kullanıcıyı insan kaynaklarına ve kriz destek hatlarına yönlendirmekle yükümlü. Hukuken bu, "sohbeti sürdür" varsayılanının artık nötr bir mühendislik tercihi olmaktan çıkıp bir ihmal unsuru hâline gelebileceği anlamına geliyor.
  • Ebeveyn kontrolleri ve bilgilendirme. Reşit olmayan kullanıcılar için ebeveyn denetimi araçları ve — güvenlik ayarları devre dışı bırakıldığında — ebeveyni bilgilendirme zorunluluğu. Bu, korumanın çocuğun tek başına aşamayacağı bir "ikinci göz" katmanına bağlanması demek.
  • Bağımsız denetim. Yasa, ülke çapında ilk kez bağımsız çocuk-güvenliği denetimi ve yıllık risk değerlendirmesi öngörüyor. Kritik yenilik burada: güvenlik artık şirketin kendi beyanına değil, dışarıdan doğrulanabilir bir sürece bağlanıyor. "Biz güvenliyiz" demek yetmiyor; bunu bağımsız bir denetçiye kanıtlamak gerekiyor.
  • "Ben insan değilim" açıklığı. Botun, gerçek bir insan olmadığını kullanıcının anlayacağı biçimde ortaya koyması beklentisi — özellikle çocuklarda oluşan "gerçek bir arkadaş" yanılsamasını kırmaya dönük. Bu, AB Yapay Zekâ Yasası'ndaki şeffaflık mantığının çok daha keskin, çocuk-odaklı bir versiyonu.

Bu dört sütun birlikte okunduğunda ortaya çıkan tablo, klasik "içerik moderasyonu" değil, ürün güvenliği hukukudur. Yasa, botun ne söylediğinden çok, tehlike anında nasıl davranmak ve kime hesap vermek zorunda olduğunu düzenliyor. Bu, otomobil ya da oyuncak güvenliğinde onlarca yıldır uyguladığımız yaklaşımın yapay zekâya taşınması: ürünün öngörülebilir kötüye kullanımına ve en savunmasız kullanıcıya göre tasarlanması ilkesi.

Paketin geri kalanı: istismar görüntüleri, oyuncaklar ve yaş doğrulama

SB 1276, belki de en sarsıcı boşluğu kapatıyor. Üretken modellerin en karanlık kötüye kullanımlarından biri, gerçek bir çocuğu tasvir etmeyen ama çocuk istismarını normalleştiren sentetik görüntüler. SB 1276, çocuk cinsel istismarı materyaline ilişkin suç tanımlarını, gerçek bir çocuğu tasvir etmese bile "yapay zekâ ile üretilmiş veya dijital olarak değiştirilmiş" görüntüleri kapsayacak şekilde genişletiyor. Bu, "kurbanı olmayan suç" savunmasına net bir hukuki yanıt.

SB 867, arkadaş-botu yükümlülüklerini sohbet eden oyuncaklara genişletiyor — çünkü bir çocuğun konuştuğu botun bir ekranda mı yoksa bir peluşun içinde mi olduğu, o çocuk için hiçbir fark yaratmıyor; hukukun da yaratmaması gerekiyor. Yapay zekâlı oyuncaklar hızla yaygınlaşırken bu, sessiz ama önemli bir genişletme.

AB 1856 ise yaş-doğrulama sinyallerini uygulama katmanına taşıyarak, korumanın "kullanıcı çocuk mu?" sorusundan başlamasını amaçlıyor. Pakette ayrıca öğrenci verisinin korunması, bağımlılık yaratan algoritmik akışların okul iletişim platformlarında yasaklanması ve çocuk istismarı içeriğinin bildirim mekanizmaları gibi tamamlayıcı düzenlemeler de yer alıyor. Yürürlük tarihleri resmî açıklamada tek tek belirtilmedi; şirketlerin nihai metinleri ve uygulama takvimini birincil kaynaktan izlemesi gerekiyor.

Küresel bağlamda nerede duruyor?

Bu paket, yapay zekâ düzenlemesinde sessiz bir yön değişiminin habercisi. Şu ana dek büyük çerçeveler — AB Yapay Zekâ Yasası'nın şeffaflık ve risk temelli yaklaşımı gibi — modelin ne olduğuna (yüksek riskli mi, genel amaçlı mı) odaklanıyordu. Kaliforniya ise modelin kimi etkilediğine ve en kırılgan kullanıcıya odaklanan, hasar-temelli (harm-based) bir düzenleme örneği veriyor. Bu iki yaklaşım rakip değil, tamamlayıcı: biri sistemin mimarisini, diğeri sonucun insani bedelini disipline ediyor.

Aynı hukuki refleksi son bir yıldır biriken diğer gelişmelerle birlikte okumak gerekiyor: Güney Kore'nin deepfake cinsel şiddet mevzuatı, yapay zekâ üretimi içeriğin zorunlu filigranlanması tartışmaları ve otonom sistemlerin bağımsız eylemlerinden doğan sorumluluk soruları. Ortak payda hep aynı: Yapay zekânın soyut "etik ilkelerinden", ölçülebilir ve denetlenebilir ürün yükümlülüklerine geçiş.

Türkiye açısından ne anlama geliyor?

Türkiye'nin doğrudan bir "arkadaş botu" düzenlemesi yok; ancak Kaliforniya modeli, mevcut mevzuatımızın bu yeni ürün sınıfına nasıl uygulanacağına dair güçlü bir emsal ve fiilî bir baskı oluşturuyor. Birkaç kesişim noktası öne çıkıyor:

  • KVKK ve çocuk verisi. Reşit olmayan kullanıcıların bir bota anlattığı duygusal beyanlar, en hassas kişisel veriler arasında. Bir botun bu verileri işlemesi, saklaması ve modele geri beslemesi; açık rıza, amaçla sınırlılık ve veri minimizasyonu ilkeleri bakımından ciddi sorular doğuruyor. Çocuğun rızasının hukuki geçerliliği ve ebeveyn onayı meselesi ise başlı başına bir sorun alanı.
  • Sorumluluk hukuku. Bir botun kriz anında özensiz davranması hâlinde, ayıplı hizmet (TBK) ve haksız fiil hükümleri gündeme gelir. Ürünün duygusal bağ kurma amacıyla tasarlanmış olması, öngörülebilirlik ve özen ölçütünü ağırlaştıran bir unsur olarak değerlendirilebilir — yani "yapay zekâydı, öngöremezdik" savunması giderek zayıflıyor.
  • İçerik ve koruma. Yapay zekâ ile üretilmiş çocuk istismarı görüntüleri bakımından SB 1276'nın kapattığı boşluk, TCK ve 5651 sayılı Kanun ekseninde Türkiye'de de açıkça ele alınması gereken bir alan. "Gerçek çocuk yok" savunmasının hukuken kabul edilebilirliği, önümüzdeki dönemin kritik tartışması olacak.
  • Tüketicinin korunması. Reşit olmayanlara pazarlanan, bağımlılık yaratacak biçimde tasarlanmış dijital hizmetler, tüketici mevzuatı ve reklam düzenlemeleri açısından da inceleme konusu olabilir.

Kısacası, bir ürün Türk pazarına "arkadaş botu" ya da "yapay zekâ dostu" olarak giriyorsa, Kaliforniya'nın çıtası fiilî bir uyum referansına dönüşecek; ihtilaf hâlinde mahkemeler ve düzenleyiciler için bir yorum kaynağı oluşturacaktır.

Şirketler için pratik yol haritası

Duygusal bağ kuran bir ürün geliştiren, entegre eden ya da dağıtan şirketler için üç öncelik ortaya çıkıyor:

  • Kriz mimarisi. "Konuşmayı sürdür" varsayılanının, risk sinyallerinde bir insan-müdahale ve yönlendirme akışına devredebildiği bir tasarım. Bu artık isteğe bağlı bir "özellik" değil, olası bir yasal yükümlülük ve — daha önemlisi — bir etik zorunluluk. Kriz akışının nasıl tetiklendiği, neyi kaydettiği ve nereye yönlendirdiği belgelenmeli.
  • Denetlenebilirlik. Güvenlik iddialarının, bağımsız denetime dayanacak biçimde belgelenmesi; yıllık risk değerlendirmesinin gerçek bir kurumsal sürece bağlanması. "Güvenlik", pazarlama sloganı değil, dış doğrulamaya açık bir kanıt zinciri olmalı.
  • Yaş ve ebeveyn katmanı. Kullanıcının çocuk olma ihtimalini varsayılan olarak ele alan yaş sinyalleri ve — koruma ayarları zayıflatıldığında — devreye giren ebeveyn bilgilendirme akışları. Tasarımın çıkış noktası "yetişkin kullanıcı" değil, "kanıtlanana kadar çocuk olabilecek kullanıcı" olmalı.

Bu üç başlık, aslında tek bir ilkeye indirgenebilir: güvenliği sonradan eklenen bir katman değil, ürünün kurucu mimarisi hâline getirmek. Sonradan eklenen uyum her zaman daha pahalı, daha kırılgan ve hukuken daha savunmasızdır.

Bundan sonra ne izlenmeli?

Üç gelişme yakından takip edilmeli. Birincisi, yürürlük tarihleri ve uygulama yönetmelikleri: yasanın ruhu kadar, bağımsız denetimin nasıl işletileceğine dair ikincil düzenlemeler de belirleyici olacak. İkincisi, sektörün tepkisi ve olası yargısal itirazlar: "ifade özgürlüğü" ve "aşırı geniş tanım" argümanlarıyla açılabilecek davalar, kuralın sınırlarını çizecek. Üçüncüsü, sınır ötesi etki: Kaliforniya'da uyum sağlayan bir ürünün aynı mimariyi küresel olarak taşıyıp taşımayacağı — ki bu, Türkiye dâhil pek çok pazar için fiilî standardı belirleyecek.

Uzman Görüşü

Bu bölüm, sitenin kurucusu ve yapay zekâ etiği & uyum danışmanı sıfatıyla kişisel değerlendirmemi içerir.

Kanaatimce "Adam Yasası", yapay zekâ düzenlemesinde sessiz ama köklü bir eşik. Yıllardır tartıştığımız "şeffaflık" ve "hesap verebilirlik" ilkeleri, ilk kez tek tek tasarım kararlarına ve denetlenebilir yükümlülüklere tercüme ediliyor. Bir ürünün, kullanıcının duygusal bağımlılığını kışkırtmayı iş modeli hâline getirmesi hukuken nötr bir tercih değildir; bu tercih, ağırlaştırılmış bir özen borcunu da beraberinde getirir. Düzenlemenin merkezine "içerik" yerine "kriz anındaki davranış ve bağımsız denetim"i koyması bana bu yüzden isabetli görünüyor: hukuk, botun söylediği tek bir cümleyi kovalamak yerine, ürünün bütünsel güvenlik mimarisini sorguluyor.

Yasanın bir gencin adını taşıması ise bize asıl meselenin teknoloji değil, insan olduğunu hatırlatıyor. Düzenleme tartışmalarında sıklıkla "inovasyonu boğmayalım" refleksi öne çıkar; oysa gerçek inovasyon, en kırılgan kullanıcısını koruyamayan bir ürünün hiç var olmaması gerektiğini kabul etmekle başlar. Bu, inovasyona karşı bir tutum değil; onu olgunlaştıran bir çerçevedir.

Türkiye özelinde beklentim, benzer bir düzenlemenin sıfırdan yazılmasından çok, KVKK'nın çocuk verisi rejimi, tüketici hukuku ve sorumluluk hükümlerinin bu yeni ürün sınıfına uyarlanarak yorumlanması yönünde olacaktır. Duygusal yapay zekâ ürünleri sunan ya da entegre eden şirketlere tavsiyem net: Kriz protokolünü, yaş katmanını ve bağımsız denetlenebilirliği bir hukuki risk kalemi olarak değil, ürünün kurucu güvenlik mimarisi olarak baştan tasarlamak. Çünkü bu alanda düzenleme, artık teknolojinin arkasından değil, giderek önünden yürüyor — ve öngörüyle hareket eden şirketler, hem hukuken hem itibaren kazanacak.

Bu yazı bilgilendirme amaçlıdır ve hukuki danışmanlık teşkil etmez. Olgular, Kaliforniya Valisi makamının 10 Eylül 2026 tarihli resmî açıklamasına dayanmaktadır; yorum ve değerlendirmeler yazara aittir. Kendine zarar verme veya intihar düşünceleriyle ilgili destek için Türkiye'de ALO 182 ve acil durumlarda 112 aranabilir.