Son bir yıl yapay zekâyı tavsiyeden eyleme taşıdı. 'Eylemsel' (agentic) sistemler artık çok adımlı görevleri planlıyor ve sınırlı insan müdahalesiyle bunları yerine getiriyor — sistemleri sorguluyor, mesaj gönderiyor, para hareketi yapıyor, başka araçları ve başka ajanları çağırıyor. Bu yetenek gerçekten faydalı. Aynı zamanda çoğu sözleşme ve politikaya gömülü bir varsayımı da bozuyor: son adımı bir insanın attığı varsayımını.

Sorumluluk boşluğu

Bir ajan yanlış tedarikçiye rezervasyon yaptığında, bir araç çağrısı üzerinden veri sızdırdığında veya reddetmesi gereken bir işlemi gerçekleştirdiğinde bunun hesabını kim verir? Modeli geliştiren mi, ajanı devreye alan şirket mi, çağırdığı aracın tedarikçisi mi, yoksa hedefi belirleyen kullanıcı mı? Sorumluluk hukuku, insan kararları ve öngörülebilir araçlar etrafında kuruldu. Bir hedefe giden yolu doğaçlayan bir ajan, bunların hepsinin arasında kalır.

İyi yönetişim neye benzer?

  • Sınırlı yetki. Ajanın tek başına ne yapabileceğini, neyin onay gerektirdiğini ve neyin yasak olduğunu hem yazılı olarak hem de kodda tanımlayın. Harcama, alıcı ve veri kapsamına katı limitler koyun.
  • Varsayılan olarak kayıt. Ajanın hedeflerini, adımlarını, araç çağrılarını ve dokunduğu veriyi kaydedin. Ne olduğunu yeniden kuramıyorsanız, savunamazsınız.
  • İsmi belli bir insan sahip. Devreye alınan her ajanın hesap verebilir bir sahibi olmalı — model değil, bir kişi.
  • Sözleşmesel netlik. Sorumluluğu sizinle yapay zekâ tedarikçileriniz ve müşterileriniz arasında açıkça paylaştırın. Sessizlik, ihtilafa varsayılan ayardır.
  • Acil durdurma. Bir ajanı görev ortasında durdurabilme yeteneği ve geride bırakabileceği karmaşa için test edilmiş bir plan.

Hukuk nereye gidiyor?

Düzenleyiciler basit bir ilkede buluşuyor: otonomi, sorumluluğu ortadan kaldırmaz. EU AI Act mantığına göre, bir kuruluş dünyada eyleme geçen bir sistemi ne kadar çok devreye alırsa, gözetim, dokümantasyon ve risk yönetimi yükümlülüklerini de o kadar çok üstlenir. Ajanın kişisel veriye dokunduğu her yerde veri koruma hukuku bir katman daha ekler. Savunulabilir tutum, bir yapay zekâ ajanını yetenekli ama denetimsiz bir çalışan gibi görmektir — ona net bir yetki verin, ne yaptığını izleyin ve bunu yaptığınızı kanıtlayan kayıtları tutun.