Son bir yılda yapay zekâ, öneri sunmaktan eylemde bulunmaya geçti. 'Eylemsel' (agentic) sistemler artık çok adımlı görevleri planlıyor ve sınırlı insan müdahalesiyle yerine getiriyor: Sistemleri sorguluyor, mesaj gönderiyor, para transferi yapıyor, başka araçları ve ajanları devreye sokuyor. Bu yetenek gerçekten yararlı; ancak sözleşmelerin ve iç politikaların çoğunun örtülü olarak dayandığı bir varsayımı, yani son adımı her zaman bir insanın attığı varsayımını da geçersiz kılıyor.

Sorumluluk boşluğu

Bir ajan yanlış tedarikçiye rezervasyon yaptığında, bir araç çağrısı üzerinden veri sızdırdığında veya reddetmesi gereken bir işlemi gerçekleştirdiğinde bunun hesabını kim verir? Modeli geliştiren mi, ajanı devreye alan şirket mi, çağırdığı aracın tedarikçisi mi, yoksa hedefi belirleyen kullanıcı mı? Sorumluluk hukuku, insan kararları ve öngörülebilir biçimde çalışan araçlar esas alınarak kurulmuştur. Hedefe giden yolu kendisi belirleyen bir ajan ise bu kategorilerin hiçbirine tam olarak uymaz.

İyi bir yönetişim modeli nasıl olmalı?

  • Sınırlı yetki. Ajanın tek başına ne yapabileceğini, neyin onay gerektirdiğini ve neyin yasak olduğunu hem yazılı olarak hem de kodda tanımlayın. Harcama tutarı, alıcılar ve erişilecek veri kapsamı için kesin sınırlar koyun.
  • Varsayılan olarak kayıt. Ajanın hedeflerini, adımlarını, araç çağrılarını ve eriştiği veriyi kayıt altına alın. Olayların nasıl geliştiğini sonradan ortaya koyamıyorsanız kendinizi savunamazsınız.
  • Adı belli bir sorumlu kişi. Devreye alınan her ajan için hesap verebilecek bir sorumlu belirlenmeli; bu sorumlu bir model değil, bir insan olmalı.
  • Sözleşmesel netlik. Sorumluluğun sizinle yapay zekâ tedarikçileriniz ve müşterileriniz arasında nasıl paylaşılacağını açıkça düzenleyin. Sözleşmede hüküm bulunmaması, uyuşmazlığı kaçınılmaz kılar.
  • Acil durdurma. Bir ajanı görevin ortasında durdurabilme imkânı ve geride bırakabileceği karışıklığı gidermek için önceden test edilmiş bir plan.

Hukuk hangi yönde gelişiyor?

Düzenleyiciler basit bir ilkede birleşiyor: Otonomi, sorumluluğu ortadan kaldırmaz. EU AI Act'in yaklaşımına göre bir kuruluş, gerçek dünyada eylemde bulunan sistemleri ne ölçüde kullanıma alırsa gözetim, dokümantasyon ve risk yönetimi yükümlülükleri de o ölçüde artar. Ajanın kişisel verilere eriştiği her durumda veri koruma hukuku ek bir yükümlülük katmanı getirir. Savunulabilir yaklaşım, bir yapay zekâ ajanını yetenekli ama kendi başına hareket eden bir çalışan gibi görmektir: Ona açık bir yetki tanımlamak, ne yaptığını izlemek ve bunu yaptığınızı kanıtlayan kayıtları tutmak.