Bir Yapay Zekâ Ajanı Ne Zaman Kendi Başına İşlem Yapabilir?

Kurumsal agent'ları ölçeklemek; kimlik, veri bağlamı, yetki sınırları ve hesap verebilirlik tasarımını gerektirir.

Bir yapay zekâ ajanının müşteri talebini sınıflandırdığını, ilgili kayıtları bulduğunu, bir işlem taslağı hazırladığını ve doğru ekibe yönlendirdiğini düşünelim. Bir sunumda bu akış birkaç dakika içinde sorunsuz çalışabilir.

Ardından kaçınılmaz soru gelir:

"Bunu ne zaman kurum genelinde kullanmaya başlayabiliriz?"

Bu sorunun cevabı yalnızca modelin ne kadar iyi çalıştığına bağlı değil. Agent'ın hangi veriye eriştiği, ne tür işlemler yapabildiği, hangi durumda durduğu ve yaptığı işlemden kimin sorumlu olduğu da aynı derecede önemli.

Çünkü bir agent, yalnızca yanıt üreten bir araç değildir. Sistemlere erişip işlem yapmaya başladığında, kurumun iş akışına yeni bir karar ve eylem katmanı ekler. Bu katmanın sınırları tasarlanmamışsa başarılı bir demo, güvenilir bir üretim sistemine dönüşmez.

Agent ile asistana aynı gözle bakamayız

Bir asistan bilgi sunar veya taslak hazırlar. Agent ise bir hedef doğrultusunda birden fazla adım atabilir: kayıt arayabilir, başka bir sistemi çağırabilir, bilgi güncelleyebilir veya bir işlem başlatabilir.

Bu ayrım, sistemin riskini değiştirir. Yanlış bir metin önerisi gözden geçirilip düzeltilebilir. Yanlış bir ödeme, hesap değişikliği veya müşteri iletişimi ise doğrudan sonuç doğurabilir.

Dolayısıyla agent'ı değerlendirirken yalnızca "Doğru cevap verdi mi?" diye sormak yetmez. Şunları da bilmek gerekir:

• Hangi kaynaklardan bilgi aldı?
• Hangi sistemlerde işlem yapabilir?
• Hangi eylemler için onay gerekir?
• Belirsizlik veya çelişki gördüğünde ne yapar?
• Hatalı ya da manipülatif bir girdiyle karşılaşırsa nasıl davranır?
• Gerçekleştirdiği işlemi sonradan kim inceleyebilir?

Bunlar model seçimi soruları değil, işletim ve yönetişim tasarımı sorularıdır.

Her agent'ın kimliği ve görevi belli olmalı

Bir insan çalışanın kurum sistemlerine erişimi rolüne ve sorumluluğuna göre tanımlanır. Agent'larda da benzer bir disipline ihtiyaç var.

Her agent için ayrı ayrı belirlenmesi gerekenler:

Kimlik: Hangi agent işlem yaptı? Eylemler ortak bir servis hesabının arkasında kaybolmamalı.

Rol: Agent'ın amacı ne? Müşteri talebini sınıflandırmak mı, bilgi bulmak mı, işlem önermek mi?

Yetki alanı: Hangi verilere ve sistemlere erişebilir? Hangi işlemleri başlatabilir veya tamamlayabilir?

Bilgi kaynakları: Agent hangi belgeleri ve veri kümelerini güvenilir kabul eder? Eski veya onaysız dokümanları nasıl ayırt eder?

Eskalasyon: Hangi durumda işi insana devreder? Eksik bilgi, çelişkili kayıt veya limit aşımı karşısında ne yapar?

Sorumluluk: Agent'ın yaptığı işlemden hangi görevli veya ekip sorumludur?

Bu başlıklar net olmadığında agent'ın "yeteneği" geniş görünür, ancak güvenilir biçimde kullanılabileceği alan belirsiz kalır. Geniş ve ortak erişim izinleriyle bu boşluğu kapatmaya çalışmak ise yeni bir güvenlik riski yaratır. Daha sağlıklı yaklaşım, agent'a yalnızca işi için gerekli olan en düşük yetkiyi vermektir.

Bağlam, agent'ın çalışma ortamıdır

Bir agent'ın performansı yalnızca modelden gelmez. Önüne hangi talimatların, belgelerin ve işlem kayıtlarının konduğu da sonucu belirler.

Kurumsal belgeler güncel değilse, aynı konuda birbiriyle çelişen prosedürler varsa veya erişim politikaları anlaşılır biçimde tanımlanmamışsa, agent bu belirsizliği kendiliğinden çözemez. Ürettiği yanıt akıcı ve kendinden emin olsa bile dayandığı bağlam yanlış olabilir.

Bu durum, klasik anlamda "model halüsinasyonu"ndan daha ciddi sonuçlara yol açabilir. Agent eski bir prosedüre dayanarak işlem başlatabilir veya belirli bir kaydı güncel politika sanabilir. Bu nedenle agent'ın kullandığı kaynakların sürümü, sahibi, geçerlilik tarihi ve onay durumu yönetilmelidir.

Agent'ın okuduğu her içerik de güvenilir talimat değildir. E-posta, form veya destek talebi içindeki metinler agent'ı yönlendirmeye ya da sınırlarını aşmaya çalışabilir. Bu yüzden dış girdiler, sistem davranışını etkileyebilecek veri olarak ele alınmalı; yetki ve güven kurallarıyla ayrıştırılmalıdır.

Özerklik bir açma-kapama düğmesi değildir

Agent'ı ya tamamen kapalı ya da tamamen serbest çalışan bir sistem gibi düşünmek zorunda değiliz. Özerklik, kanıt ve kontrol düzeyine göre kademeli verilebilir.

1. Taslak üretir: Yanıt veya işlem taslağı hazırlar; eylemi insan yapar.
2. Öneride bulunur: Seçenekleri ve dayanaklarını sunar; karar insandadır.
3. Onaya sunar: İşlemi hazırlar fakat yetkili onay vermeden tamamlamaz.
4. Sınırlı eylem alır: Önceden tanımlanmış düşük riskli sınırlar içinde işlem yapar.
5. Daha geniş özerklik kullanır: Ancak kontrolleri ve performansı yeterince kanıtlanmış süreçlerde değerlendirilir.

Bu basamakların her biri için farklı kontrol gerekir. Örneğin agent'ın işlem taslağı hazırlaması ile müşteri hesabında değişiklik yapması aynı risk sınıfında değildir.

İnsan onayı da yalnızca bir butona basmaya indirgenmemeli. Onay veren kişinin işlemi anlayacak bilgiye, yeterli zamana, gerçek karar yetkisine ve gerektiğinde işlemi durdurma imkânına sahip olması gerekir. Aksi hâlde insan kontrolü, sorumluluğu üstlenen bir mekanizma olmaktan çıkar ve biçimsel bir adıma dönüşür.

Güvenilirlik, pilot sayısıyla ölçülmez

Agent projelerinde başarıyı kaç pilotun başlatıldığı veya kaç kullanıcının aracı denediğiyle ölçmek kolaydır. Ancak bunlar iş değerini tek başına göstermez.

Bir agent'ın üretimdeki performansı; işlem kalitesi, hata oranı, insan müdahalesi, eskalasyon sıklığı, tamamlanma süresi, toplam maliyet ve müşteri sonucu gibi göstergelerle birlikte izlenmelidir.

Maliyet hesabına model kullanımının yanında entegrasyon, veri hazırlığı, izleme, güvenlik kontrolleri, değişim yönetimi ve sürekli destek de girmeli. Bazı süreçlerde agent kullanmak değer yaratabilir; bazı süreçlerde geleneksel otomasyon daha basit, ucuz ve öngörülebilir bir çözüm olabilir.

Bu nedenle ilk soru "Hangi agent platformunu seçelim?" değil, "Bu işte gerçekten hangi karar veya koordinasyon darboğazını çözmeye çalışıyoruz?" olmalı.

Agent'ı ölçeklemek, kurumu da yeniden tasarlamaktır

Bir agent mevcut iş akışına eklendiğinde, o iş akışının varsayımları görünür hâle gelir: Bilgi nerede tutuluyor? İstisnalara kim karar veriyor? Bir işlem ne zaman tamamlanmış sayılıyor? Birimler arasındaki gecikmeler nerede oluşuyor?

Bu soruların yanıtı yoksa sorun modelin yetersizliği olmayabilir. Sürecin kendisi tanımlanmamış, veri sahipliği belirsiz veya karar yetkisi dağınık olabilir. Agent bu karmaşayı çözmek yerine daha hızlı dolaştırabilir.

Bu nedenle güvenilir agent çalışması üç tasarımla birlikte ilerlemeli:

• Teknik tasarım: Model, veri, entegrasyon ve izleme
• Kontrol tasarımı: Kimlik, yetki, onay, kayıt ve eskalasyon
• İş tasarımı: Süreç sahibi, karar noktaları, istisnalar ve ölçülebilir sonuç

Yapay zekâ ajanlarıyla ilgili asıl soru, onların ne kadar insan gibi düşündüğü değil. Kurumun hangi işi, hangi sınırlar içinde, hangi kanıta dayanarak ve kimin sorumluluğunda onlara devredebileceğidir.

Bir agent'a işlem yetkisi vermeden önce bu soruların cevabını verebiliyorsak, ölçeklemeye başlayabiliriz. Veremiyorsak, önce modeli değil çalışma biçimimizi netleştirmemiz gerekir.

Kaynakça

• Rahul Telang, Muhammad Zia Hydari ve Raja Iqbal, "Yapay Zekâ Ajanlarını Ekibinizin Birer Üyesi Olarak Görün", Harvard Business Review Türkiye, Eylül 2026.
• Anushree Verma, "Ajantik Yapay Zekâ Projeleri Neden Başarısız Oluyor?", Harvard Business Review Türkiye, Aralık 2025.