Üretimde Agentic AI: B2B Alıcılarının İmzalamadan Önce Sorması Gereken Sorular

"AI ajanları tarafından desteklenmektedir" ifadesi, tıpkı 2018'deki "blockchain destekli" ve 2023'teki "AI destekli" ifadeleri gibi, artık hemen hemen her B2B SaaS ana sayfasında yer alıyor. Bunların bir kısmı müşterilere anlamlı zaman ve para kazandıran gerçek üretim altyapısıdır. Büyük bir kısmı ise otonomi olarak pazarlanan, tek bir API çağrısının önüne yerleştirilmiş bir sohbet penceresinden ibarettir. Hem ajan özelliklerini hem de bağlandıkları sistemleri inşa eden bir ekip olarak, eğer satın alan taraf biz olsaydık gerçekten kullanacağımız kontrol listesi şudur:

1. Ajan hata yaptığında ne olur?

Hipotez değil, ajanın üretim ortamında başarısız olduğu spesifik ve güncel bir örnek isteyin. Eğer satıcı bunu sunamıyorsa, ya ürün gerçek üretim trafiği görmemiştir ya da hataları bilmek için yeterince yakından takip etmiyorlardır. Ardından etki alanının (blast radius) ne olduğunu sorun: Hatayı bir müşteri bulmadan önce bir insan yakaladı mı? Bir geri alma (rollback) yolu var mıydı, yoksa birinin hasarı manuel olarak geri alması mı gerekti?

2. İnsan denetimi (human-in-the-loop) seçeneği var mı ve bu gerçekten uygulanıyor mu?

Birçok satıcı "evet, yürütmeden önce inceleyebilirsiniz" diyecektir — ancak bu inceleme adımının varsayılan mı yoksa ayarlarda gömülü bir seçenek mi olduğunu ve işiniz için kritik olan belirli eylemler (para göndermek, müşteriye yönelik e-postalar göndermek, yasal/uyumluluk ağırlığı olan kayıtları değiştirmek) için zorunlu olup olmadığını kontrol edin. Varsayılan olarak kapalı olan bir inceleme onay kutusu bir güvenlik özelliği değil, yasal bir feragatnamedir.

3. Gerçek veri sınırı nedir?

Verilerinizin hangisini bir üçüncü taraf model sağlayıcısına gönderiyorsunuz ve bu sadece bir blog yazısında mı yoksa DPA'da (Veri İşleme Sözleşmesi) belgelenmiş mi? AB alıcıları için bu isteğe bağlı değildir — alt işlemci listesini isteyin, çıkarımın (inference) nerede gerçekleştiğini sorun (GDPR için bölge önemlidir) ve verilerinizin varsayılan olarak mı yoksa onay dahilinde mi herhangi bir model iyileştirme/eğitimi için kullanıldığını sorun.

4. Yük altında veya yanlış kullanım durumunda maliyet nasıl davranıyor?

Kullanıcı işlemi başına tekrar deneyen, yeniden planlama yapan veya birden fazla model çağrısını zincirleyen ajan döngüleri, geleneksel bir API çağrısına kıyasla istek başına oldukça değişken maliyetlere sahip olabilir. API çağrısı başına maliyet değil, başarılı sonuç başına gerçek maliyet rakamlarını isteyin — ve bir kullanıcı veya bir hata kontrolden çıkmış bir döngüyü tetiklerse ne olacağını (hız sınırlama? sert limit? sessiz maliyet aşımı?) sorun.

5. Sade bir dille gerçek otonomi seviyesi nedir?

"Otonom" ifadesi, "tamamen denetimsiz, çok adımlı, araç kullanan ajan"dan "her form gönderiminde bir LLM çağırıyoruz"a kadar her şey için kullanılıyor. Satıcıdan, bir kullanıcı işlemi ile tamamlanmış bir görev arasında neler olduğunu adım adım açıklamasını isteyin ve bu adımların kaçının deterministik kod, kaçının model tarafından üretilen kararlar olduğunu sayın. Bu sayı, size herhangi bir pazarlama iddiasından daha fazlasını söyler.

6. Temel model değişirse ilk önce ne bozulur?

Model sağlayıcıları model versiyonlarını sizin programınıza göre değil, kendi programlarına göre devre dışı bırakır ve değiştirirler. Satıcının bir modelin kullanımdan kaldırılmasıyla veya davranışı değiştiren bir güncellemeyle nasıl başa çıktığını sorun — versiyonları sabitliyorlar mı, güncellemeyi yaygınlaştırmadan önce değerlendirme setleri (eval suites) çalıştırıyorlar mı ve yeni bir model versiyonu sizin özel kullanım durumunuzda gerileme yaparsa geri dönebiliyorlar mı?

Neden kendimize aynı soruları soruyoruz?

Müşteri ürünlerine ajan özellikleri inşa ediyoruz ve ürünler piyasaya sürülmeden önce kendi çalışmamızı bu kontrol listesine göre denetliyoruz. Eğer bir müşteri bize "yanlış olduğunda ne olur" diye sorarsa, bir güvenceden ziyade gerçek bir örnekle birlikte gerçek bir cevap istiyoruz. 2026 yılında, biz de dahil olmak üzere, B2B alıcılarının her satıcıdan tutması gereken çıta budur.