Onay, süreç adımına değil risk eşiğine bağlanır

Kurumsal agent projelerinde ilk refleks çoğu zaman her adıma bir insan kontrolü koymaktır. Güvenli hissettirir; ama ne güvenlidir ne de kullanışlıdır. Akış en meşgul onaycının hızına düşer ve aşağıda ele alacağımız gibi onayların kalitesi de bozulur. İnsan onayı, aksiyonun bir risk eşiğini aştığı yere konur. Eşiği üç soru belirler: yanlış aksiyonun maliyeti nedir, geri alınabilir mi, şirket dışında hukuki ya da güven etkisi yaratıyor mu?

Bu üç sorudan işleyen bir varsayılan kural çıkar. Ucuz, geri alınabilir ve kurum içi kalan aksiyonlar — taslak yazmak, sınıflandırmak, bilgi getirmek, hesaplamak — loglanarak otonom çalışır. Pahalı, geri alınamaz veya dışarıdan görünür aksiyonlar — ödeme çıkmak, teslim tarihi taahhüt etmek, müşteriyle iletişime geçmek, başka sistemlerin bağımlı olduğu bir kaydı değiştirmek — açık onay gerektirir. Aradaki bant, örneklemeli denetimle otonom çalışır. Bir satın alma agent'ını düşünün: tedarikçi sorusuna yanıt taslağı hazırlamak ilk banda, fiyat değişikliğini teyit etmek üçüncü banda düşer. Aynı akış, iki farklı eşik.

Her yerde onay, hiçbir yerde onay demektir

Her adıma onay koymanın asıl bedeli hız değil, onaycının kendisidir. Kuyruktaki taleplerin neredeyse tamamı sorunsuz olduğunda, onaycı bu oranı birkaç günde öğrenir. Dikkat, vakaları tek tek değerlendirmekten kuyruğu eritmeye kayar; tıklama bir yargı olmaktan çıkıp alışkanlığa dönüşür. Göstermelik onay mekanizması budur: kontrol organizasyon şemasında hâlâ vardır ama davranışta artık yoktur — ve gerçekten incelenmesi gereken o tek talep de incelenmesi gerekmeyen yüz talep gibi refleks bir tıkla onaylanır.

Belirtiler kendi loglarınızda görünür: saniyelere inen onay süresi, yüzde yüze yaklaşan onay oranı, gün sonunda toplu kapatılan kuyruklar. Her biri kapının bir ritüele dönüştüğünü söyler. İki dürüst seçenek vardır: o aksiyon sınıfı için kapıyı kaldırmak ya da onayı azaltıp zenginleştirmek — onaycının gerçekten üzerinde düşünebileceği daha az, daha dolu onay. Ayrım gücünü yitirmiş bir kontrol, kontrolsüzlükten kötüdür; çünkü geriye özenli görünen ama özen içermeyen bir kayıt bırakır.

Evet/hayır kutusu değil, karar tasarlayın

Bağlamsız bir evet/hayır sorusu karar devretmez; sorumluluk havale eder. Onaycı, agent'ın ne yaptığını doğrulamak için kaynak sistemleri tek tek açmak zorundaysa onay, işi elle yapmaktan daha pahalıya gelir; açmıyorsa tahmin ediyordur. Onay ekranı kararı taşımalıdır: agent'ın ne yapmak istediği, hangi kaynakları kullandığı, hangi varsayımları yaptığı, güven sinyali, aksiyonun beklenen etkisi ve reddedilirse ne olacağı.

Pratik bir test: yetkin bir onaycı ekrandan çıkmadan bir dakikanın altında karar verebiliyor mu? Veremiyorsa ekran eksiktir. Eksik olan çoğu zaman onaycının dikkati değil, önüne konan bağlamdır. Ve iki değil üç sonuç sunun: onayla, reddet, düzelt-ve-onayla. En değerlisi düzeltme yoludur; akışı durdurmadan agent'ın tam olarak neyi yanlış yaptığını kayda geçirir — bir sonraki bölümün konusu olan veri tam da budur.

Onay davranışı bir telemetri kaynağıdır

Her onay kararı, sistemin işleyişi sırasında bir uzmanın ücretsiz ürettiği etiketli bir veri noktasıdır. Retler, düzeltmeler, bekleme süreleri ve tekrar eden istisnalar, ürünün sahip olacağı en ucuz değerlendirme setini oluşturur — yeter ki biri bunu eritilecek bir kuyruk olarak değil, okunacak bir veri seti olarak ele alsın.

Desenler nedenlere işaret eder. Tek bir aksiyon türünde yoğunlaşan retler, akışın daha yukarısındaki bir bilgi getirme ya da prompt sorununu gösterir. Hep aynı alana dokunan düzeltmeler, onay ekranında bağlamın ya da agent'ta bir girdinin eksik olduğunu söyler. Uzayan kuyruk süreleri, onayın yanlış role ya da akışın yanlış noktasına konduğunu anlatır. Bu veriyi her ay düzenli olarak okumak, insan onayını sabit bir güvenlik sınırından ürünün ana iyileştirme döngüsüne çevirir.

Otonomi bir kez ayarlanmaz, kanıtla kazanılır

Lansmanda kurulan eşikler, lansman günündeki belirsizliği yansıtır. Onları sonsuza dek sabit tutmak, artık ölçmüş olduğunuz bir risk için sigorta primi ödemeye devam etmek demektir. Disiplinli alternatif kademeli otonomidir: hangi kanıtın bir aksiyon sınıfını ön onaydan örneklemeli denetime taşıyacağını lansmandan önce yazın — örneğin, tanımlı bir çalışma döneminde düzeltmesiz onay oranının mutabık kalınan çıtanın üzerinde kalması ve mutabık kalınan şiddet düzeyini aşan hiçbir olayın yaşanmaması.

Kademe düşürme kuralları, kademe atlatma kuralları kadar önemlidir. Bir olay, model değişikliği, yeni bir veri kaynağı ya da genişleyen kapsam, aksiyon sınıfını, statüsünü yeniden kazanana kadar açık onaya geri döndürür. Böyle yazıldığında otonomi değişiklikleri sessiz bir kaymanın değil, sahibi ve kriteri olan kararların sonucu olur — ve üretim koşullarında kurgulanmış pilot, ilk kademe atlama kanıtının biriktiği yer hâline gelir. Pilotun işi zaten budur.

Denetim izi uyum yükü değil, ürün özelliğidir

Çoğu ekip denetim izini (audit trail) canlıya çıkmadan önce eklenen bir uyum angaryası olarak görür. Bu okuma, denetim izinin asıl işlevini gözden kaçırır. Agent'ın ne gördüğünün, neye karar verdiğinin, kimin onayladığının ve nelerin düzeltildiğinin kaydı, yukarıdaki her şeyin mekanizmasıdır: aksiyon sınıfını kademe atlatan kanıt, ürünü iyileştiren veri seti ve olay analizini arkeolojiden sorguya çeviren tekrar oynatma imkânı. Onaycının sistemi her seferinde yeniden kontrol etmeden ona güvenmesini sağlayan şey de budur.

Bu yüzden izi birinci sınıf bir özellik olarak tasarlayın: insan tarafından okunabilir, aksiyon sınıfına ve sonuca göre sorgulanabilir, onay ekranından doğrudan erişilebilir. Bir kararı tekrar oynatabiliyorsanız onu savunabilir, ondan öğrenebilir ve güvenle otomatikleştirebilirsiniz.

Somut sonraki adımın maliyeti tek sayfadır. Aday iş akışınız için agent'ın alabileceği her aksiyonu listeleyin; her birini hata maliyeti, geri alınabilirlik ve hukuki etki açısından puanlayın; lansman onay seviyesini ve kademe atlama kriterini yanına yazın. Bu harita, daha tek satır kod yazılmadan operasyon, ürün ve hukuk ekiplerini aynı masaya oturtur — ve aksiyonlar listelenemiyorsa, o akış henüz bir agent'a hazır değildir.