Üretimde izlediğim her ajanın aynı gerçeklik anı vardır. Bir eylem önerir. İnsan ona bakar. Ardından soru havada asılı kalır: bunu çalıştırayım mı yoksa durdurayım mı?
İşte bu duraklama, onay kapılarının yaşadığı yerdir. Pek çok ekip onları bir taviz olarak görür — sisteme henüz güvenmediğiniz için taktığınız bir fren. Bu çerçeveleme, kalıbı tersine çevirir.
Bir onay kapısı hız sınırı değildir. Ölçekte güvenli özerklik sağlayan bir ürün özelliğidir.
Kalıp, sade haliyle
Onay kapısı kalıbı temiz bir döngü izler: öneri, önizleme, insan onayı, yürütme, günlük kaydı, geri alma.
Ajan bir eylem taslağı hazırlar. İnsana bir önizleme gösterir — farkı, API çağrısını, yapılandırma değişikliğini. İnsan onaylar veya reddeder. Onaylanırsa, ajan yürütür, sonucu kaydeder ve bir geri alma yolu sunar. Reddedilirse, ajan bu belirli yolun şimdilik yanlış olduğundan başka bir şey öğrenmez.
Bu bir fren değildir. Bir karar düğümüdür. Ajan hareket etmeye devam eder; insan sadece yanlış bir cevabın bir saniyelik dikkatten daha pahalıya mal olduğu noktada evet veya hayır der.
Neden bir özellik, fren değil
Alternatif tam özerkliktir: ajan her şeyi yürütür ve insan sonradan günlüğü denetler. Bu, geri alınabilir, düşük maliyetli eylemler için işe yarar — bir bildirim göndermek, salt okunur bir uç noktayı sorgulamak gibi. Hatanın maliyetinin yüksek ve kurtarma yolunun uzun olduğu durumlarda başarısız olur.
Onay kapıları belirli bir davranışsal sorunu çözer. İnsanlar sisteme güvendiklerinde dikkat etmeyi bırakırlar. Aşırı güven kendini duyurmaz; cevabın kendinden emin bir şekilde yanlış olduğu ve kimsenin hala kontrol etmediği o tek duruma kadar zaman kazanılmış gibi görünür. Araç orada başarısız olmadı. Dikkat başarısız oldu.
Bir onay kapısı dikkati kritik noktaya geri zorlar. Ajanı yavaşlatmaz — kararı yavaşlatır, ki hızın kesinlikle takas edilmesi gereken yer tam da burasıdır.
Risk bağlamı
İki çerçeve, onay kapılarının gerekçesini somutlaştırır.
NIST AI Risk Yönetim Çerçevesi belirli bir kontrol önermez, ancak üretken yapay zeka için tamamlayıcı profili açıktır: insan denetimi bir risk yönetimi işlevidir, güven atlayışı değil. Sorun, modelin görevi yapıp yapamayacağı değil; kuruluşun bu bağlamda bir hatanın sonuçlarına tolerans gösterip gösteremeyeceğidir.
OWASP LLM01 prompt enjeksiyonu riski konuyu keskinleştirir. Bir prompt enjeksiyonu, hiçbir prompt mühendisliğinin tamamen önleyemeyeceği şekillerde model davranışını değiştirebilir. Kontrol daha iyi prompt yazmak değil; bir insanın çıktıyı üretim sistemine dokunmadan önce kontrol etmesidir. Bir onay kapısı bu kontroldür — kırılgan bir model için geçici çözüm değil, indirgenemez bir hata sınıfına karşı yapısal bir kalkandır.
Özerklik ne zaman uygundur
Her eylem bir kapıya ihtiyaç duymaz. Kalıp, düşük riskli, geri alınabilir eylemleri yüksek riskli kararlardan ayırdığınızda en iyi şekilde çalışır.
Bir iç belgeyi özetleyen bir içerik ajanı? Çalıştırın. Bir üretim yük dengeleyicisini değiştiren bir terraform apply öneren bir altyapı ajanı? Kapıya alın. Ayrım, yetenek değil sonuçtur. Tek tıklamayla geri alabiliyorsanız ve patlama yarıçapı tek bir kullanıcıysa, özerklik sorun değildir. Kurtarma bir ekip ve bir olay sonrası analiz gerektiriyorsa, eylemi kapıya alın.
Hızı korumak
İtiraz tahmin edilebilir: “Bu ajanımızın hızını öldürür.” Öyle değildir — kapıyı sistem için değil, insan için tasarlarsanız.
Eşzamansız onaylar, bir insanın bir Slack bildirimini incelemesine ve telefonundan onaylamasına olanak tanır. Şablonlar, ajanın onay talebini tam fark ve geri alma komutuyla önceden doldurmasını sağlar. Geri alma, kapının bir parçasıdır — insan onaylarsa ve sonuç yanlışsa, “geri al” diyebilir ve ajan yeni bir öneri döngüsü olmadan eylemi tersine çevirir.
Hız maliyeti, bir farkı okuyup evet demek için geçen süredir. Bu bir fren değildir. Sistemin istemediğiniz bir şey yapmayacağını bilmenin maliyetidir.
Onay kapıları bir güven mekanizmasıdır, hız sınırı değil. Hataların ucuz olduğu yerlerde ajanları yüksek özerklikle çalıştırmanıza ve bir hatanın maliyetinin birkaç saniyelik tasarruftan daha yüksek olduğu yerde tam olarak yavaşlamanıza olanak tanır. Bu bir taviz değildir. Bu ürün tasarımıdır.
