Yeşil Bir Gate Yetmez: False Pass ve False Fail Nasıl Bulunur?

Bir AI agent kalite gate’i yeşil sonuç veriyorsa, bu gerçekten doğru karar verdiği anlamına gelir mi? Her zaman değil. Bir gate bozuk bir çıktıyı kabul edebilir; aynı gate sağlıklı bir çıktıyı da reddedebilir. Bu iki hata ayrı ölçülmezse, “başarılı” görünen testler yanlış bir güven duygusu üretir.

Tek yeşil ışığın gizlediği iki hata

Bir gate iki farklı yönde yanılabilir:

• False pass: Çıktı gerçekte hatalıdır, fakat gate onu kabul eder.
• False fail: Çıktı gerçekte doğrudur, fakat gate onu reddeder.

False pass güvenlik ve kalite riskini büyütür. False fail ise doğru işi durdurur, gereksiz tekrar üretir ve ekibin zamanını tüketir. Bu nedenle yalnızca “kaç test geçti?” sorusu yeterli değildir.

2×2 karar matrisi kurun

Her sonucu gate kararıyla değil, bağımsız bir ground truth ile karşılaştırın:

Bu matris, tek bir başarı oranının sakladığı hataları görünür kılar.

Önce bağımsız ground truth oluşturun

Gate’i yazan kuralla aynı mantığı kullanarak doğrulama yapmayın. Aksi halde aynı hata hem üretimde hem değerlendirmede tekrar edebilir. Bunun yerine:

1. Temsili örneklerden etiketli bir test seti hazırlayın.
2. Beklenen sonucu insan incelemesi veya bağımsız bir doğrulayıcıyla belirleyin.
3. Gate kararlarını bu etiketlerle karşılaştırın.
4. Her değişiklikten sonra aynı seti yeniden çalıştırın.

Pozitif ve negatif kontroller kullanın

Bir gate’in iki yönünü de sınamak için eşleştirilmiş kontroller gerekir:

• Dosya mevcut / dosya eksik
• HTTP 200 / HTTP 500
• Tam çıktı / yarıda kesilmiş çıktı
• Doğru araç çağrısı / yanlış araç çağrısı
• Geçerli kanıt kimliği / eksik veya tekrar kullanılan kanıt kimliği

Yalnızca başarılı örneklerle test edilen bir gate, reddetmesi gereken şeyleri reddedebildiğini kanıtlamaz.

Hataları tek puanda birleştirmeyin

Ayrı ayrı en az şu metrikleri izleyin:

• False-pass rate: Hatalı örneklerin ne kadarı yanlışlıkla kabul edildi?
• False-fail rate: Doğru örneklerin ne kadarı yanlışlıkla reddedildi?
• Coverage: Kritik senaryoların ne kadarı test setinde var?
• Reproducibility: Aynı giriş tekrarlandığında aynı karar çıkıyor mu?

Microsoft’un Agent Framework dokümantasyonu da agent değerlendirmesinde görev uyumu, doğru araç kullanımı ve sonuç kalitesi gibi boyutların ayrı ele alınmasını önerir. Kaynak: Microsoft Learn — Agent evaluation

Dayanıklılık gate’i neyi kanıtlamalı?

Bir gate yalnızca ilk çalıştırmada değil, gerçek işletim koşullarında da doğru davranmalıdır. Şunları test edin:

• Servis yeniden başladıktan sonra karar değişiyor mu?
• Retry aynı işlemi iki kez tamamlanmış gibi gösteriyor mu?
• Eski cache yeni sonucu yanlış etkiliyor mu?
• Model veya prompt sürümü değişince regresyon oluşuyor mu?
• Kanıt kaydı kararın hangi girdiye ait olduğunu açıkça gösteriyor mu?
• Shadow run, yeni gate’i eski gate’le güvenli biçimde karşılaştırabiliyor mu?

Pratik gate inceleme kontrol listesi

• Bağımsız ground truth var mı?
• Hem pozitif hem negatif kontroller çalışıyor mu?
• False pass ve false fail ayrı raporlanıyor mu?
• Her karar giriş, çıktı, sürüm ve kanıt kimliğiyle kaydediliyor mu?
• Tekrar çalıştırma ve restart senaryoları test edildi mi?
• Eşik değişikliği önce shadow mode’da doğrulandı mı?

Kısa cevaplar

AI agent gate nedir?

Bir AI agent gate, agent çıktısının veya eyleminin bir sonraki aşamaya geçip geçemeyeceğine karar veren kontrol noktasıdır.

Yeşil sonuç neden tek başına kanıt değildir?

Çünkü gate, yanlış bir çıktıyı kabul etmiş olabilir. Kararın doğruluğu ancak bağımsız ground truth ile karşılaştırıldığında anlaşılır.

Önce hangi metriğe bakılmalı?

Riskli eylemlerde önce false-pass rate’e; operasyonel verimlilikte ise false-fail rate’e bakın. İkisini hiçbir zaman tek bir başarı puanında saklamayın.

Sonuç

Güvenilir bir gate, yalnızca çok sayıda yeşil sonuç veren gate değildir. Hatalı çıktıyı durdurduğunu, doğru çıktıyı da gereksiz yere engellemediğini kanıtlayabilen gate’tir. Bu kanıt için iki yönlü kontroller, bağımsız ground truth ve ayrı hata metrikleri gerekir.