Human-in-the-Loop
İnsan Döngüde
Ajanın belirli noktalarda onay beklediği ya da kontrolü insana devrettiği tasarım. OpenAI'nin ajan rehberi iki tetikleyici sayıyor: hata eşiğinin aşılması (örneğin ajanın birkaç denemede müşterinin niyetini anlayamaması) ve hassas, geri alınamaz ya da yüksek riskli eylemler (sipariş iptali, büyük iade, ödeme).
Yapay Zekâ ve BüyümeKavram 70 / 81
Pratikte
Elde tutma açısından insan döngüde bir maliyet kalemi olmaktan önce güvenin koşulu: müşterinin aboneliğini yanlışlıkla iptal eden tek bir ajan, pek çok doğru cevabın kurduğu güveni silebilir (yorum). OpenAI bu müdahaleyi özellikle ilk dönemde hataları ve uç durumları bulmanın, sağlam bir değerlendirme döngüsü kurmanın yolu olarak anlatıyor; Anthropic de ajanların kontrol noktalarında insan geri bildirimi için durabileceğini yazıyor. Birim ekonomisinde de yeri var: insana devredilen her görev maliyete eklenir. Ajanın başarı oranını devir oranıyla birlikte raporla (yorum).