Açıklama
İnsan denetimli yapay zekâ nedir? İnceleme ve onay
İnsan denetimli yapay zekâ, yani human-in-the-loop (HITL), yapay zekâ destekli işin devam etmeden önce tanımlı noktalarda bir kişinin yargı veya yetki sağlamasını öngören tasarımdır. Yararlı bir inceleme noktası belirli bir eylemi durdurur, kanıtı ve beklenen etkiyi gösterir, yetkili inceleyene onaylama, düzeltme, reddetme, devralma veya üst makama aktarma seçenekleri verir.
Amaç her yapay zekâ adımından sonra Onayla düğmesine basmak değildir. Düşük riskli işlerin ilerlemesine izin verirken bağlam, sonuç veya sorumluluğun insan yargısı gerektirdiği yerlerde yetkiyi korumaktır.
Araştırma ve açıklama: Bu makaleyi Ottermind yayımlamaktadır. 26 Ağustos 2026 tarihinde NIST, Anthropic ve Microsoft birincil kaynaklarını inceledik. Aşağıdaki inceleme sözleşmesi ve kampanya örneği editoryal çerçevelerdir; ölçülmüş bir Ottermind karşılaştırması değildir.
Human-in-the-loop ne anlama gelir?
HITL sisteminde yapay zekâ görevin bir bölümünü yapar ve bir kişi bir veya daha fazla karara katılır. Eksik bağlam sunabilir, seçenekler arasında karar verebilir, yorumu düzeltebilir, eylemi onaylayabilir, öneriyi reddedebilir veya işi devralabilir. Bir insanın yazılımı kullanması tek başına yeterli değildir; insan yargısının mevcut sonucu değiştirebileceği açık bir yol gerekir.
Model geliştirme sırasında etiketleme, eğitim ve değerlendirme gelecekteki model davranışını etkiler. Çalışma sırasındaki inceleme ise mevcut karar, eylem veya teslimatı değiştirir. Bu makale ikinci döngüye odaklanır. Bu kontrol, model değerlendirmesinin, otomatik kontrollerin, erişim izinlerinin veya kurumsal sorumluluğun yerine geçmez.
Döngünün içinde, üzerinde ve dışında
| Mod | İşin ilerleyişi | Uygun kullanım |
|---|---|---|
| İnsan liderliğinde | Önemli her adımı kişi yönlendirir | Yeni veya belirsiz işler |
| İnsan döngünün içinde | Akış tanımlı noktalarda durur | Önemli kararlar ve dış iletişim |
| İnsan döngünün üzerinde | Kişi izleyip müdahale edebilirken iş sürer | Sınırlı, gözlenebilir ve geri alınabilir işlemler |
| İnsan döngünün dışında | Rutin insan katılımı yoktur | Dar, test edilmiş, düşük riskli otomasyon |
Tek bir görev bu modları birleştirebilir. Dosyalar otomatik okunabilir, kaynaklar çeliştiğinde karar istenebilir ve yayımdan önce yetki gerekebilir. Daha geniş model için Agentic Workflow nedir? yazısına bakın.
Daha geniş kategori tanımı için Agentic AI nedir? yazısıyla başlayın.
Yapay zekâ ne zaman durmalı?
Niyetin önemli ölçüde farklı yorumları varsa, kritik kanıt eksik veya çelişkiliyse, çıktı kişi ya da kurumu temsil ediyorsa, sonraki adım gönderme, yayımlama, ödeme, silme, erişim verme veya resmi kayıt değiştirme işlemi yapıyorsa ya da politika sorumlu bir rolün kararını gerektiriyorsa inceleme noktası ekleyin.
Hatanın etkisini, geri alınabilirliğini, zarar vermeden önce fark edilme olasılığını ve gerekli yetkiyi değerlendirin. Model güven puanı bu analizin yerini tutmaz.
Beş parçalı inceleme sözleşmesi
| Alan | Gösterilmesi gereken bilgi |
|---|---|
| Eylem | Bekleyen değişiklik, hedef, zaman ve kapsam |
| Kanıt | Kaynaklar, varsayımlar, fark, önizleme, kontroller ve riskler |
| İnceleyen | Nitelikli ve yetkili rol, yedek ve son tarih |
| Karar | Onayla, düzelt, reddet, devral veya üst makama aktar |
| Devam | Karardan sonra korunacak, geçersiz kılınacak, yürütülecek veya iptal edilecek durum |
Eylem–Kanıt–İnceleyen–Karar–Devam sözleşmesi döngüyü test edilebilir kılar. Üst aşamadaki kaynak veya strateji değişirse eski karara dayanan teslimatlar güncelliğini yitirmiş olarak işaretlenmelidir.
Örnek: kampanya paketini incelemek
Bir pazarlama ekibinin yapay zekâya ürün notları, müşteri görüşmeleri, onaylı iddialar ve marka rehberi verdiğini düşünün. Dışa dönük içerik hazırlanırken en az üç karar insanda kalmalıdır.
| Kontrol noktası | Bekleyen karar | İnceleyen ve devam noktası |
|---|---|---|
| Doğru kaynak | Çelişen iki ürün açıklamasından hangisinin kullanılacağı | Ürün sorumlusu seçer; kanıt haritasından devam edilir |
| Strateji | Hangi konumlandırmanın tüm çıktılara taşınacağı | Pazarlama sorumlusu özeti onaylar veya düzeltir |
| Yayın | Son içeriğin gönderilmesi ya da yayımlanması | Kanal sahibi tam içeriği, hedefi ve zamanı onaylar |
Bu örnek açıklama amaçlıdır; ölçülmüş ürün performansı değildir. Tam akış için yapay zekâ pazarlama workflow rehberine bakın.
Yaygın hatalar
- Hata tüm çıktılara yayıldıktan sonra yalnızca son teslimatı incelemek.
- Zararsız her işlem için onay isteyerek onay yorgunluğu yaratmak.
- Gerçek içerik, hedef kitle, zaman ve etki yerine yalnızca özet göstermek.
- Düzeltme, ret, devralma, üst makama aktarma ve süre sonu yollarını tanımlamamak.
- Uzmanlığı veya yetkisi olmayan müsait bir kişiyi seçmek.
- Öneriyi, kanıtı, kararı ve devam durumunu kaydetmemek.
HITL görevi nasıl tasarlanır?
Son teslimatı ve sorumlu kişiyi belirleyin. Görevi kararlar, taslaklar, kontroller ve dış eylemlere ayırın. Her adımı dört risk etkenine göre değerlendirin, düşük riskli hazırlığı otomatikleştirin ve belirsiz kararlarla sonuç doğuran eylemlerden önce inceleme noktaları koyun. Her nokta için sözleşmeyi doldurun ve ret durumunda bağlamı koruyun. Kaynak, sınır ve kabul ölçütleri için yapay zekâ ile görev otomasyonu rehberini kullanın.
Ottermind bu yapıya nasıl uyar?
Ottermind; hedefleri, dosyaları, bağlantıları, ara çalışmaları, kararları ve teslimatları bağlı tutan bir yapay zekâ agent çalışma alanıdır. Ekip, kaynak haritası ile planı inceleyebilir, özeti onaylayabilir veya düzeltebilir ve bağlamı yeniden kurmadan rapor ya da sunuma devam edebilir.
Ottermind sorumlu kişilerin veya alan uzmanlarının yerini almaz. Sınırlı ve incelenebilir bir teslimatla başlayın. Açık kontroller olmadıkça gönderme, yayımlama, satın alma, silme ve resmi kayıt değişiklikleri agent yetkisinin dışında kalmalıdır.
Sık sorulan sorular
Her yapay zekâ çıktısı insan onayı gerektirir mi?
Hayır. Kontrol; etki, geri alınabilirlik, fark edilebilirlik ve yetkiye uygun olmalıdır. Özel bir taslak daha sonra incelenebilir; kamuya açık bir iddia, ödeme veya silme işlemi açık onay gerektirebilir.
İnsan incelemesi doğruluğu garanti eder mi?
Hayır. İnceleyen kişinin de bağlamı, uzmanlığı, zamanı veya bağımsızlığı eksik olabilir. Rol, kanıt, karar hakkı ve devam yolu iyi tasarlandığında inceleme kontrolü güçlendirir.
Sonuç
HITL, “birisi kontrol eder” şeklinde belirsiz bir vaat değildir. Doğru eylemin durduğu, doğru kanıtın göründüğü, doğru kişinin gerçek seçeneklere sahip olduğu ve görevin güvenle devam edip durabildiği somut bir kontrol tasarımıdır.
