AI Ajan Gözlem: İzlere, Metriklere ve Yorumlara Uygulan Pratik Bir Rehber

AI ajanı gözlemlenebilirliğiBir ajanın denediğini, hangi araçları ve verileri kullandığını, her adımın neyi döndüğünü, çalışmanın ne kadar maliyetini ve nihai sonuçun kabul edilebilir olup olmadığını yeniden yapılandırma yeteneği. Sadece gecikme ve hataları gösteren bir tablo yeterli değildir. Ajan davranışları değişkendir, bu yüzden ekiplere de izler, değerlendirmeler, iş sonuçları ve hassas içerik için bir inceleme yolu gerekmektedir.

Araştırma ve şeffaflık: Bu rehber ,OpenTelemetry'nin ajan gözlemselliği çalışmaları, OpenTelemetry semantik sözleşmeleri, ve NIST AI Risk Yönetimi Çerçeve, 4 Eylül 2026'da gözden geçirilmiş. Aşağıdaki işletim modeli Ottermind performans referansı değil, orijinal bir editörel çerçeve.

Hangi ajan gözlemliliği cevap vermeli

Bir kullanışlı sistem, bir mühendisden bağlantısı olmayan günlüklerden koşuyu yeniden yapılandırmasını istemeyerek altı soruya cevap vermeli:

1. Koşmayı hangi hedef, talimatlar, model ve malzemeler başlattı?
2. Hangi model aramalar, aramalar, araçlar ve onaylar oldu?
3. Her adım neyi aldı ve geri döndü?
4. Kaçmak nerede tekrar denedi, durdu, dalladı, yoksa başarısız oldu?
5. Sonuç görev için özel bir kalite eşiğine ulaştı mı?
6. Bir inceleyicinin sınırlı verileri ortaya çıkarmadan kanıtları yeniden üretmesi mümkün mü?

Geleneksel uygulama izleme hala önemli. Kullanılabilirlik, gecikme ve hata oranları, hizmetin çalışıp çalışmadığını gösterir. Ajan gözlemliliği, hizmetin doğru bir iş yaptığını belirlemek için gereken görev düzeyinde bağlamı ekler.

Dört katmanlı gözlemsellik modeli

Bu katmanları tek bir puan olarak bölmeyin. Hızlı bir koşuş kötü bir rapor verebilir. Yerleşik bir rapor hala çok geç gelebilir. Kabul edilen teslimat hala asla izlenmesi gerekmeyen verileri ortaya koyabilir.

En az olay şeması

Her ajanın ve araçın yayınlayabileceği küçük bir olay sözleşmesiyle başlayın:

{
  "run_id": "run_123",
  "step_id": "step_07",
  "parent_step_id": "step_03",
  "operation": "tool.call",
  "tool": "document_search",
  "started_at": "2026-09-04T09:00:00Z",
  "duration_ms": 842,
  "status": "ok",
  "input_classification": "confidential",
  "content_recorded": false,
  "tokens": 0,
  "cost_usd": 0,
  "evaluation_refs": ["eval_19"]
}

Stabil çalıştırma ve ana tanımlayıcıları dizini yeniden yapılandırır. İstekler, modeller, araçlar ve politikalar için kayıt sürümleri, böylece bir geri dönüş değişime bağlı olabilir. Çiğ istekleri ve çıkışları seçmeli tutun: metadata genellikle operasyonel analiz için yeterlidir, içeriği yakalamak ise gizlilik ve saklama yükümlülüklerini yaratır.

Dört kimliği ayırt et

• workflow_idKalıcı ürün veya iş sürecinin isimleri.
• workflow_versionİsteklerin, araçların, modellerin ve kuralların test edilmiş yapılandırmasını tanımlar.
• run_idBir idamda her adımı birleştirir.
• thread_idbağlantılar bir konuşma veya daha uzun bir görev boyunca geçer.

Kullanıcı kimliğini bir ip veya çalıştırma kimliği olarak tekrar kullanmayın. Kimlik ayrı bir kontrol alanında saklanmalı ve analiz doğrudan tanımlanmayı gerektirmeyen sahte referanslar kullanılır. Eser veya iş kayıtlarının kimliğini sadece politika izin verdiğinde ekleyin.

Uygulama, çevre, deney ve kaynak seti sürümlerini ekleyin. Bu boyutlar bir başarısızlığın bir serbest bırakmadan sonra başladığını, bir kohort'u etkilediğini veya eski bir bilgi koleksiyonuna bağlı olup olmadığını cevaplar.

Ajan davranışını ortaya çıkaran ölçümler

Onlarca grafik eklemeden önce kompakt bir seti izleyin:

• Görev türüne göre tamamlama ve terk etme oranları;
• İletişim ve her araç için ortalama ve kuyruğu gecikme süresi;
• Araç başarısızlığı, tekrar deneme ve geri dönüş oranları;
• Adımlar, simgeler ve kabul edilen sonuç başına maliyet;
• Kanıtların önemli olduğu yerlerde temellilik veya alıntı yapma kapsamı;
• insan düzeltme süresi ve reddedilme nedenleri;
• politika blokları, onay istekleri ve izin reddetmeleri.

İş akışı sürümleri ve temsilci görevlere göre metrikleri segment edin. Toplam ortalamalar bir belge türünün veya bir araç entegrasyonunun tekrar tekrar başarısız olduğunu gizleyebilir.

Bir hedeften sonuna kadar koşun

Araştırma ajanının, on onaylı kaynaktan rekabetçi bir rapor hazırlamasını istediğini düşünelim. Son belge bir rakip için yanlış fiyat içerir. Bir yararlı iz, eleştirmenin koşuda geriye doğru ilerlemesini sağlar:

1. Sonuç kayıtları, kısacasının reddedildiğini ve fiyatlandırma hatasını işaretlediğini göstermektedir.
2. Son sentez uzaması, cümleyi hangi çıkarılmış fiyatlandırma satırında verdiğini belirler.
3. Arama süresi, arşivlenmiş bir yardım makalesinin mevcut fiyat sayfasının üzerinde yer aldığını gösterir.
4. Kaynak metadata etkin tarih alanı göstermez ve mevcut resmi sayfaları tercih eden kural yoktur.
5. İş akışı sürümünde, son bir arama değişikliğinin tarih filtresini kaldırdığını gösterir.

Düzeltme eyleminin sadece "daha iyi bir model kullanmak" olması değil. Kaynak öncelik kuralı geri yükle, reddedilen çalışmayı bir değerlendirme setiye ekle, diğer zaman hassas iddiaları test et ve arşivlenmiş sayfalardan alınmayı izle. Gözlemsellik, görünür bir kusurluğunu test edilebilen bir değişime bağladığında değer yaratır.

Bağlı bir iz olmadan, ekip tek fiyatı düzenleyebilir, görevi yeniden deneyebilir veya altta yatan geri alma başarısızlığının kalıp kalmadığını bilmeden isteklendirmeyi değiştirebilir.

Tasarım kararları etrafında uzanır

Bir iz, her yardımcı fonksiyon bir uzandığında okunamaz hale gelir ve tüm koşuşturma bir uzandığında eksiktir. İş birimleri:

• hedef alınması ve politika sınıflandırması;
• Plan oluşturmak veya rota seçimi;
• her model çağrı;
• her arama sorusu ve geri gönderilen kaynak kümesi;
• her dış araç çağrısı ve sonucu;
• devlet veya hafıza okuyor ve yazıyor;
• Tekrar denemek, geri dönmek ve kararları durdurmak;
• insan onay talepleri ve cevapları;
• Sanat eserinin oluşturulması ve onaylanması;
• Son teslimat ve kullanıcı sonucu.

Ana-baba ilişkileri, yuva işleri için ve nedenini paylaşan, ancak doğrudan çağrı yığınını paylaşmayan asinkron görevler için bağlantılar kullanın. Her bir uzaya sabit bir operasyon adı verin. Malzemelerdeki araç adı, iş akışı sürümü ve belge sınıfı gibi değişken değerleri koyun, böylece binlerce metrik isim yaratmadan filtrelenebilirler.

Gizli bir mantık değil, yeterince bağlam kaydet

Amaç, gözlemlenebilir girişleri, çıkışları, kararları ve devlet geçişlerini yakalamak. Özel düşünce zincirine ya da iç mantıklara güvenmeyin. Bir rota alanı gibiselected_tool=document_search, ek olarak izin verilen alternatifler ve araç sonucu, sınırsız bir akıl yürütme transkriptinden daha kullanışlı ve yönetilebilir.

Başarısız bir karar için, onu yönlendirmesi gereken politika veya değerlendirmeciyi, o anda mevcut olan kanıtları ve sonuçta ortaya çıkan eylemleri kaydet. Bu, her izini hassas bir anlatıma dönüştürmeden debugging'i destekler.

Gerçek başarısızlık modlarından değerlendirmeler oluşturun

Akıcılık ve yardımcılık gibi genel ölçümler nadiren yeterli olur. Çalışma akışı sözleşmesinden değerlendirme boyutlarını tanımlayın.

Araştırma kısacası için yararlı boyutlar şunları içerebilir:

Üç değerlendirme aşamasını kullanın:

1. **Ön serbest bırakma gerileme:**İş akışı versiyonundan önce çalıştırılan sabit durumlar.
2. **Üretim örneklemesi:**Gerçek atışların belirlenmiş bir yüzdesi otomatik veya insan tarafından inceleme yapılır.
3. **Başarısızlık teşvikleri:**reddedilen, düzeltilen veya alışılmadık koşular, gerileme durumları olarak etiketlenir.

Değerlendirme ipuçlarını, sınıflandırma modelleri, rubrikleri ve veri kümelerini sürümlü tutun. Yargıç değişince, değerleri eski bir başlangıç çizgisiyle aynı kalmış gibi karşılaştırmayın.

İş akışı için hizmet hedeflerini tanımlamak

Uygulama çalışma süresi, bir ajanın yararlı bir işi bitirdiğini tanımlamamaktadır. Görev düzeyinde hizmet göstergelerini ekle:

• Bir eser üreten uygun yürüyüşlerin yüzdesi;
• Maddi bir düzeltme yapmadan kabul edilen yüzdeler;
• talebeden incelemeye hazır sonuçlara kadar süre;
• % doğru sahipine kadar yükseldi;
• kabul edilen bir sonuç için maksimum maliyet;
• Kaynak desteklenen çalışmalarda alıntı veya kanıt kapsamı;
• politikalara uygun tamamlama oranı.

Çalışma akışı sınıfı ile hedefler oluşturun. Beş dakikalık bir araştırma notu ve on saniyelik bir destek cevabı aynı gecikme hedefini paylaşmamalıdır. Geçersiz girişleri yalnızca belgelemiş bir kural yoluyla dışlayın veya ekipler zor hataları yeniden sınıflandırarak güvenilirliği daha iyi gösterebilir.

İnsanların tepkisi olabilecek semptomlar konusunda uyarı

Her düşük değerlendirme puanı için birisine arama yapmaktan kaçının. Alarmlar sınırlı bir operasyonel tepkiyi belirlemeli.

Eğitim çizelgeleri, hatalar için biletler ve acil olaylar için sayfalar kullanın. Eğer her değerlendirme dalgalanması bir operatörü uyandırırsa, uyarı yorgunluğu, müdahaleye ihtiyaç duyan olayı gizler.

Örnekleme stratejisini seçin

Tam metadata yakalama her çalışmada yeterince ucuz olabilir, tam içerik tutma ve model tabanlı değerlendirme ise öyle değildir. Örnekleme kurallarını birleştirin:

• rastgele örneklemeSadece dramatik hataları seçmeden normal kaliteyi tahmin eder;
• Risk örneğiSonuçlı iş akışlarından daha fazla çalışmayı gözden geçirir;
• olay örneklemesihatalar, politika blokları, pahalı döngüler ve kullanıcı reddetmeleri saklar;
• değişim örneğibir model, bir istek, bir arama veya bir araç serbest bırakılmasından sonra kapsamını arttırır;
• Bölüm örneğiNadir dillerin, belge türlerinin, kullanıcı rollerinin ve kenar durumların ortaya çıkmasını sağlar;
• iz tutarlı örneklemebağlantı kesilmeden tam bir çok adımlı koşuyu sürdürür.

Adı belgeleyin. Bir tabloda sadece başarılı tamamlanan çalışmalar için% 95 oranında geçiş oranı gösterildiğinde, terk edilmiş ve engellenmiş çalışma ölçümden kaybolmuştur.

Örneği kör noktalar için inceleyin. Sadece yavaş veya başarısız koşular yapan bir kural günlük kaliteyi tahmin edemez, sıradan rastgele örnekleme nadir yüksek etkisi olan olayları atlatabilir. Tesdiq edilmiş olayları ilgili kayıt politikaları çerçevesinde rutin örnekleme yapmadan korumak.

Telemetriyi kullanıcıların geri bildirimleriyle uyumlandır

Açık bir reddetme, düzeltme, yeniden deneme, tırmanma, destek bileti ve kabul edilen eser sinyalleri çalışmaya bağlayın. Bir kullanıcı konuşmayı bitirdiğinde memnuniyetini çıkarma; belki de onu terk etmiş olabilir.

Yanlış kaynak, eksik gereksinim, eskisine dayanan bilgi, güvenli olmayan eylem, kötü biçim, çok yavaş veya çok pahalı gibi yapılandırılmış geri bildirim nedenlerini oluşturun. Bu konuda uygun olan metinleri kullanın, ancak her analizini manuel okuma üzerine kurmaktan kaçının.

Geri bildirim otomatik değerlendirmeciye aykırı olduğunda, davayı inceleyin. Kullanıcı yanılıyor olabilir, değerlendirici kötü belirtilmiş olabilir veya iş akışı gerçek sonuçla uyumlu olmayan bir teknik rubrikayi optimize edebilir. Bu anlaşmazlıklar değerli değerlendirme durumlarıdır.

Ajan olayı incelemesini yap .

Bir olay incelemesi kusursuz ve izlenebilir olmalıdır:

Kullanıcı etkisi ve etkilenen sürüşler:
Deteksiyon zamanı ve sinyal:
İş akışı, istek, model, araç ve politika sürümleri:
Beklenen davranış:
Görülen sırayla:
Kaynak, devlet veya izin:
Neden mevcut değerlendirmeler onu yakalamadı:
Hemen tutmak:
Düzeltme ve sahipliği değiştirme:
Geri dönüş olayları eklendi:
Değişiklikleri izlemek:
Sonraki tarih:

Başlatıcı hatayı sistemik katılımcılardan ayırın. Bir model geçersiz bir argüman verebilir, ancak araç sözleşmesi de kabul edebilir, tekrar deneme döngüsü bunu tekrarlayabilir ve değerlendirme araç sonuçlarını görmezden gelebilir. Sadece ilk görünür bir arıza düzeltmek sistemi kırılgan bırakır.

Dört aşamada gözlemlenebilirliği başlatmak

1. aşama: Tek bir koşuyu yeniden yapılandırmak

Bir araç sınırlı iş akışı sonuna kadar. Bir mühendis ve bir alan inceleyicisi başarısız bir koşuyu izden bağımsız olarak açıklayabileceğini onaylayın.

İkinci aşama: Kaliteli bağla

Deterministik onaylamalar, değerlendirici etiketleri ve kabul edilmiş veya reddedilen sonuçları ekleyin. Görülen başarısızlıklardan küçük bir gerileme seti oluşturun.

3. aşama: Üretim hacmi ile çalışmak

Örnek alma, saklama, düzenleme, ara çubuğu ve uygulanabilir uyarılar tanımlayın. Telemetri maliyetini ölçmek ve izleme kısıtlı verileri ortaya çıkarmadığını doğrultmak.

4. aşama: Sistematik olarak iyileştir

Değişiklikleri önceliklileştirmek, sabit veri kümelerindeki sürümleri karşılaştırmak ve üretimdeki etkeni onaylamak için hata kümelerini kullanın. Eski ölçümleri gözden geçirin ve artık kararlara yön vermeyen telemetriyi kaldırın.

Haftalık inceleme şablonu

İş akışı ve sürümü:
Kullanıcıların beklenen sonucu:
Temsilci başarılı yarışlar:
Temsilci başarısız veya düzeltilmiş çalışmalar:
En yüksek başarısızlık modları:
Önceki inceleme sonrası değişiklikler:
Gecikme ve maliyet değişimi:
Değerlendirme şifti:
Gizlilik veya izin olayları:
Gelecek hafta için bir deney:
Sahip ve inceleme tarihi:

Örnek başarısızlığı, sadece ortalama değil. En az bir temiz koşuyu, bir pahalı koşuyu, bir reddedilen sonucu ve bir insan müdahalesi gerektiren bir koşuyu gözden geçirin. Bu set yeşil durum panelini kaçırmış davranışları ortaya çıkarır.

Gizlilik ve güvenlik sınırları

Gözlemsellik verileri, istekler, dosya isimleri, alınan pasajlar, araç argümanları, kimlik bilgileri, kişisel veriler ve iş kararları içerebilir. Üretim verileri olarak sınıflandırın. Dışarıya aktarmadan önce sırları yeniden yazın, metadatalardan içeriği ayırın, erişimi kısıtlayın, tutmayı tanımlayın ve hassas izleri kimden denetlediğini kaydetin.

En az üç yakalama modunu oluşturun. Sadece metadata mode zamanlama, durum, sürümler, sınıflandırmalar ve hashleri kaydeder. Değiştirilmiş bir mod otomatik filtreleme sonrası sınırlı içeriği saklar. Sınırlı teşhis modu, onaylanmış içeriği kısa bir süre için isimli erişim ile yakalar. İş akışı, bireysel geliştiriciler değil, veri sınıflandırmasından mod seçmelidir.

Telemetri işlemden ayrılmadan önce test düzenleme. Arka taraf ayarları, zaten aktarılmış bir sırrı koruyamaz. Ayrıca elde edilen verileri kontrol edin: belge başlıkları, araç argümanları, yerleşimler, hata mesajları ve değerlendirici açıklamaları ana sorgu kaldırıldığında bile hassas içeriği ortaya çıkarabilir.

Mevcutluk kontrol listesini

[ ] Her üretim çalışması sabit iş akışı ve sürüm tanımlayıcıları vardır.
[ ] Model, geri alma, araç, durum, onay ve eser adımları birbirine bağlıdır.
[ ] Duygusal içeriği yakalama belgelenmiş bir sınıflandırma kuralı uyarınca yapılır.
[ ] Kabul edilen, düzeltilen, reddedilen ve terk edilen sonuçlar izlere katılır.
[ ] Değerlendirmeler görev sözleşmesini yansıtır ve versiyonlandırılır.
[ ] Başarısız üretim çalışmalar gerileme veri kümelerine teşvik edilebilir.
[ ] Alarmların sahibi ve belirlenmiş bir ilk tepkisi vardır.
[ ] Kaydetme, erişim, ihracat ve silme test edildi.
[ ] Maliyet sadece model tokenleri değil, telemetri depolama ve değerlendirmeyi de içerir.
[ ] Bir alan inceleyicisi mühendislik yardımı olmadan bir sonucu yeniden yapılandırabilir.

Daha geniş bir tehdit modeli için, AI ajanı güvenlik kontrol listesini Bileşen sınırları ve orkestrasyon sözleşmeleri için, AI ajan mimarisi rehberi

FAQ

AI ajanı izleme ve gözlemlenebilirlik arasındaki fark nedir?

İzleme raporları, başarısızlıklar, gecikme ve maliyet gibi bilinen sinyalleri rapor eder. Gözlem, tahmin etmediğiniz davranışları araştırmak için yeterli bağlantılı kanıtlar verir, araç seçimleri, tekrar denemeler, bağlam, değerlendirmeler ve insan düzeltmeleri de dahil.

Her uyarıyı ve cevabını kaydetmeli miyiz?

• Hayır, hayır. Operasyonel ve denetim amacıyla gerekli olan en az veriyi saklayın. Mümkün olduğunda metadata ve hashleri tercih edin, sırları düzenleyin, görev sınıflandırması ile içerik yakalamasını sınırlayın ve bir saklama süresi belirleyin.

Yeni bir takım hangi metrikten başlamalı?

Sınırlı bir iş akışı için kabul edilen tamamlama oranı ve düzeltme süresi ile başlayın. Bu sonucu etrafında maliyet, gecikme ve başarısızlık mod ölçümlerini ekleyin.

Gözlemsellik çevrimdışı değerlendirmeyi değiştirir mi?

• Hayır, hayır. Dışarıdan değerlendirme testleri serbest bırakılmadan önce bilinen vakalar. Üretim gözlemliliği, gerçek girişlerin, araçların ve kullanıcıların serbest bırakılmasından sonra nasıl davrandığını gösterir. Güvenilir ekipler her ikisini de kullanıyor.

Ne kadar üretim trafiği örneklenmeli?

Evrensel bir yüzdesi yoktur. Düşük riskli metadataları geniş çapta yakalayın, ardından, miktar, risk, maliyet ve hata sıklığına göre içerik ve değerlendirme örneklemesini seçin. Onaylanmış politikalar altında onaylanmış olayları her zaman tutun.

İzleri ne kadar süre saklamalıyız?

Bu işlemlerin, hata işleminin, değerlendirme, denetim veya sözleşme amacı gerekirse, sadece bu işlemlerin devam etmesi gerekir. Çiğ içeriği için daha kısa süre, toplu metrikler için daha uzun süre ve onaylanmış olaylar için belgelenmiş tutumlar kullanın.

Kim ajan izlerini incelemesi gerekiyor?

Mühendisler yürütme ve entegrasyon hatalarını incelemektedir; alan sahipleri görev kalitesini incelemektedir; güvenlik ve gizlilik ekipleri ilgili olayları incelemektedir. Rol tabanlı erişim, hassas içeriğin geniş taramasını engellemelidir.

Gözlemsellik kendi başına uyarıları iyileştirebilir mi?

Bu kanıtlar sağlar, otomatik bir düzeltme değil. Değişimi önermek için başarısızlık kümelerini kullanın, versiyonlu durumlarda test edin ve kazançların başka yerlerde gerileme yaratmadığını doğrulayın.

İlk yapılacak tablo ne?

Bir iş akışı için uygun çalışmalar, kabul edilen tamamlama, reddedilme nedenleri, düzeltme süresi, gecikme, maliyet, yükseliş ve mevcut iş akışı sürümü göster. Her bir toplamı kontrol edilebilir yollara bağlayın.

Kullanıcıların geri bildirimleri kaliteyi ölçmek için yeterli mi?

• Hayır, hayır. Yorumlar değerlidir ama eksik ve kendi kendine seçilir. Görev onaylamaları, temsilci örnekleme, alan inceleme ve gözlemlenen sonuçlarla birleştirin.

Başarısız koşular her zaman devam mı etmeli?

Araştırma ve politikalara uymak için gerekli kanıtları saklamak, ancak yine de veri azaltma, erişim ve saklama kurallarını uygulamak. Bu hata, hassas içeriğin belirsiz bir süre için saklanmasını otomatik olarak haklı çıkarmaz.

Ottermind ile sınırları belirlenmiş, kaynaklarla desteklenen bir iş akışı çalıştırın; ortaya çıkan çıktıyı inceleyin ve ilk değerlendirme kümenizi oluşturacak düzeltmeleri kaydedin.