Conviro için mühendislik-ajansı iş akışım etrafında bir iç Ajans Kontrol Odası kurdum. Bu, ajans durumu, etkinlik, çalıştırmalar, bulgular, hatalar, harcama görünürlüğü ve insan onayı sınırlarını bir araya getiriyor. Amacı, devam eden çalışmaları yeterince denetlenebilir hale getirmek ve hangi konuların dikkat gerektirdiğine karar verebilmektir.
Bir görevi tamamladığını bildiren bir ajan, faydalı bir girdi sağlar, ancak birkaç operasyonel soruyu açık bırakır. Hangi görevi yürüttü? Bilgi ne kadar güncel? Ne değiştirdi? Sonucu destekleyen kanıt nedir? Hala neyi bekliyor?
Tazelik, durumun bir parçasıdır.
Kontrol Odası, canlı bilgiyi bir anlık görüntüden ayırt eder. Bu fark, operasyonel bir arayüzde önemlidir çünkü eski veriler oldukça mantıklı görünebilir. Bir durum kartı, kaynağı güncellemeyi durdurmuş olsa bile bir ajanı çalışıyor olarak gösterebilir.
Bir izleyicinin durumu yorumlamadan önce kanıtın doğasını anlamasını istiyorum. Bir anlık görüntü bağlam için faydalı kalır, ancak düzenin güncel görünmesi nedeniyle canlı bir gözlem otoritesini kazanması gerekmemektedir.
Bu, boş paneller hakkında düşünme şeklimi de değiştiriyor. Hiçbir bulgu ve mevcut kaynak olmaması farklı durumlar. Operasyonel bir arayüz, her ikisi için de aynı rahatlatıcı boş durumu kullanmak yerine bu ayrımı korumalıdır.
Bir koşu, bir bulgu ve bir karar farklı nesnelerdir.
Bir ajan çalışması, bir yürütmeyi tanımlar. Bir bulgu, yürütmenin gözlemlediği veya önerdiği bir şeyi tanımlar. Bir insan kararı, eylem onay sınırını geçtiğinde ne olacağını belirler. Üçünü bir araya getirerek genel bir etkinlik mesajı oluşturmak, iş akışını incelemeyi zorlaştırır.
Kontrol Odası, bu kategorilerde operasyonel görünürlük sağlar. Bu, “Ajanlar meşgul mü?” sorusundan daha kesin bir soru sormama olanak tanır. Engellenmiş işleri, tekrarlanan hataları, dikkat gerektiren bulguları ve bir kişinin beklemesi gereken eylemleri arayabilirim.
Örneğin, bir ajan analizi başarıyla tamamlayabilirken otomatik olarak uygulanmaması gereken bir değişiklik önerebilir. Analizin tamamlanması, önerilen eylemin onayı anlamına gelmez. Arayüz, her iki gerçek için de yer sağlamalıdır.
Onay, somut bir eylem gerektirir.
İnsan onay sınırları tasarımın bir parçasıdır. Bunların arkasındaki mühendislik prensibi, bir kişinin yetkilendirdiği işlemi, hedefini ve ilgili kanıtları anlayabilmesi gerektiğidir.
Gözden geçirme sorularım, teklifin belirli olup olmadığı, temel bağlamın hala güncel olup olmadığı ve uygulamanın onaylı kapsam içinde kalıp kalmadığı gibi unsurları içeriyor. Bir ajanın “yardım etmeye izin verildiği” genel mesajı, önemli bir eylem için çok belirsizdir.
Görünür bir onay kontrolü, o sınırın yalnızca arayüz tarafıdır. Uygulama hala yürütme yolunda yer alır. Sistem, bir ajanı başka bir yol üzerinden bir eylemde bulunmaktan alıkoymak için yalnızca bir gösterge paneli düğmesine güvenmemelidir.
Harcamalar, faydalı bir operasyonel bağlamdır.
Harcamaların görünürlüğü Kontrol Odası’nın bir diğer parçasıydı. Bu, bir ajanın bir görevi tekrar etmesi veya sürekli bir hata ile karşılaşması durumunda etkinliği kaynak kullanımıyla bağlamaya yardımcı olur. Bir maliyet toplamı, onu üreten iş ile birlikte değerlendirilebildiğinde daha faydalıdır.
Daha yüksek aktiviteyi daha iyi bir çıktı kanıtı olarak görmüyorum. Tamamlanmış net bir görevi olan sessiz bir ajan, bulgularını çözmeden birçok çalışma üreten bir ajandan daha faydalı olabilir. Gösterge paneli, başarı puanına dönüşen yürütme hacmi yerine bu değerlendirmeyi desteklemelidir.
Aynı nedenle, hata sayımlarının bağlama ihtiyacı vardır. Anlaşılan ve dış bir bağımlılığı bekleyen bir hata, ilerleme kaydetmeden kaynak tüketmeye devam eden bir döngüden farklı bir yanıt gerektirir.
Mühendislik yargısı için operasyonel bir bakış açısı
Kontrol Odası, dahili bir operasyonel yüzeydir. Her mühendislik eyleminin otonom olduğunu veya her önerilen yeteneğin müşterilere sunulduğunu kanıt olarak sunmuyorum.
Değeri, durumu, kanıtları ve yükseltmeyi incelemeyi kolaylaştırmakta yatıyor. Bunu inşa etmek, beni ajan iş akışını daha belirgin hale getirmeye zorladı: ne çalıştı, ne öğrenildi, ne kadara mal oldu ve bir kişinin hala karar vermesi gereken yer neresi. Bu görünürlük, mühendislik yargısını işe bağlı tutarken sorumlu delegasyonu destekler.
26 Eylül 2026’da güncellendi.