Conviro Bu, tek mühendisi olarak tasarladığım, geliştirdiğim ve işlettiğim yapay zeka tabanlı müşteri destek platformudur. Platform, web sohbeti, WhatsApp ve Instagram’ı ortak bir destek iş akışına entegre eder; ayrıca bir bilgi bankası, yapay zeka desteği ve bir müşteri temsilcisine devretme özelliği sunar.
Sorumluluk alanım, arka uç, entegrasyonlar, dağıtım ve sürüm yayınlandıktan sonra müşterilerin karşılaştığı durumları kapsamaktadır. Bu durum, sistemi değerlendirme şeklimi şekillendirmiştir: ikna edici bir cevap, başarılı bir destek etkileşiminin yalnızca bir parçasıdır.
Bir sohbet, birçok sınırı aşar
Gelen bir mesaj, bir kiracıya ve bir kanala aittir. Bu mesajın güvenilir bir şekilde kabul edilmesi, doğru sohbete ilişkilendirilmesi ve söz konusu kiracının izinleri ile kullanım politikası çerçevesinde işlenmesi gerekir.
Yapay zeka devreye girerse, istek veri alma, model yönlendirme, yanıt doğrulama ve teslimat aşamalarından geçer. Bu aşamalardan herhangi biri bağımsız olarak başarısız olabilir. Gelen kutusu sorunsuz çalışırken bir sağlayıcı erişilemez durumda olabilir. Modelin kendisi başarılı bir şekilde yanıt verirken kaynak alakasız olabilir.
Bu nedenle, mimaride bu durumları görünür halde tutuyorum. Alınan bir mesaj, oluşturulan bir yanıt ve iletilen bir yanıt ayrı olgulardır. Bunları tek bir durum olarak ele almak, kesintiye uğramış bir sohbeti geri yüklemek için gerekli bilgileri gizlemeye yol açar.
Cevabın kalitesi, özenle seçilmiş kelimelerden daha fazla etkilenir
Conviro Hibrit arama için PostgreSQL ve pgvector kullanır; yoğun aramayı tam metin sinyalleriyle ve yeniden sıralama ile birleştirir. Amaç, gerçek destek görüşmelerinde ortaya çıkan ifade ve dil farklılıklarının ötesinde yararlı kanıtları bulmaktır.
Ayrıca, bağlantılar, fiyatlar, ürün tanımlayıcıları ve garanti koşulları gibi somut iddialar için bir son aşama doğrulama aracı geliştirdim. Bu doğrulama aracı, iddiaları elde edilen verilerle karşılaştırarak kontrol eder ve desteklenmeyen ticari bilgilerin müşteriyi yanıltabileceği durumlarda daha katı bir yaklaşım uygular.
Bu kontrollerın sınırları vardır. Bir doğrulayıcı, anlamsal bir hatayı gözden kaçırabilir ve güncel olmayan bir kaynak, tutarlı bir şekilde yeniden üretilebilir. Doğrulamanın yanı sıra değerlendirme senaryoları ve kaynak yönetimini de kullanıyorum; hiçbir bileşen tek başına her cevabın doğru olduğunu kanıtlayamaz.
Hizmet sağlayıcıların esnekliği için tutarlı bir politika gereklidir
LLM katmanı, paylaşılan bir adaptör sözleşmesi aracılığıyla birden fazla tedarikçiyi destekler. Yönlendirme işlemi, görevi, kalite modunu ve yapılandırılmış veri bölgesini dikkate alır; ayrıca, tedarikçi arızalarına karşı yedekleme davranışı ve devre kesiciler de içerir.
Değiştirilmeye değer tek bir somut sınır vardı: Dahili asistanın, arızaları nedeniyle müşteri sohbetinin gereksiz yere kesintiye uğramaması için kendine ait bir devre kesici tahsis edildi. İşte bu tür ayrıntılar, sistem tek bir talep olarak gösterilmek yerine bir ürün olarak işletildiğinde ortaya çıkar.
Kullanım hesaplaması ve kiracı bütçeleri, yönlendirme ile birlikte değerlendirilir. Yedek bir çözüm, müşterinin politikasını ve harcama kısıtlamalarını korumalıdır. Güvenilirlik, bu sınırları dikkate almadan sağlayıcılara çağrı yapmaya devam etmek anlamına gelmez.
Araç kullanımı, yetkilendirmeyi yapay zeka sürecinin bir parçası haline getirir
Destek yardımcı pilotu, bir dönüşü yapılandırılmış bir seçim olarak planlar: bir araç kullanmak, yanıt vermek, açıklama istemek veya reddetmek. Araçlar, izin ve risk bilgilerini içerir; yürütme işlemi ise kullanıcının rolüne göre sunucu tarafında yetkilendirilir.
İlk yürütme kapsamı salt okunurdur. Araç sonuçları, modele ulaşmadan önce sansürlenir; ayrıca bu tur, sınırlı bir bütçeye ve denetim izine sahiptir. Bu sınırlamalar, planlayıcı uygun olmayan bir eylem önerdiğinde bile uygulamanın kontrolü elinde tutmasını sağlar.
Asenkron işlemler, işlem tabanlı gönderim kuyruğu kayıtları, aracı yeniden teslimatı, idempotent tüketiciler ve hatalı mesajların işlenmesi, teslimat yaşam döngüsünün farklı aşamalarını ele alır. Bir iş işleminin güvenli bir şekilde tekrarlanabilmesi için yalnızca bir kuyruğa güvenmem.
Kod yazıldıktan sonra da sahiplik devam eder
Platformu tek başına kurmak bile operasyonel netliği özellikle değerli kılıyor. Bir arıza meydana geldiğinde, hangi kiracının ve isteğin etkilendiğini, hangi aşamada hata oluştuğunu, herhangi bir harici işlemin tamamlanıp tamamlanmadığını ve hangi kurtarma işleminin güvenli olduğunu belirlemem gerekiyor.
Üretim yönlendiricisi ve doğrulama süreci aracılığıyla değerlendirme yapıyorum, regresyon testlerini sürdürüyorum ve dağıtım ile geri alma davranışlarını mühendislik çalışmalarının bir parçası olarak tutuyorum. Uygulama, model davranışları ile sıradan yazılım sınırlarının bir birleşimidir; her ikisi de özen gerektirir.
Ürünle ilgili daha fazla bilgiye useconviro.com adresinden ulaşabilirsiniz. Üzerinde çalışmaya devam ettiğim mühendislik soruları pratik niteliktedir: belirsizliği nasıl ortaya çıkarabiliriz, nasıl yararlı bir özerklik sağlayabiliriz ve bir bağımlılık ya da varsayım başarısız olduğunda nasıl güvenli bir şekilde toparlanabiliriz?
25 Eylül 2026 tarihinde güncellenmiştir.