Conviro, tek mühendisi olarak tasarladığım, geliştirdiğim ve işletmekte olduğum yapay zeka tabanlı müşteri destek platformudur. Bu platform, web sohbeti, WhatsApp ve Instagram’ı ortak bir destek iş akışına entegre eder; ayrıca bir bilgi bankası, yapay zeka desteği ve bir destek temsilcisine devretme özelliğini de içerir.
Sorumluluk alanım, arka uç, entegrasyonlar, dağıtım ve sürüm yayınlandıktan sonra müşterilerin karşılaştığı durumları kapsamaktadır. Bu durum, sistemi değerlendirme şeklimi şekillendirmiştir: ikna edici bir cevap, başarılı bir destek etkileşiminin yalnızca bir parçasıdır.
Bir sohbet, birçok sınırı aşar
Gelen bir mesaj, bir kiracıya ve bir kanala aittir. Bu mesajın güvenilir bir şekilde kabul edilmesi, doğru sohbete eşleştirilmesi ve söz konusu kiracının izinleri ile kullanım politikası kapsamında işlenmesi gerekir.
Yapay zeka devreye girerse, istek sırasıyla veri alma, modele yönlendirme, yanıt doğrulama ve iletim aşamalarından geçer. Bu aşamalardan herhangi biri bağımsız olarak başarısız olabilir. Gelen kutusu sorunsuz çalışırken bir sağlayıcı erişilemez durumda olabilir. Modelin kendisi başarılı bir şekilde yanıt verirken kaynak alakasız olabilir.
Bu nedenle, mimaride bu durumları görünür tutuyorum. Alınan bir mesaj, oluşturulan bir yanıt ve iletilen bir yanıt ayrı olgulardır. Bunları tek bir durum olarak ele almak, kesintiye uğramış bir sohbeti geri getirmek için gerekli bilgileri gizler.
Cevabın kalitesi, özenle seçilmiş kelimelerden daha fazla etkilenir
Conviro, yoğun arama ile tam metin sinyallerini ve yeniden sıralamayı birleştiren hibrit arama için PostgreSQL ve pgvector kullanmaktadır. Bunun amacı, gerçek destek görüşmelerinde ortaya çıkan ifade ve dil farklılıklarının ötesinde yararlı kanıtları bulmaktır.
Ayrıca, bağlantılar, fiyatlar, ürün tanımlayıcıları ve garanti koşulları gibi somut iddialar için bir içerik oluşturma sonrası doğrulama aracı geliştirdim. Bu doğrulama aracı, iddiaları elde edilen içerikle karşılaştırarak kontrol eder ve desteklenmeyen ticari bilgilerin müşteriyi yanıltabileceği durumlarda daha katı bir yaklaşım uygular.
Bu kontrollerinin bazı sınırları vardır. Bir doğrulayıcı, anlamsal bir hatayı gözden kaçırabilir ve güncel olmayan bir kaynak, tutarlı bir şekilde yeniden üretilebilir. Doğrulamanın yanı sıra değerlendirme senaryoları ve kaynak yönetimini de kullanıyorum; hiçbir bileşen tek başına her cevabın doğru olduğunu kanıtlayamaz.
Hizmet sağlayıcıların esnekliği için tutarlı bir politika gereklidir
LLM katmanı, paylaşılan bir adaptör sözleşmesi aracılığıyla birden fazla sağlayıcıyı destekler. Yönlendirme işlemi, görevi, kalite modunu ve yapılandırılmış veri bölgesini dikkate alır; ayrıca sağlayıcı arızaları durumunda yedekleme davranışı ve devre kesiciler devreye girer.
Değişiklik yapılmasını gerektirecek kadar önemli olan somut bir sınır vardı: Dahili asistanın kendi devre kesicisi eklendi; böylece bu sistemdeki arızalar, müşteri sohbetini gereksiz yere kesintiye uğratmayacaktı. İşte bu tür ayrıntılar, sistem tek bir talep olarak gösterilmek yerine bir ürün olarak işletildiğinde ortaya çıkar.
Kullanım hesaplaması ve kiracı bütçeleri, yönlendirme ile birlikte ele alınır. Bir yedek çözüm, müşterinin politikasını ve harcama kısıtlamalarını korumalıdır. Güvenilirlik, bu sınırları göz ardı ederek sağlayıcılara sürekli olarak çağrı yapmaya devam etmek anlamına gelmez.
Araç kullanımı, yetkilendirmeyi yapay zeka yolunun bir parçası haline getirir
Destek yardımcı pilotu, bir dönüşü yapılandırılmış bir seçim olarak planlar: bir araç kullanmak, yanıt vermek, açıklama istemek veya reddetmek. Araçlar, izin ve risk bilgilerini içerir ve işlem, kullanıcının rolüne göre sunucu üzerinde yetkilendirilir.
İlk yürütme kapsamı salt okunurdur. Araç sonuçları modele ulaşmadan önce sansürlenir; ayrıca her tur için sınırlı bir bütçe ve denetim izi bulunur. Bu sınırlamalar, planlayıcı uygun olmayan bir eylem önerdiğinde bile uygulamanın kontrolü elinde tutmasını sağlar.
Asenkron işleme, işlem tabanlı gönderim kuyruğu kayıtları, aracı sunucu yeniden teslimatı, idempotent tüketiciler ve hatalı mesaj yönetimi, teslimat yaşam döngüsünün farklı aşamalarını ele alır. Bir iş işleminin güvenli bir şekilde tekrarlanabilmesini sağlamak için yalnızca bir kuyruğa güvenmem.
Kod yazıldıktan sonra da sahiplik devam eder
Platformu tek başına kurmak bile operasyonel şeffaflığı son derece değerli kılıyor. Bir arıza meydana geldiğinde, hangi kiracının ve isteğin etkilendiğini, hangi aşamada hata oluştuğunu, herhangi bir harici işlemin tamamlanıp tamamlanmadığını ve hangi kurtarma işleminin güvenli olduğunu belirlemem gerekiyor.
Üretim yönlendiricisi ve doğrulama süreci aracılığıyla değerlendirme yapıyorum, regresyon testlerini yürütüyorum ve dağıtım ile geri alma işlemlerini mühendislik çalışmalarının bir parçası olarak sürdürüyorum. Uygulama, model davranışları ile genel yazılım sınırlarının bir birleşimidir; her ikisi de özen gerektirir.
Ürünle ilgili daha fazla bilgiye şu adresten ulaşabilirsiniz: useconviro.com. Üzerinde çalışmaya devam ettiğim mühendislik sorunları pratik nitelikte: belirsizliği nasıl ortaya çıkarabiliriz, nasıl yararlı bir özerklik sağlayabiliriz ve bir bağımlılık ya da varsayım başarısız olduğunda nasıl güvenli bir şekilde toparlanabiliriz.
25 Eylül 2026 tarihinde güncellenmiştir.