Birkaç model sağlayıcısını desteklemek, bir adaptör sorunu gibi görünüyor: isteği standart hale getirin, bir API’yi çağırın ve yanıtı standart hale getirin. Bu gerekli bir adımdır, ancak zorlu ürün kararlarına bir çözüm getirmiyor.
Bu kiracı için hangi sağlayıcı izin veriliyor? Gerekli çıktı sözleşmesini destekliyor mu? İstek, yapılandırılmış veri sınırını aşabilir mi? İlk yanıt akışa başladıktan sonra hata verirse ne olmalı?
Modeli seçmeden önce işi tanımlayın
Yönlendirmenin görevle birlikte başlamasını istiyorum. Bir veri alma yeniden yazımı, müşteriye yönelik bir yanıt ve bir araç kullanılarak gerçekleştirilen bir planlama adımı, kalite, gecikme süresi, bağlam boyutu ve çıktı yapısı açısından farklı gereksinimlere sahiptir.
Talepte bu şartlar, kiracı politikası ve bütçe ile birlikte açıkça belirtilmelidir. Model seçimi aşamasında, uygun olmayan adaylar elenebilir ve ardından kalan seçenekler karşılaştırılabilir.
Uygulamanın çeşitli yerlerine dağılmış sağlayıcı adı koşullu ifadeler yerine yetenek denetimlerini tercih ederim. Bir yetenek kaydı, araç desteği, yapılandırılmış çıktı, akış davranışı, bağlam sınırları ve o yapılandırma için doğrulanmış dağıtım bölgesini tanımlayabilir.
Paylaşılan sözleşmeyi dürüst tutun
Genel bir adaptör, uygulamanın gerçekte neye ihtiyaç duyduğunu belirlemelidir. Her sağlayıcının her özelliği aynı şekilde uyguladığını varsaymamalıdır.
Örneğin, akış sırasında araç çağrıları aşamalı olarak gelebilir. Kullanım hesaplamaları, metinden farklı bir aşamada gelebilir. Bir sağlayıcı, başka bir sağlayıcının kabul ettiği bir şemayı reddedebilir. Adaptörün, bu farklılıklar için tanımlanmış bir davranışa ve gerçek veri aktarım formatını test eden denemelere ihtiyacı vardır.
Bir işlev kullanılamadığında, ya açık bir hata mesajını ya da açıkça onaylanmış bir alternatif yolu tercih ederim. Gerekli bir kısıtlamayı sessizce ortadan kaldırmak, görev sözleşmesini ihlal ederken dıştan bakıldığında başarılı gibi görünen bir sonuç ortaya çıkarır.
Yedek plan, hak kazanma koşullarını korumalıdır
Bir yedekleme zinciri, yalnızca mevcut istek için izin verilen sağlayıcıları içermelidir. Kullanılabilirlik, kiracı kısıtlamasını, bölge gerekliliğini veya harcama sınırını geçersiz kılmaz.
Hata türlerini birbirinden ayırırım. Geçici bir hizmet hatası, başka bir sağlayıcıya geçmeyi haklı kılabilir. Geçersiz kimlik bilgileri, yapılandırmanın düzeltilmesini gerektirir. Geçersiz bir istek, her yerde aynı şekilde hata verebilir. Bir reddetme durumu da, otomatik olarak bir aktarım hatası olarak değerlendirilmek yerine, uygulamanın kurallarına göre yorumlanmalıdır.
Her ek deneme zaman alır ve maliyete yol açabilir. Yönlendiricinin, servis sağlayıcısını her değiştirdiğinde yeni bir kota yerine, tek bir toplam süre sınırı ve tek bir deneme kotasına ihtiyacı vardır.
“Kısmi çıktı”nın ne anlama geldiğine karar verin
Kullanıcıya herhangi bir çıktı ulaşmamışsa, başka bir sağlayıcıyı denemek nispeten kolay olabilir. Cevabın bir kısmı görüntülendikten sonra, ikinci bir modelin yeni cevabını eklemek kafa karıştırıcı veya çelişkili bir mesaj ortaya çıkarabilir.
Ya seçilen yayınlanma noktasına kadar oluşturma işlemini tamponlayarak tutardım ya da açıkça bir hata yanıtı durumu gösterip yeniden başlatma seçeneği sunardım. Doğru seçim ürüne göre değişir, ancak bu karar bilinçli bir şekilde alınmalıdır.
Araç yürütme, başka bir sınır daha getirir. Bir modelin yeniden denemesi, sırf bir sonraki planlama adımı başarısız oldu diye, tamamlanmış bir harici eylemi tekrarlamamalıdır. İşlem defteri, sağlayıcı adaptörünün dışında yer alır.
Hizmet kalitesindeki düşüşler de dahil olmak üzere yönlendirme kararlarını değerlendirin
Yönlendirme izlemem, görev türü, uygun adaylar, seçilen sağlayıcı, yedekleme nedeni, politika sürümü, gecikme süresi ve hesaplanan kullanımı içermektedir. Hassas komut metni içeriğinin her metrikte tekrarlanmasına gerek yoktur.
Ayrıca, bağımlılıkların durumunu arızanın kapsamına göre de ayırırım. Yanlış yapılandırılmış bir dahili yardımcı, aksi takdirde sorunsuz çalışan bir müşteri sohbet yolunun devresini mutlaka kesmemelidir. Doğru devre kesici sınırı, hangi kimlik bilgileri, modeller ve dağıtımların arıza koşullarını paylaştığına bağlıdır.
Çoklu sağlayıcı tasarımı, değişen koşullar altında ürünün vaatlerini yerine getirebildiği durumlarda faydalıdır. Mühendislik çalışması, acil durum yolu da dahil olmak üzere her yolun kontrol edilebilmesi için bu vaatleri yeterince açık bir şekilde ortaya koymaktır.
25 Eylül 2026 tarihinde güncellenmiştir.