Gildix Reply

Yapay zekâ müşteri cevabında politika uyduruyor: nasıl engellenir

Dil modeli, mağaza politikanızda olmayan bir konuda sessiz kalmak yerine sektör standardını uyduruyor. Kırık üründe "iade kargosunu siz ödeyin" demesi, sizin politikanız olmadığı hâlde müşteriye taahhüt oluyor.

Sorunun kaynağı

Model, cevapsız bırakmak yerine makul görünen bir cevap üretmeye eğilimli. Politikada karşılığı olmayan bir soruda bu, uydurma bir kural olarak çıkıyor. Test edilmeden fark edilmiyor çünkü cümle gayet düzgün görünüyor.

Çalışan çözüm: sessizlik de cevaptır

Modele açıkça söylenmesi gereken kural şu: politika o konuda sessizse cevap üretme, eksik yeri satıcıya bırak. Uygulamada bu, cevabın içinde köşeli parantezle işaretlenmiş bir boşluk oluyor ve satıcı doldurmadan gitmiyor.

En güvenilir katman çıktıyı denetlemek

Modelin kanmadığına güvenmek yetmiyor. Üretilen metinde politikada geçmeyen bir para tutarı ya da yüzde varsa o cevap otomatik gönderilmemeli. Bu kontrol modelin ne düşündüğüne değil ne yazdığına bakıyor, o yüzden en sağlamı.

Sık sorulanlar

Yapay zekâ yanlış cevap verirse sorumluluk kimde?

Satıcıda. Bu yüzden cevabın satıcı onayından geçmesi ve politikada olmayan bilgiyi uydurmaması gerekiyor.

Uydurmayı tamamen engellemek mümkün mü?

Tek katmanla değil. Politika dışına çıkmama kuralı, şüpheli soruyu onaya düşürme ve çıktıda politikada olmayan tutar/oran denetimi birlikte çalışmalı.

Bunlar da işinize yarayabilir

Soruları sizin yerinize kim takip ediyor

Gildix Reply pazaryeri mağazanıza gelen soruları sunucuda 7/24 izliyor ve her cevabı sizin yazdığınız mağaza politikasından hazırlıyor. Bilgisayarınız kapalıyken de çalışıyor, ve siz onaylayana kadar hiçbir şey gönderilmiyor. İlk 50 cevap ücretsiz, abonelik yok.

Gildix Reply'ı incele