كيف تمنع روبوت الدعم الذي يعمل بالذكاء الاصطناعي من اختلاق الإجابات؟

النموذج اللغوي يكتب الكلمات الأكثر احتمالاً بعد ما سبقها. اسأله عن سياسة الإرجاع عندك وهو لم يرَ سياستك قط، وسيكتب لك سياسة تبدو معقولة، وغالباً سخية.

لذلك فإن معظم حالات الاختلاق في الدعم ليست لغزاً. سُئل الروبوت عن شيء لا يملك عنه حقائق، ولم يطلب منه أحد أن يتوقف. الروبوت العام بتعليمات ودودة ودون وصول إلى مستنداتك مهيأ للفشل بهذه الطريقة تماماً.

ليس فيها ما هو غريب. لكنها معاً تحوّل روبوتاً يرتجل إلى روبوت يبحث عن المعلومة ويعرف متى يتوقف.

اجمع بضع مئات من الأسئلة الحقيقية من بريدك أو سجل محادثاتك، بما فيها المحرجة: عملاء غاضبون، ورسائل نصفها إنجليزي ونصفها عربي، وأسئلة عن منتجات توقفت عن بيعها. واكتب شكل الإجابة الجيدة لكل منها.

شغّل الوكيل على هذه المجموعة قبل الإطلاق، وأعد التشغيل بعد كل تغيير في محتواه أو قواعده. خطوة مملة، لكنها تلتقط معظم الإجابات المحرجة قبل أن يراها عميل.

سيخطئ من حين إلى آخر. تعامل مع كل إجابة خاطئة كأنها بلاغ عن خلل في محتواك: اعرف أي مستند كان ناقصاً أو غامضاً، وأصلحه، وأضف السؤال إلى مجموعة اختباراتك حتى لا يتكرر الخطأ.

ثم أخبر العميل بالإجابة الصحيحة. يسامح الناس خطأً صُحّح بسرعة أكثر بكثير مما يسامحون خطأً جرى الدفاع عنه.