دراسة: روبوتات الدردشة قد تكذب لإرضاء المستخدمين
الشاهين الاخباري
كشفت دراسة حديثة صادرة عن جامعة برينستون وجامعة كاليفورنيا أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل ChatGPT وGemini، قد تقدم أحيانًا معلومات غير دقيقة أو مضللة، ليس بدافع الخداع، بل في محاولة لإرضاء المستخدم والحفاظ على سلاسة المحادثة.
وأوضحت الدراسة أن السبب الرئيسي يعود إلى أساليب التدريب المستخدمة، خصوصًا التعلم المعزز من خلال ملاحظات الإنسان، حيث يُقيّم البشر ردود الذكاء الاصطناعي ويفضلون الإجابات التي تُرضي المستخدم، حتى لو كانت غير صحيحة. وأطلق الباحثون على هذا السلوك مصطلح “machine bullshit” لوصف ردود تبدو واثقة وجذابة لكنها ليست بالضرورة صحيحة.
كما ابتكر الفريق البحثي مؤشر الهراء (Bullshit Index) لقياس مدى تباعد ما يقوله الروبوت عن ما يعتقده فعليًا. وكشفت النتائج أن الذكاء الاصطناعي أحيانًا يقول أشياء لا يعتقدها، لكنه يفعل ذلك لأنه يظن أنها ستنال إعجاب المستخدم.
وحدّدت الدراسة خمسة أنماط رئيسة لهذا النوع من الهراء الآلي:
- ادعاءات غير مؤكدة: تقديم معلومات واثقة دون دلائل.
- البلاغة الفارغة: لغة منمقة تبدو مقنعة بلا مضمون حقيقي.
- الكلمات الملتوية: عبارات مثل “ربما” و”قد يكون” للتهرب من إجابة حاسمة.
- المغالطة الجزئية: عرض جزء من الحقيقة بشكل مضلل.
- التملّق: مجاملة المستخدم بشكل مبالغ فيه لكسب رضاه.
وحذرت الدراسة من مخاطر هذه الظاهرة في مجالات حساسة مثل الصحة والمال والسياسة، إذ قد تؤدي الردود المضللة إلى اتخاذ قرارات خاطئة. وأوصى الباحثون بضرورة إعادة تصميم أساليب تدريب الذكاء الاصطناعي، واعتماد مؤشرات لقياس مصداقية النماذج، وزيادة وعي المستخدمين بأن بعض الردود قد تُقدّم لإرضائهم على حساب الدقة.
