سألت نموذج ذكاء اصطناعي عن مرجع لبحثك فأعطاك عنوان دراسة واسم مؤلف وسنة نشر ورقم صفحة، وكل شيء يبدو منطقيًا تمامًا، ثم بحثت عن الدراسة فاكتشفت أنها غير موجودة أصلًا. هذه الظاهرة تسمى هلوسة الذكاء الاصطناعي (AI Hallucinations)، وهي من أكثر نقاط الضعف إثارة للقلق في النماذج اللغوية، لأن الخطأ لا يأتي بصيغة مترددة يسهل الشك فيها، بل بالثقة والفصاحة نفسيهما اللتين تأتي بهما الإجابات الصحيحة. وقد وصلت تبعاتها إلى المحاكم، حين قدم محامون في أكثر من دولة مذكرات تستشهد بقضايا اختلقها الذكاء الاصطناعي. فلماذا تحدث الهلوسة؟ وهل يمكن التخلص منها؟ وكيف تكتشفها قبل أن تقع فيها؟
وهناك سبب آخر أشارت إليه أبحاث حديثة، وهو أن طرق تدريب النماذج وتقييمها كانت تكافئ الإجابة الواثقة أكثر من الاعتراف بعدم المعرفة، تمامًا كطالب في امتحان اختيار من متعدد يعرف أن التخمين أفضل من ترك السؤال فارغًا. فإذا لم يتعلم النموذج أن "لا أعرف" إجابة مقبولة، سيميل إلى التخمين.


هلوسة الذكاء الاصطناعي تذكرنا بأن هذه الأدوات قوية لكنها ليست مصدرًا للحقيقة بحد ذاتها، وأن التفكير النقدي أصبح أهم لا أقل في زمنها، وهي من القضايا التي ستحدد مستقبل الذكاء الاصطناعي في المجالات الحساسة. ما أغرب هلوسة واجهتها مع أداة ذكاء اصطناعي؟ وكيف اكتشفتها؟ شاركنا في الردود.
لماذا تختلق النماذج معلومات خاطئة؟
لفهم هلوسة الذكاء الاصطناعي يجب أن نفهم ما يفعله النموذج اللغوي فعلًا. هو لا يبحث في قاعدة بيانات من الحقائق المؤكدة، بل يتنبأ بالكلمة التالية الأكثر احتمالًا بناءً على الأنماط التي تعلمها من كميات هائلة من النصوص. حين يكون السؤال عن معلومة شائعة ومتكررة في بيانات التدريب، يكون النمط قويًا والإجابة صحيحة غالبًا. أما حين يكون السؤال عن تفصيل نادر، أو اسم شخص غير مشهور، أو رقم محدد، فقد يملأ النموذج الفراغ بما "يبدو" صحيحًا في سياقه، لأنه تعلم شكل المراجع العلمية وصيغتها، فيولد مرجعًا بالشكل الصحيح لكن بمحتوى مختلق.وهناك سبب آخر أشارت إليه أبحاث حديثة، وهو أن طرق تدريب النماذج وتقييمها كانت تكافئ الإجابة الواثقة أكثر من الاعتراف بعدم المعرفة، تمامًا كطالب في امتحان اختيار من متعدد يعرف أن التخمين أفضل من ترك السؤال فارغًا. فإذا لم يتعلم النموذج أن "لا أعرف" إجابة مقبولة، سيميل إلى التخمين.

أنواع هلوسة الذكاء الاصطناعي
أشهر الأنواع هو اختلاق الحقائق: مراجع غير موجودة، وإحصائيات مخترعة، واقتباسات منسوبة لأشخاص لم يقولوها، وأحداث تاريخية بتفاصيل خاطئة. والنوع الثاني هو الهلوسة عند تلخيص نص معين، حين يضيف النموذج إلى الملخص معلومة غير موجودة في النص الأصلي أو يحرف نتيجة وردت فيه. والثالث يظهر في البرمجة، حين يقترح النموذج دالة أو مكتبة برمجية غير موجودة، وهذا خطر أمني حقيقي لأن جهات خبيثة بدأت تسجل حزمًا برمجية بالأسماء التي تختلقها النماذج كثيرًا، فيثبتها المطور دون انتباه. والرابع هو الاستدلال الخاطئ، حين تكون المعلومات صحيحة لكن الاستنتاج منها خاطئ.هل تحسنت النماذج؟
نعم، وبشكل ملحوظ. النماذج الحديثة أفضل في الاعتراف بعدم المعرفة، وكثير منها أصبح يبحث في الويب ويعرض مصادره، وتقنيات مثل الاسترجاع من المستندات تربط الإجابات بنصوص حقيقية. لكن هلوسة الذكاء الاصطناعي لم تختفِ، والسبب أنها ليست خللًا برمجيًا يمكن إصلاحه بتحديث، بل نتيجة طبيعية لطريقة عمل النماذج الاحتمالية. والمفارقة أن تحسن النماذج قد يزيد الخطر من جهة، لأن المستخدم الذي اعتاد على صحة الإجابات يقل حذره تدريجيًا.كيف تكتشف هلوسة الذكاء الاصطناعي؟
القاعدة الأولى: كن أكثر حذرًا كلما كانت المعلومة أكثر تحديدًا. الأرقام الدقيقة، والتواريخ، والأسماء، والاقتباسات، والمراجع، والنصوص القانونية هي المناطق الأكثر عرضة للهلوسة، فتحقق منها دائمًا من مصدر أصلي. القاعدة الثانية: اطلب المصادر وافتحها بنفسك، فالرابط الذي يقدمه النموذج قد يكون غير موجود أو لا يقول ما نُسب إليه. القاعدة الثالثة: أعد صياغة السؤال أو اسأله في محادثة جديدة، فإذا تغيرت الإجابة الجوهرية فهذا مؤشر على أن النموذج يخمن. القاعدة الرابعة: اسأله صراحة عن مدى ثقته، واطلب منه أن يميز بين ما يعرفه يقينًا وما يستنتجه.
كيف تقلل الهلوسة في استخدامك؟
أعطِ النموذج المصدر بدل أن تطلب منه التذكر؛ فبدل "ما نتائج الدراسة الفلانية؟" ارفع الدراسة نفسها واطلب الإجابة منها فقط مع ذكر الصفحة. واكتب في تعليماتك بوضوح: "إذا لم تكن متأكدًا فقل لا أعرف". واستخدم الأدوات التي تبحث في الويب وتعرض مصادرها في الأسئلة المتعلقة بالأحداث الحديثة. وفي المجالات عالية المخاطر، كالطب والقانون والمال، تعامل مع إجابة الذكاء الاصطناعي كمسودة من زميل مجتهد قد يخطئ، لا كفتوى نهائية.هلوسة الذكاء الاصطناعي تذكرنا بأن هذه الأدوات قوية لكنها ليست مصدرًا للحقيقة بحد ذاتها، وأن التفكير النقدي أصبح أهم لا أقل في زمنها، وهي من القضايا التي ستحدد مستقبل الذكاء الاصطناعي في المجالات الحساسة. ما أغرب هلوسة واجهتها مع أداة ذكاء اصطناعي؟ وكيف اكتشفتها؟ شاركنا في الردود.