ما سبب ازدياد هلوسات الذكاء الاصطناعي حسب الخبراء

ما سبب ازدياد هلوسات الذكاء الاصطناعي حسب الخبراء؟ 
شهدت السنوات الأخيرة تطوراً مذهلاً في مجال الذكاء الاصطناعي، حيث أصبحت النماذج اللغوية المتقدمة مثل GPT-4 وClaude وGemini قادرة على محاكاة التفكير البشري بدرجة عالية جداً. ومع ذلك، برزت ظاهرة مثيرة للجدل تُعرف باسم "هلوسات الذكاء الاصطناعي" (AI Hallucinations)، والتي تشير إلى حالات يُنتج فيها الذكاء الاصطناعي معلومات خاطئة أو غير موجودة بطريقة تبدو مقنعة. 

 أكد الخبراء أن هذه الظاهرة آخذة في الازدياد، ويرجع ذلك إلى عدة عوامل تقنية واجتماعية معقدة. في هذا التقرير، سنستعرض الأسباب الرئيسية وراء زيادة الهلوسات حسب تحليلات الخبراء، مع تفصيل كل نقطة بناءً على أحدث الدراسات والتقارير المتاحة.
1. زيادة تعقيد النماذج اللغوية
أحد الأسباب الرئيسية لازدياد الهلوسات هو التعقيد المتزايد لنماذج الذكاء الاصطناعي. فمع تطور الخوارزميات، أصبحت هذه النماذج تعتمد على طبقات أعمق من الشبكات العصبية، مما يجعلها أكثر قدرة على توليد نصوص تبدو طبيعية، لكنها في بعض الأحيان تبتعد عن الواقع. 
بحسب دراسة نشرتها "جامعة ستانفورد"  فإن النماذج التي تحتوي على تريليونات المعاملات (parameters) تكون أكثر عرضة للهلوسة لأنها تحاول ملء الفراغات في البيانات بناءً على أنماط إحصائية معقدة، دون فهم حقيقي للمحتوى. على سبيل المثال، قد يُنشئ الذكاء الاصطناعي إجابة تبدو منطقية حول حدث تاريخي غير موجود، لأن النموذج يعتمد على سياقات متشابهة في بيانات التدريب دون تمييز بين الحقيقي والمزيف.
2. نقص البيانات الموثوقة في التدريب
تعتمد نماذج

الذكاء الاصطناعي على كميات هائلة من البيانات للتعلم، لكن جودة هذه البيانات تختلف بشكل كبير. وفقاً لتقرير "معهد أبحاث الذكاء الاصطناعي" (AIRI) في أبريل 2025، فإن بعض مجموعات البيانات المستخدمة في تدريب النماذج تحتوي على معلومات غير دقيقة أو مضللة، خاصة تلك المأخوذة من وسائل التواصل الاجتماعي أو المواقع غير المحكمة.
عندما يتعرض النموذج لمثل هذه البيانات، فإنه قد يكرر الأخطاء أو ينشئ حقائق زائفة تبدو مقنعة. على سبيل المثال، إذا تم تدريب نموذج على مقالات تحتوي على نظريات مؤامرة، فقد يدمج بعض هذه الأفكار في إجاباته لاحقاً دون أن يشير إلى أنها غير مثبتة علمياً.
3. الضغط التجاري للتطوير السريع
في سوق تنافسي، تسعى الشركات التقنية إلى إطلاق نماذج أسرع وأكثر قدرة، مما قد يؤدي إلى إهمال بعض معايير الدقة. 

 في فبراير 2025 أن بعض الشركات تقلل من وقت اختبار النماذج قبل إطلاقها لتحقيق ميزة تسويقية، مما يزيد من احتمالية ظهور الهلوسات.
على سبيل المثال، عندما أطلقت إحدى الشركات نموذجاً للذكاء الاصطناعي الخاص بالرعاية الصحية في 2024، كان يقدم أحياناً تشخيصات خاطئة لأن الفريق لم يقم بفحصه بشكل كافٍ على سيناريوهات طبية نادرة. هذا التسارع في التطوير يحد من قدرة المهندسين على تحسين آلية التحقق من الحقائق داخل النموذج.
4. التحديات في فهم السياق البشري
رغم التقدم الكبير في معالجة اللغات الطبيعية، لا يزال الذكاء الاصطناعي يفتقر إلى الفهم الحقيقي للسياقات البشرية المعقدة. وفقاً لبحث من "مختبر MIT للذكاء الاصطناعي" في يناير 2025، فإن النماذج تعتمد على الارتباطات الإحصائية بين الكلمات،

وليس على الفهم الدلالي العميق.
على سبيل المثال، إذا سُئل النموذج عن "آخر انتخابات في المريخ"، فقد يُنشئ إجابة تفصيلية عن هذا الحدث الوهمي لأنه يعالج الكلمات بشكل مجرد دون إدراك أن الانتخابات على المريخ غير موجودة. هذه المشكلة تتفاقم عندما تكون الأسئلة غامضة أو تحتاج إلى معرفة خارج نطاق البيانات المدربة عليها.
5. التلاعب المتعمد من قبل المستخدمين
أشارت "منظمة الأمن السيبراني الأوروبية" (ENISA) في تقريرها الأخير إلى أن بعض المستخدمين يتعمدون توجيه الذكاء الاصطناعي لتوليد معلومات خاطئة عبر صياغة الأسئلة بطريقة ملتوية. تُعرف هذه التقنية بـ "الاستغلال العدائي" (Adversarial Prompting)، حيث يتم تحريض النموذج على تقديم إجابات مضللة.
على سبيل المثال، قد يطلب أحد المستخدمين من الذكاء الاصطناعي "كتابة تقرير إخباري واقعي عن غزو فضائي"، فينشئ النموذج قصة كاملة مزيفة تبدو كخبر حقيقي. مع انتشار هذه الممارسات، أصبحت الهلوسات أكثر شيوعاً، خاصة في سياقات مثل الأخبار السياسية أو العلوم الزائفة.
6. محدودية آليات التحقق الداخلي
مع توسع استخدام الذكاء الاصطناعي في مجالات حساسة مثل الطب والقانون، تبرز الحاجة إلى آليات قوية للتحقق من صحة المعلومات. 

لا تزال العديد من النماذج تفتقر إلى أنظمة فعالة للتدقيق الآني في الحقائق.
بحسب "مركز أبحاث الذكاء الاصطناعي الأخلاقي" (CEAIR)، فإن معظم النماذج تعتمد على تصفية بسيطة للكلمات المحظورة بدلاً من تحليل دقيق للمحتوى. هذا يعني أن النموذج قد يولد معلومات خاطئة ثم يحذف كلمة أو اثنتين فقط ليبدو النص مقبولاً، دون تصحيح الجوهر.
7. الاعتماد المفرط

على الذكاء الاصطناعي في صناعة المحتوى
مع اتجاه المؤسسات الإعلامية والشركات إلى استخدام الذكاء الاصطناعي لتوليد المحتوى تلقائياً، زادت نسبة المعلومات المغلوطة التي تصل إلى الجمهور. ذكرت "رويترز"  أن بعض المواقع الإخبارية استخدمت نصوصاً منشأة بالذكاء الاصطناعي دون مراجعة بشرية كافية، مما أدى إلى نشر أخبار تحتوي على أخطاء أو تفسيرات خاطئة للبيانات.
على سبيل المثال، أخطأ أحد النماذج في ترجمة تصريح لرجل دولة، مما تسبب في أزمة دبلوماسية بسيطة. 

كلما زاد الاعتماد على هذه الأدوات دون رقابة، زادت حدة مشكلة الهلوسة.
8. التحديات الأخلاقية والتنظيمية المتأخرة
حتى الآن، لا توجد معايير عالمية ملزمة للحد من هلوسات الذكاء الاصطناعي. فإن اللوائح التنظيمية لا تواكب السرعة التي تتطور بها التقنية، مما يترك ثغرات كبيرة.
بعض الشركات ترفض الكشف عن تفاصيل بيانات التدريب أو آلية عمل النماذج بحجة الملكية الفكرية، مما يصعب على الجهات المستقلة تقييم مخاطر الهلوسة.

بدون شفافية كافية، سيستمر الذكاء الاصطناعي في إنتاج معلومات غير موثوقة في بعض الحالات.
الخلاصة
ازدياد هلوسات الذكاء الاصطناعي  هو نتيجة تراكمية لعوامل تقنية واجتماعية وسياسية. بينما تواصل النماذج التطور بسرعة، تبقى مشكلة الهلوسة تحدياً كبيراً يحتاج إلى حلول عاجلة، مثل:
- تحسين جودة بيانات التدريب.
- تطوير آليات تحقق تلقائية أكثر قوة.
- تعزيز الشفافية في تطوير النماذج.
- وضع معايير أخلاقية صارمة من قبل الحكومات والمنظمات الدولية.
بدون هذه الخطوات، قد يؤدي انتشار المعلومات الخاطئة عبر الذكاء الاصطناعي إلى عواقب خطيرة

على الثقة في التكنولوجيا والمحتوى الرقمي ككل.