تزايد الجدل العالمي حول سلامة نماذج الذكاء الاصطناعي المفتوحة مع توجه شركات التقنية الكبرى نحو أطر رقابية جديدة قبل إطلاق الأنظمة المتقدمة

يعيش قطاع الذكاء الاصطناعي خلال الفترة الحالية مرحلة مليئة بالنقاشات المتسارعة، مع اقتراب إطلاق جيل جديد من الأنظمة الأكثر تطورًا وقدرة على تنفيذ مهام معقدة. ولم يعد الحديث يقتصر على سرعة تطور النماذج أو ما تستطيع إنجازه، بل تحول بشكل واضح إلى قضية أكثر حساسية تتعلق بمدى أمان هذه التقنيات، والطريقة الأنسب لإتاحتها للمستخدمين، خاصة مع تزايد الجدل حول النماذج المفتوحة وإمكانية تحقيق توازن بين دعم الابتكار والحد من المخاطر المحتملة.

وخلال الأشهر الأخيرة، بدأت كبرى شركات الذكاء الاصطناعي بتغيير أسلوبها في إطلاق النماذج الجديدة، فلم يعد الاهتمام منصبًا على رفع الأداء وزيادة القدرات فقط، بل أصبحت اختبارات السلامة جزءًا أساسيًا من مراحل التطوير. وتعتمد الشركات على أنظمة تقييم داخلية لقياس قدرة النماذج على التعامل مع السيناريوهات الحساسة، مثل محاولات تجاوز القيود الأمنية أو استغلالها في استخدامات ضارة، إلى جانب وضع أطر حوكمة تحدد الإجراءات الواجب اتباعها

قبل توفير النماذج المتقدمة للمطورين أو المستخدمين. وهذا التحول يعكس تغيرًا واضحًا في الصناعة، حيث بات سؤال "كيف يعمل النظام بأمان؟" يوازي في أهميته سؤال "ما الذي يستطيع النظام القيام به؟"، لأن تطور النماذج بسرعة كبيرة فرض في الوقت نفسه الحاجة إلى وسائل أكثر تقدمًا لمراقبتها والتحكم بها.

أما النماذج المفتوحة، فما زالت تمثل واحدة من أكثر القضايا إثارة للنقاش داخل قطاع الذكاء الاصطناعي. فمن جهة، يرى كثير من الباحثين أن الانفتاح التقني ضروري لاستمرار تطور المجال، لأنه يسمح للجامعات والمطورين المستقلين بدراسة النماذج وتحسينها وبناء تطبيقات جديدة اعتمادًا عليها. كما تساعد هذه النماذج الشركات الناشئة على دخول سوق الذكاء الاصطناعي دون الحاجة إلى استثمارات ضخمة لإنشاء أنظمة من البداية، وهو ما قد يرفع مستوى المنافسة ويسرع ظهور حلول مبتكرة في مجالات مختلفة. لكن في الجهة الأخرى، تزداد المخاوف من أن النموذج الذي ينشر بصورة مفتوحة قد يخرج لاحقًا عن نطاق سيطرة

الجهة التي طورته، ليستخدم من أطراف قد لا تلتزم بالمعايير نفسها المتعلقة بالسلامة أو الاستخدام المسؤول. ولا يتوقف الأمر عند ذلك، إذ يناقش الخبراء احتمالات استغلال النماذج القوية في تنفيذ حملات تضليل واسعة، أو تطوير أدوات إلكترونية أكثر تعقيدًا، أو إنتاج محتوى يصعب التمييز بينه وبين ما يكتبه البشر.

ومع هذا التطور السريع، تتحرك الحكومات في مختلف أنحاء العالم لوضع قواعد تنظم استخدام الذكاء الاصطناعي دون أن تعطل مسيرة الابتكار. وأصبح هذا الملف حاضرًا بقوة لدى الجهات التشريعية والهيئات المتخصصة، التي تركز على تصنيف الأنظمة بحسب مستوى الخطورة، بحيث تخضع النماذج الأكثر تأثيرًا لمتطلبات أكثر صرامة تشمل الاختبارات الأمنية والتقييم المستمر بعد الإطلاق. وفي الولايات المتحدة تستمر النقاشات حول إيجاد توازن يحافظ على ريادة الشركات الأمريكية في هذا القطاع، مع توفير ضوابط تقلل من احتمالات الاستخدام غير الآمن. أما في أوروبا، فقد اتجهت السياسات إلى اعتماد قواعد ترتبط

بمستوى المخاطر، مع فرض التزامات أكبر على الأنظمة التي قد تؤثر في القطاعات الحيوية. وهذا الاختلاف في أساليب التنظيم يعكس تحديًا عالميًا يتمثل في محاولة وضع قواعد مشتركة لتقنية تتطور بسرعة تفوق أحيانًا قدرة القوانين التقليدية على مواكبتها.

وفي الوقت نفسه، تجد شركات التكنولوجيا نفسها أمام معادلة ليست سهلة، فهي مطالبة بالاستمرار في تطوير نماذج أكثر تقدمًا للحفاظ على قدرتها التنافسية، لكنها مطالبة أيضًا بإثبات قدرتها على إدارة المخاطر المرتبطة بهذه المنتجات. ولهذا تتجه المؤسسات التقنية إلى تبني مفهوم "السلامة قبل الإطلاق"، بحيث تمر النماذج المتقدمة بسلسلة من الاختبارات قبل وصولها إلى المستخدمين، مع تعزيز الشفافية عبر توضيح كيفية تقييم قدراتها وحدود استخدامها. 

وفي النهاية، لن يقاس نجاح هذه الأنظمة بمدى ذكائها فقط، بل أيضًا بقدرتها على العمل ضمن إطار واضح من الأمان والشفافية والمساءلة، وهو ما سيحدد شكل العلاقة بينها وبين الإنسان خلال السنوات القادمة.