ديسكورد تعالج خللًا في نظام الإشراف بالذكاء الاصطناعي بعد حظر حسابات مستخدمين بسبب صور تبين لاحقًا أنها غير مخالفة

تعيش منصة  ديسكورد خلال الأيام الحالية  حالة  من الجدل بعد أزمة  تقنية  غير متوقعة  ارتبطت بنظام الإشراف المعتمد على الذكاء الاصطناعي  وذلك بعدما تعرض أكثر من ثمانية  آلاف مستخدم لحظر حساباتهم بسبب صور عادية  صنفت بالخطأ على أنها محتوى مخالف  قبل أن يتضح لاحقا أنها لا تنتهك سياسات المنصة . وجاء ذلك بعد تصاعد شكاوى المستخدمين الذين فوجئوا بفقدان الوصول إلى حساباتهم رغم عدم نشرهم اي محتوى محظور  وهو ما دفع الشركة  إلى الاعتراف بالمشكلة  والبدء في مراجعة  آلية  عمل نظامها الآلي.
تعتمد ديسكورد  مثل كثير من المنصات الرقمية  الكبرى  على تقنيات الذكاء الاصطناعي للمساعدة  في اكتشاف الصور والمحتوى غير القانوني أو المخالف لسياسات الاستخدام  خاصة  مع الكم الهائل من الرسائل والملفات التي يتم تداولها يوميا. وتقوم هذه الأنظمة  بتحليل الصور ومقارنتها واكتشاف الأنماط البصرية  التي قد تشير إلى وجود

مواد محظورة   لكن ما حدث هذه المرة  كشف أن مثل هذه الأدوات قد تقع أحيانا في ما يعرف بالتصنيفات الخاطئة   فتتعامل مع محتوى مشروع وكأنه مخالف بسبب تشابهات شكلية  لا أكثر.
وكان من المفترض  بحسب توضيحات الشركة   أن تؤدي النتائج التي يثيرها النظام الآلي إلى إخضاع المحتوى للمراجعة  أو اتخاذ إجراءات مؤقتة  فقط  إلا أن خللا تقنيا حول تلك التنبيهات مباشرة  إلى قرارات حظر نهائية   بدل المرور بخطوات التحقق المعتادة . ونتيجة  لذلك وجد عدد من المستخدمين أنفسهم أمام عقوبات لم يرتكبوا ما يستدعيها  رغم أن الصور التي نشروها كانت سليمة  بالكامل.
وأوضحت ديسكورد أن تأثير المشكلة  لم يقتصر على إصدار قرارات حظر غير صحيحة   بل امتد أيضا إلى مرحلة  استعادة  الحسابات  إذ تعرض جزء من النظام المسؤول عن إعادة  تفعيل الحسابات التي ثبتت براءتها للتعطل  وهو ما تسبب في استمرار معاناة  بعض المستخدمين لفترة  أطول مما كان متوقعا. 
أما الصور التي تسببت في إطلاق إنذارات النظام فلم تكن  بحسب ما ذكره عدد من المستخدمين  مرتبطة  بأي محتوى حساس  بل شملت صورا من الألعاب ورسومات ولقطات تحتوي على أنماط بصرية  متكررة  أو أشكال هندسية . كما أظهرت تجارب أجراها بعضهم أن النظام واجه صعوبة  في التفريق بين هذه الأنماط الطبيعية  وبين المواد التي صمم لاكتشافها  وهو ما فتح باب النقاش حول مدى دقة  أنظمة  الإشراف الحالية  عندما تكون صاحبة  القرار في مصير الحسابات والمجتمعات الرقمية .
واعترفت إدارة  ديسكورد بأن اكتشاف الخطأ استغرق وقتا أطول مما كان ينبغي  مؤكدة  أن الفرق التقنية  تمكنت من تحديد مصدر الخلل وإيقاف تأثيره  ثم إعادة  الحسابات التي تعرضت للحظر بصورة  غير صحيحة . كذلك أعلنت المنصة  أنها تعمل على تطوير وسائل الحماية  الداخلية  عبر إضافة  مراحل مراجعة  جديدة  تمنع انتقال قرارات الذكاء الاصطناعي من الاشتباه إلى العقوبة  النهائية  دون وجود تحقق إضافي  في خطوة  تهدف إلى تقليل فرص تكرار مثل هاذا الخطأ مستقبلا.
ومع أن ديسكورد تمكنت من إصلاح الخلل وإعادة  الحسابات المتضررة   إلا أن ما حدث ترك أثرا لدى شريحة  من المستخدمين الذين ينظرون إلى حساباتهم الرقمية  باعتبارها أكثر من مجرد وسيلة  للتواصل  فهي تضم محادثات ومجتمعات وملفات وذكريات قد يكون فقدانها مؤثرا فعلا. لذلك من المتوقع أن تدفع هذه الواقعة  كثيرا من المنصات إلى إعادة  النظر في طريقة  استخدام الذكاء الاصطناعي داخل أنظمة  الإشراف  مع التركيز على رفع دقة  الخوارزميات  وتسريع إجراءات الاستئناف  وزيادة  الشفافية  في القرارات  فالحادثة  أوضحت أن تطور الذكاء الاصطناعي لا يعني الاستغناء عن الرقابة  البشرية   بل يجعل وجودها أكثر أهمية  لضمان حماية  المستخدمين وعدم تعرضهم لإجراءات غير عادلة  بسبب أخطاء تقنية .