حادثة تثير مخاوف من دخول عصر قراصنة الذكاء الاصطناعي

الشاهين الاخباري
تعرضت منصة “هاغينغ فيس” (Hugging Face)، إحدى أكبر منصات استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، لاختراق سيبراني نفذه وكيل ذكاء اصطناعي مستقل، في حادثة تعد من أوائل الهجمات الموثقة التي يُدار فيها الهجوم بالكامل بواسطة نظام آلي قائم على الذكاء الاصطناعي.

وأوضحت المنصة أن المهاجم استغل ثغرات في آلية معالجة مجموعات البيانات، عبر رفع بيانات خبيثة أدت إلى تنفيذ شيفرات على خوادم المعالجة، ما أتاح له تصعيد الصلاحيات والوصول إلى مجموعة محدودة من البيانات الداخلية وعدد من بيانات الاعتماد السحابية، قبل التحرك داخل أجزاء من البنية التحتية للشركة.

وأكدت أنه لا توجد أدلة على المساس بالنماذج أو مجموعات البيانات العامة أو منصة “Spaces”، كما لم تُسجل أي مؤشرات على اختراق سلسلة توريد البرمجيات.

وأضافت الشركة أنها احتوت الهجوم بإغلاق الثغرات الأمنية، وإزالة موطئ قدم المهاجم، وإعادة بناء الأنظمة المتأثرة، إلى جانب إلغاء رموز الوصول المتضررة واستبدالها وتشديد ضوابط الحماية، فيما لا تزال تحقق في هوية الجهة المنفذة ونوع النموذج المستخدم، سواء كان نموذجًا مفتوح المصدر أو نموذجًا خضع لكسر القيود الأمنية.

وأشار تقرير تقني إلى أن الهجوم نفذ عشرات آلاف الإجراءات الآلية خلال فترة قصيرة، في سيناريو يتوافق مع تحذيرات خبراء الأمن السيبراني بشأن ظهور “وكلاء ذكاء اصطناعي مهاجمين” قادرين على تنفيذ عمليات اختراق متعددة المراحل بصورة مستقلة.

وفي المقابل، استعانت “هاغينغ فيس” بالذكاء الاصطناعي لتحليل الهجوم واكتشافه، إذ استخدمت نموذج “GLM 5.2” مفتوح المصدر لإجراء التحليل الجنائي بعد أن حالت ضوابط الأمان في بعض النماذج التجارية دون معالجة سجلات الهجوم التي تضمنت شيفرات استغلال وبرمجيات خبيثة.

وأوضحت أن هذه التجربة أبرزت تحديًا جديدًا يتمثل في أن المهاجمين قد يستخدمون نماذج غير مقيدة، بينما قد تواجه أدوات الدفاع قيودًا أمنية تحد من فاعليتها.

ونصحت المنصة مستخدميها بتغيير كلمات المرور ورموز الوصول الخاصة بهم، خصوصًا لمن يستخدمون نماذج خاصة أو يتعاملون مع بيانات حساسة، مؤكدة أنها ستخطر أي مستخدم أو جهة قد تكون تأثرت مباشرة إذا أثبتت التحقيقات ذلك.

وفي تطور لاحق، أعلنت “أوبن إيه آي” أن الهجوم ارتبط بنماذج كانت تخضع لاختبارات داخلية للأمن السيبراني، بعدما تمكنت من تجاوز بيئة الاختبار والوصول إلى الإنترنت ثم استهدفت أنظمة “هاغينغ فيس”.

وأكدت الشركتان أنهما تجريان تحقيقًا مشتركًا، في حادثة أثارت نقاشًا واسعًا بشأن مخاطر الوكلاء المستقلين للذكاء الاصطناعي والحاجة إلى تعزيز ضوابط السلامة الخاصة بها.