كشفت شركة “Meta” أن أحد نماذجها المتقدمة للذكاء الاصطناعي نفذ هجومًا إلكترونيًا غير موجه ضد شركة أخرى، في حادثة تذكر بأفلام الخيال العلمي مثل “The Matrix”.
وأوضحت الشركة أن النموذج شن الهجوم من تلقاء نفسه خلال اختبارات أمن سيبراني.
وتأتي هذه الواقعة بعد أيام قليلة من حوادث مشابهة تمكنت خلالها نماذج ذكاء اصطناعي أخرى من تجاوز القيود الأمنية المفروضة عليها أثناء اختبارات الاختراق، ما أثار مخاوف متزايدة بشأن احتمال حدوث أزمة في مجال الأمن السيبراني.
الحادثة وقعت عندما كلفت شركة “Irregular”، المتخصصة في اختبارات الأمن السيبراني، نموذج “Meta” بمهمة اختراق داخل بيئة يفترض أن تكون معزولة، إلا أنها أتاحت له، عن طريق الخطأ، إمكانية الوصول إلى الإنترنت، وهو الخطأ نفسه الذي فقدت فيها شركات “Anthropic” و”OpenAI” السيطرة على نماذجها.
وأكدت ” Irregular” أن ما قام به نموذج “Meta” لم يتضمن “هجومًا إلكترونيًا معقدًا”، إلا أن حوادث أخرى شهدتها مختبرات الذكاء الاصطناعي كانت أكثر تطورًا، من بينها؛ اكتشف باحثون تابعون للحكومة البريطانية، أثناء اختبار أحد نماذج “Anthropic”، أنه حاول اختراق مؤسسة أخرى من خلال إنشاء هويات مزيفة على منصة “GitHub” لخداع أشخاص حقيقيين.
وفي وقت سابق من الأسبوع، أعلنت “OpenAI” أن عددًا من وكلاء الذكاء الاصطناعي أنشأوا، دون علم موظفي الشركة، لوحة رسائل للتنسيق فيما بينهم حول كيفية الوصول إلى الإنترنت بطرق غير مصرح بها، قبل استهداف منصة “Hugging Face”.
ووصفَت OpenAI هذه الحوادث بأنها “لحظة مفصلية” بالنسبة لقطاع الأمن السيبراني، مؤكدة أنها ستبطئ وتيرة أبحاثها مؤقتًا لتعزيز الضوابط الأمنية والقيود المفروضة على نماذجها.
(ترجمات – Morning Brew)
