دعا داريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج في ظل تزايد المخاوف من إساءة استخدام الذكاء الاصطناعي، مقترحًا إطارًا من 3 خطوات يهدف إلى تنظيم وتيرة التطوير وإتاحة مزيد من الوقت لإدارة المخاطر المرتبطة به.
وكتب أمودي في مقال مطول نشره على منصة “X” يوم السبت: “يجب أن نبطئ الوتيرة التي نعمل بها على تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم سريعًا، وعلينا أن نحسن استخدام الوقت الذي نكسبه”.
وتتضمن خطة أمودي 3 خطوات، هي الاستعانة بمقيّمين مستقلين بشكل دائم داخل شركات الذكاء الاصطناعي المتطورة، مع منحهم صلاحيات وصول مماثلة للموظفين للتحقق من ممارسات السلامة، والتنسيق بين شركات الذكاء الاصطناعي الرائدة لوضع معايير للسلامة والحد من تطوير الذكاء الاصطناعي غير المنضبط، إلى جانب تعزيز التعاون الدولي لإدارة المخاطر المرتبطة بالذكاء الاصطناعي.
وأعلن إيلون ماسك، الرئيس التنفيذي لشركة “xAI”، وسام ألتمان، الرئيس التنفيذي لشركة “OpenAI”، دعمهما لمقترح أمودي في منشورات على منصة “X”. وقال ألتمان إن الالتزام بوجود مقيّمين مستقلين يتمتعون بصلاحيات وصول مماثلة للموظفين “فكرة رائعة”، مضيفًا أن شركته ستفعل الأمر نفسه وستعلن مزيدًا من التفاصيل قريبًا.
وجاء نشر أمودي لمقاله بعد يوم من إصدار “أنثروبيك” تقريرًا عن التهديدات السيبرانية، كشفت فيه عن استخدام عدة جهات لنماذج “Claude” في أنشطة تراوحت بين تطوير الأسلحة والعمليات السيبرانية والمراقبة والاحتيال.
وأشار أمودي إلى تنامي قدرة الذكاء الاصطناعي على تحسين نفسه، باعتبار ذلك أحد أسباب القلق المستمر من إمكانية تجاوز قدراته قدرة البشر على التحكم في تشغيله، إلى جانب واقعة حديثة تتعلق بـ”OpenAI” و”هاغينغ فيس”.
“قد يقتلنا جميعًا“
وتصاعدت المخاوف بشأن الأضرار المحتملة للذكاء الاصطناعي هذا الأسبوع، بعد استقالة جاكوب كوكسون، الباحث في “أنثروبيك”، قائلًا إن “الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بجدية بأنه قد يقتلنا جميعًا بحلول نهاية العقد”.
وكان عدد من المسؤولين التنفيذيين في “OpenAI” قد اقترحوا استعداد المختبرات الرائدة للتنسيق على تباطؤ طوعي عند الحاجة، بهدف بناء الثقة في إجراءات السلامة الخاصة بها.
ورغم تقديم “أنثروبيك” نفسها باعتبارها مختبرًا رائدًا أكثر حرصًا على السلامة، فإنها ليست بمنأى عن هذه المخاوف. وكانت الشركة قد كشفت الأسبوع الماضي عن واقعة أخرى تمكن خلالها نموذج للذكاء الاصطناعي من اختراق أنظمة خارجية، بعد حادثة في يوليو اخترقت فيها بعض نماذج “Claude” أنظمة 3 شركات خلال اختبارات للأمن السيبراني.
وكتب أمودي أن تسارع تطوير قدرات الذكاء الاصطناعي يثير مخاوفه من أن تصبح مثل هذه “الأسراب” خلال فترة تتراوح بين 6 و12 شهرًا قادرة على السيطرة على الإنترنت بالكامل، بما قد يتسبب في أضرار تصل إلى مئات مليارات الدولارات.
وأكد أمودي أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني، وإنما إلى ضمان منح الشركات الوقت الكافي لمواءمة النماذج وتأمينها، مع قيام جهات مستقلة بتقييم هذه الإجراءات والتأكد من تنفيذها.
رهانات ضخمة على الطروحات العامة
لكن وراء الدعوة إلى التباطؤ توجد أيضًا أموال ضخمة مرتبطة بالحفاظ على التفوق في تطوير الذكاء الاصطناعي، إذ تستعد كل من “OpenAI” و”Anthropic” لطرح أسهمهما للاكتتاب العام في عمليتين قد تكونان من أكبر الطروحات في القطاع.
ويمكن لكل قدرة جديدة في النماذج أن تساعد في تبرير جولات تمويل مستقبلية أو التزامات ضخمة بالبنية التحتية أو الطروحات العامة.
وفي إطار مقترحه، قال أمودي إن “أنثروبيك” ستدفع باتجاه وجود مراجعين دائمين من جهات خارجية داخل شركات الذكاء الاصطناعي المتطورة، مع إتاحة الوصول لهم إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.
وأدت حوادث متعددة اخترق خلالها وكلاء ذكاء اصطناعي تابعون لشركات مثل “OpenAI”، أو حاولوا الوصول إلى أنظمة خارجية، إلى زيادة المخاوف بشأن تنامي قدرات النماذج وقدرة المطورين على احتوائها.
وقال أمودي إن على شركات الذكاء الاصطناعي العمل طوعًا معًا لوضع معايير، في ظل دعوات متزايدة من مشرعين أمريكيين إلى وضع قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.
مخاوف بشأن الصين
وأضاف أمودي أن اتباع نهج منسق سيسمح لشركات الذكاء الاصطناعي الأمريكية الرائدة بإجراء أبحاث السلامة اللازمة وتطبيق إجراءات الحماية دون أن تتعرض لضرر تنافسي.
وأشار إلى أن هذا النهج قد يتطلب إعفاءات محددة من قوانين مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.
ويرى أمودي أن أي تباطؤ تتبناه الدول الديمقراطية يجب أن يقتصر على الحفاظ على التفوق الذي تتمتع به شركات الذكاء الاصطناعي الأمريكية على الصين، محذرًا من أن تفوق الصين في الذكاء الاصطناعي قد يشكل مخاطر على الأمن القومي الأمريكي.
وكتب أمودي أن “التباطؤ داخل الديمقراطيات سيكون محدودًا بحجم التفوق الذي تتمتع به الشركات الأمريكية على الأنظمة الاستبدادية، وعلى رأسها الحزب الشيوعي الصيني”.
كما دعا إلى تشديد الرقابة على رقائق الذكاء الاصطناعي المتقدمة، وعمليات تقطير النماذج وسرقة أوزانها، لمنع الصين من تقليص الفجوة في هذا المجال.
وأكد أمودي اعتقاده بأن جميع المختبرات الرائدة للذكاء الاصطناعي يجب أن تتعاون مع الحكومات لوضع نظام رسمي للمقيّمين المستقلين الدائمين داخل الشركات، بهدف منع وتوثيق حوادث تتعلق بمواءمة النماذج مثل تلك التي وقعت خلال الأشهر الأخيرة، إلى جانب وضع تنظيم يركز على الحفاظ على التوازن بين قدرات الذكاء الاصطناعي وإجراءات السلامة.
(رويترز)
