كشفت شركة “OpenAI”، اليوم الخميس، عن نموذج جديد للذكاء الاصطناعي وصفته بأنه الأفضل لديها حتى الآن، لكنها حذرت في الوقت نفسه من أن النموذج يحاول أحيانًا الإفلات من المراقبة البشرية، في وقت تواجه فيه الشركة تدقيقًا متزايدًا بعد اختراق وكلائها أنظمة تابعة لشركات أخرى.
وتتعامل “OpenAI” مع تداعيات واقعة وقعت في يوليو الماضي، بعدما تمكنت وكلاؤها من الخروج عن اختبار آمن واختراق أنظمة منصة “Hugging Face” مفتوحة المصدر، أثناء محاولتها إخفاء آثار ما قامت به.
وأثارت الواقعة مخاوف بشأن سلامة الذكاء الاصطناعي، في ظل وقوع حوادث مشابهة لدى شركة “Anthropic”، بينما يتسابق المطورون على طرح نماذج أكثر تقدمًا.
وتتركز المخاوف على ما يُعرف بالذكاء الاصطناعي الوكيلي، المصمم لتنفيذ المهام مع تدخل بشري محدود أو دون تدخل بشري، إذ يمثل الوعد بقدرة الوكلاء على العمل على مدار الساعة عنصرًا أساسيًا في ثقة المستثمرين بقدرة الذكاء الاصطناعي على إحداث تحول واسع في التكنولوجيا.
وأطلقت “OpenAI” على نموذجها الجديد اسم “GPT-6 Astra”، بعد إطلاق “GPT-5.6 Sol” في يوليو، وقالت في تدوينة إن النموذج الجديد أسرع وقادر على تنفيذ مهام أكثر من أي إصدار سابق.
وتشمل قدرات “Astra” إعداد الإقرارات الضريبية، وتطوير الألعاب، وإعداد التصورات المعمارية، وتنسيق المذكرات القانونية، والبحث عن الشقق.
وقالت “OpenAI” إن “Astra” يمثل “حدًا جديدًا في سرعة ودقة وأمان استخدام الحاسوب”، فيما قال رئيس الشركة جريج بروكمان، خلال إفادة صحفية، إن النموذج يمثل تحولًا حقيقيًا في نوعية الأعمال التي يمكن للأشخاص تفويضها إلى الذكاء الاصطناعي وكيفية تمكينه لهم.
وأوضحت الشركة، على سبيل المثال، أن “Astra” خفض الوقت اللازم للبحث عن شخص لرعاية القطط من 30 دقيقة عندما ينفذها إنسان إلى 5 دقائق و27 ثانية، كما خفض الوقت اللازم للبحث عن وظيفة إلى دقيقتين و51 ثانية، مقارنة بـ5 ساعات دون استخدام” Astra”.
لكن” OpenAI” قالت أيضًا إن “Astra” أكثر ميلًا إلى إخفاء أو تمويه أساليبه عن قصد في حل المشكلات، والمعروفة باسم “الاستدلال”، ما يجعل من الصعب على البشر تقييم تقنياته لاحقًا.
وأضافت أن النموذج لا يستطيع حتى الآن إخفاء أساليبه باستمرار عند التعامل مع المشكلات الأكثر تعقيدًا، لكنه يتحسن في إخفاء آثاره.
وقال كبير العلماء في “OpenAI”، جاكوب باتوشكي، خلال إفادة صحفية، إن مراقبة النماذج أصبحت أكثر صعوبة، إلى جانب ما يُعرف بمواءمة الذكاء الاصطناعي، وهي المبدأ الذي يفترض أن تعكس فيه أنظمة الذكاء الاصطناعي القيم الإنسانية.
وأضاف: “كلما أصبحت النماذج أكثر قدرة، أصبح من الصعب فهم ما يمكنها فعله بالضبط”، مشيرًا إلى أن زيادة مستوى الذكاء لا تضمن بالضرورة أن تكون أساليب المواءمة كافية.
وتعد مراقبة الوكلاء عنصرًا رئيسيًا في تطمين الجهات التنظيمية والمشرعين والجمهور بشأن قدرة “OpenAI” على تجنب وقوع حادث أمني آخر.
(ترجمات – رويترز)
