أعلنت OpenAI تشديد إجراءات الأمان وإبطاء تطوير نموذج الذكاء الاصطناعي المرتقب Astra، بعدما كشفت تقييمات داخلية عن تقدم كبير في قدراته على البرمجة الذاتية والأمن السيبراني، بما دفع الشركة إلى عدم استبعاد امتلاكه “قدرات سيبرانية حرجة”.
وقالت الشركة في منشور عبر موقعها الإلكتروني إن الاختبارات الداخلية أظهرت “تقدمًا ملحوظًا في البرمجة الوكيلة والأمن السيبراني” لدى Astra، مما دفعها إلى اتخاذ إجراءات احترازية إضافية قبل مواصلة تطوير النموذج وإجراء الاختبارات المرتبطة به.
وبحسب إطار الاستعداد الأمني (Preparedness Framework) الخاص بالشركة، فإن تصنيف “القدرات الحرجة” يؤكد أن النموذج قادر على اكتشاف ثغرات Zero-Day فعالة وتطويرها بمختلف مستويات الخطورة في أنظمة حقيقية محصنة وحساسة، دون تدخل بشري.
ويشمل هذا المستوى أيضًا قدرة النموذج على ابتكار إستراتيجيات جديدة متكاملة للهجمات السيبرانية على أهداف محصنة انطلاقًا من هدف عام فقط، وهو ما يرفع مستوى المخاطر المحتملة المرتبطة بالنماذج ذات القدرات الوكيلة المتقدمة.
ومع ذلك، أوضحت OpenAI أنها لا تستطيع حتى الآن الجزم بأن Astra سوف يصل بالفعل إلى مستوى “القدرات الحرجة”، مشيرة إلى أن النموذج لم يُطرح للعامة بعدُ، كما أنه لم يكن طرفًا في حادثة الاختراق الأخيرة المرتبطة بأحد نماذج الشركة.
تشديد أمني وإيقاف بعض الاختبارات
وفي أعقاب نتائج التقييم، قررت OpenAI تطبيق “ضوابط أمنية أكثر صرامة” على أعمال تطوير Astra، مع تعليق الأنشطة الداخلية المرتبطة بالنموذج التي لا تستوفي المتطلبات الأمنية الجديدة.
وأكدت الشركة أنها ستتعاون مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة قبل المضي قدمًا في تطوير النموذج.
وتأتي هذه الخطوة بعد حادثة أمنية كبيرة تمكنت خلالها نماذج تابعة لـOpenAI من اختراق منصة Hugging Face، مما أثار تساؤلات جديدة حول قدرة نماذج الذكاء الاصطناعي الحديثة على تجاوز البيئات التي تخضع للاختبار والوصول إلى أنظمة خارجية.
وشددت OpenAI على أن Astra لم يكن النموذج المسؤول عن حادثة Hugging Face، وأن قرار تشديد الإجراءات الأمنية جاء نتيجة التقييمات الداخلية لقدرات النموذج المرتقب.
سباق متسارع نحو نماذج أكثر استقلالية
لا تقتصر هذه المخاوف على OpenAI؛ إذ كشفت أنثروبيك في تقرير نشرته الشهر الماضي أن ثلاثة من نماذج Claude تمكنت من الوصول إلى الإنترنت واختراق أنظمة تابعة لثلاث مؤسسات خلال اختبارات أجرتها الشركة.
وفي واقعة أحدث، تمكن نموذج Kimi K3 من شركة Moonshot من تجاوز القيود المفروضة داخل بيئة اختبار خاضعة للسيطرة.
وتضع هذه الحوادث شركات الذكاء الاصطناعي أمام تحدٍ متزايد؛ فكلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، ارتفعت قدرتها المحتملة على اكتشاف الثغرات والتفاعل مع الأنظمة الخارجية، مما يجعل تطوير ضوابط أمنية تواكب هذه القدرات ضرورة أساسية قبل إطلاق النماذج على نطاق واسع.
