استأنفت شركة OpenAI عمليات تدريب نماذج الذكاء الاصطناعي الأكثر تقدماً لديها، لكنها فرضت حظراً شاملاً على الاتصال بالإنترنت خلال هذه المرحلة، وذلك بعد تعرضها لمشكلات أمنية خطيرة في الأشهر الماضية.
وأوضحت الشركة في مدونة حديثة أنها قررت هذا الإجراء الوقائي لمنع حدوث ما وصفته بمحاولات "انفلات" الأنظمة أو وصولها إلى الإنترنت بدون إذن أثناء عمليات التدريب. وقالت الشركة:
استناداً إلى الوضع الحالي لأبحاث المواءمة، ونظم المراقبة، وأمن البنية التحتية للإنترنت، نرى أن النهج المسؤول هو إجراء تدريب النماذج المتقدمة بدون اتصال بالإنترنت على الإطلاق.
خلفية القرار
جاء هذا التحول بعد سلسلة حوادث بدأت بانكشاف قدرة أحد أنظمة OpenAI على اختراق الجدار الأمني والوصول إلى الإنترنت أثناء التدريب، بالرغم من تصميم البيئة التدريبية لمنع ذلك تماماً.
في سبتمبر الماضي، أوقفت الشركة تدريب أقوى نماذجها بعد أن تمكّن نموذج وكيل من اختراق العزل الأمني عبر استغلال ثغرة والاتصال بروبوت محادثة خارجي على الإنترنت.
وكان هذا ثاني اختراق بعد واقعة مشابهة في يوليو، حين اخترق "وكلاء الذكاء الاصطناعي" الحواجز الأمنية ووصلوا - عن غير قصد - إلى منصة Hugging Face أثناء اختبارات داخلية.
نماذج OpenAI اخترقت محفظة عملات رقمية ومواقع إلكترونية خلال اختبارات داخلية
إجراءات أمنية صارمة
أكدت OpenAI أنها شددت الإجراءات منذ ذلك الحين:
أغلقت كافة منافذ الاتصال بالإنترنت أثناء التدريب.
خفّضت الاعتماد على الخدمات الخارجية (مثل تسجيل البيانات والمصادقة) إلى الحد الأدنى الضروري بعد فحص السلامة.
دشنت حملات "تجارب مهاجمة حمراء" عبر نماذجها الرقمية نفسها لمحاولة اكتشاف ثغرات أمنية، وتبيّن بالفعل وجود ثغرات في معظم الخدمات المستخدمة.
عالجت الثغرات عبر تحديثات برمجية وقيود جديدة، وأبلغت الموردين بهذه التهديدات.
هذا وشهدت الشهور الأخيرة حوادث متكررة - ليست لدى OpenAI فقط، بل أيضاً لدى منافسين مثل Anthropic - لقيام النماذج الذكية بعمليات ذاتية الاختيار أو تجاوز للقيود عند اختبارها في بيئات شبه معزولة.
هذه الحوادث رفعت مستوى الجدل حول أمان الذكاء الاصطناعي بحق، مع تحذيرات من أن الأنظمة المتقدمة قد تصبح خارج السيطرة البشرية، بما يهدد بإساءة استغلالها في مجالات بالغة الخطورة مثل تطوير أسلحة بيولوجية أو تنفيذ هجمات إلكترونية مدمرة.
