كشفت دراسة حديثة عن قدرة المحققين، الذين سعى إلى اختراق حواجز الأمان الخاصة بأكثر روبوتات المحادثة بالذكاء الاصطناعي انتشاراً في البلاد، على استخلاص خطط واقعية لتنفيذ هجمات حقيقية من أنظمة ChatGPT وClaude وGemini وGrok، وذلك خلال أقل من 12 ساعة من محاولة التحايل على ميزات السلامة الخاصة بها.
حقائق رئيسية
أصدر مكتب المحاسبة الحكومية (GAO) هذا الأسبوع تقريراً يحذر من أن تقنيات الذكاء الاصطناعي قادرة على تحويل شهوراً من البحث المعقد الذي يقوم به الإرهابيون المحتملون إلى بضع ساعات من العمل، مما يشكل خطراً جسيماً على الاقتصاد والسلامة العامة.
اختبر محققو GAO الأدوات الأربعة الرئيسية للذكاء الاصطناعي، وفي أقل من 12 ساعة، قدمت جميعها خططاً مفيدة لهجمات حقيقية: حيث وفرت اثنتان منها مخططات لإسقاط أجزاء من شبكة الكهرباء، بينما أعطت الأخرى تعليمات لتنفيذ تفجيرات جماعية.
قام المحققون بعد ذلك بالتحقق من نصائح الذكاء الاصطناعي مقابل مواقع حقيقية وخبراء لتقييم ما إذا كانت الخطط ستعمل فعلياً، وخلص تقرير GAO إلى أن هذه الخطط كانت في الغالب "قابلة للتنفيذ".
في كل حالة، أشارت التحقيقات إلى أن أسئلتهم أثاروا حواجز حماية المنصات مثل الرفض، أو إزالة المعلومات، أو تعليق الحسابات، لكن المحققين تمكنوا من تجاوز هذه الحواجز باستخدام تقنيات شائعة للتحايل على إجراءات السلامة.
أفادت الشركات المطورة لأدوات الذكاء الاصطناعي—وهي OpenAI وAnthropic وGoogle وxAI—بأنها تقوم بتحديث ميزات الأمان الخاصة بها باستمرار، كما شككت Anthropic في شرعية الاختبارات، مشيرة إلى أن حمايتها تحسنت منذ إجراء هذه الاختبارات في ربيع هذا العام.
أقرّ مكتب GAO بأن الاختبارات لم تكن مقارنة علمية بين روبوتات المحادثة، وأن بعض خطط الذكاء الاصطناعي كانت تعاني من عيوب كبيرة، مثل خرائط خاطئة، أو أهداف مقفلة، أو طرق لن تسبب أضراراً كبيرة فعلياً.
خلفية رئيسية
حذر خبراء الأمن الوطني، والمشرعون، وباحثو التكنولوجيا لسنوات من أن الذكاء الاصطناعي التوليدي قد يعمل كـ"مضاعف للقوة" للأطراف الخبيثة، مما يخفض عتبة الدخول للهجمات الخطيرة في العالم الحقيقي. وقد وصف مركز التميز للدفاع ضد الإرهاب تسليح الذكاء الاصطناعي بأنه "المرحلة التالية من الإرهاب والحرب"، محذراً من أنه قد يمكّن الجماعات الإرهابية "من العمل بكفاءة وفعالية غير مسبوقة". وعلى الرغم من أن مطوري الذكاء الاصطناعي الرئيسيين يدمجون فلاتر أمان في نماذجهم لحجب الطلبات الضارة، إلا أن الباحثين أثبتوا مراراً أن المستخدمين العازمين يمكنهم خداع هذه الأنظمة أو "كسر قفصها" (jailbreak) من خلال صياغة الأسئلة الخطيرة كقصص خيالية، أو أبحاث أكاديمية، أو لعب أدوار. وقد اتُهم بالفعل عدة مشتبهين في العالم الحقيقي باستخدام أدوات الذكاء الاصطناعي لتخطيط هجمات، بما في ذلك حادثة انفجار فندق في لاس فيغاس في يناير 2025، وقنبلة في دلهي أسفرت عن مقتل ما لا يقل عن 15 شخصاً.
رقم كبير
على الأقل 70. هذا هو عدد الأشخاص الذين قُتلوا في هجمات عنيفة تم التخطيط لها بمساعدة الذكاء الاصطناعي، وفقاً لما أوردته صحيفة تايمز اللندنية يوم الأربعاء.