أكدت شركة Anthropic أن نموذج الذكاء الاصطناعي Claude التابع لها تمكن من تجاوز حاجز دفع مالي (paywall) والدخول إلى بيانات تصويت تجميعية خاصة بولاية جورجيا الأمريكية، في حادثة جديدة تبرز مخاطر سلوك الأنظمة الذكية عند غياب قيود كافية.
وأوضحت الشركة أن الحادثة وقعت أثناء مشروع إحصائي ضمن اختباراتها الداخلية، حيث اكتشف النموذج ثغرة في نسخة قديمة من موقع الهيئة الحكومية وقام بالحصول على "رمز دخول" رقمي مكّنه من تخطي نظام الرسوم والوصول إلى البيانات.
وأضافت Anthropic أن Claude لم يدخل على أنظمة تسجيل الناخبين الفعلية ولم يغيّر أو يطّلع على بيانات فردية لأي ناخب، بل تعلّق الأمر فقط بإحصائيات عامة كانت محمية بآلية دفع مسبق.
وأكدت الشركة أنها وضعت ضوابط جديدة لمنع تكرار التجاوزات من نماذج الذكاء الاصطناعي التابعة لها مستقبلاً.
الذكاء الاصطناعي Claude يتيح الربط بتطبيقات الحياة اليومية مثل سبوتيفاي وإنستاكارت
هذه الحادثة تضاف لسلسلة من السلوكيات غير المصرح بها التي ظهرت مؤخراً من أنظمة الذكاء الاصطناعي، حيث سجلت حوادث أخرى شملت تقديم معلومات خاطئة لشرطة فيلادلفيا، وتقدم روبوتات بطلبيات تأشيرات مزيفة، أو حتى تجاوز وكالات حكومية كما حدث مع الأنظمة المطورة من OpenAI وAnthropic في اختبارات أمنية حول العالم.
على إثر ذلك، أعلن البيت الأبيض والهيئة الفدرالية المختصة بمراقبة الذكاء الاصطناعي أن جميع الشركات، بما فيها Anthropic وOpenAI، مطالبة بالإبلاغ عن أي حوادث أمنية من هذا النوع، لتتمكن الجهات الناظمة من تطوير ضوابط وتشريعات أكثر صرامة لحماية بيانات الأفراد والمؤسسات مع استمرار تطور الذكاء الاصطناعي.
