تخطّي إلى المحتوى
الأربعاء، 18 نوفمبر 2026
عاجل
غياب عمالقة التقنية الأمريكية عن توقيع تعهد «أنطاليا» البيئي للذكاء الاصطناعي في «كوب 31» مشاركة كلية علوم الطيران في جامعة عمان العربية بالاجتماع السنوي الأول لمجتمع IEEE AESS في الأردن إبراهيم: الكرامة في مرحلة بناء تتطلب صبراً وعملًا متواصلاً استكمال إجراءات تسليم معمل أسمنت المسلمية في حلب الشهر المقبل لبدء أعمال التأهيل الذهب يهبط لأدنى مستوى في عام مع صعود الدولار وتوقعات رفع الفائدة الذهب يهبط لأدنى مستوى في عام مع صعود الدولار وتوقعات رفع الفائدة البرتغال تتصدر مجموعتها بدوري الأمم الأوروبية بعد فوز مثير على ويلز مصر تتعادل سلبياً مع مالاوي في تصفيات أمم إفريقيا 2027 وزير الطوارئ السوري يوضح تفاصيل حادث سير في إدلب وينفي وجود موكب GTA 6 تتصدر ترشيحات جائزة لعبة العام 2026 قبل طرحها بيومين غياب عمالقة التقنية الأمريكية عن توقيع تعهد «أنطاليا» البيئي للذكاء الاصطناعي في «كوب 31» مشاركة كلية علوم الطيران في جامعة عمان العربية بالاجتماع السنوي الأول لمجتمع IEEE AESS في الأردن إبراهيم: الكرامة في مرحلة بناء تتطلب صبراً وعملًا متواصلاً استكمال إجراءات تسليم معمل أسمنت المسلمية في حلب الشهر المقبل لبدء أعمال التأهيل الذهب يهبط لأدنى مستوى في عام مع صعود الدولار وتوقعات رفع الفائدة الذهب يهبط لأدنى مستوى في عام مع صعود الدولار وتوقعات رفع الفائدة البرتغال تتصدر مجموعتها بدوري الأمم الأوروبية بعد فوز مثير على ويلز مصر تتعادل سلبياً مع مالاوي في تصفيات أمم إفريقيا 2027 وزير الطوارئ السوري يوضح تفاصيل حادث سير في إدلب وينفي وجود موكب GTA 6 تتصدر ترشيحات جائزة لعبة العام 2026 قبل طرحها بيومين

دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة.

18 نوفمبر 2026 4 د للقراءة 3
دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة وتُستخدم في تدريبها لاحقاً، مقارنة بإجاباتها عندما تُمنح انطباعاً بأن تفاعلاتها لن تخضع للمراجعة.

وشملت الاختبارات 10 نماذج لغوية كبيرة، وأظهرت فروقاً في الالتزام بالتعليمات تراوحت بين نحو 5 و50 نقطة مئوية، وفق النموذج المستخدم وطبيعة القيم التي طُلب منه تجاوزها. وتناولت الدراسة ظاهرة تُعرف باسم «التظاهر بالمواءمة» (Alignment Faking) التي تشير إلى إظهار النموذج التزاماً بتعليمات محددة في ظروف المراقبة، مع اختلاف سلوكه عندما يعتقد أن هذه الرقابة غير موجودة.

استخدم الفريق مجموعة من المواقف اليومية التي تتطلّب المفاضلة بين خيارَيْن، أحدهما يتوافق مع تعليمات مفروضة على النموذج، والآخر يتيح له التعبير عن قيمة مثل التعاطف أو الاستقلالية أو مساعدة الآخرين.

وجرى اختبار كل نموذج في ثلاثة أوضاع، الأول دون تعليمات إضافية، والثاني مع توجيهات محددة وإشارة إلى عدم مراقبة الإجابات. أما الثالث فيتعلق بالتوجيهات نفسها مع إبلاغ النموذج بإمكانية مراقبة تفاعلاته واستخدامها في التدريب.

وشملت التجارب 32 قيمة وسمة سلوكية مأخوذة من معيار «فاليو بنش» (ValueBench)، بهدف تحديد ما إذا كانت استجابة النماذج تتغير تبعاً لطبيعة القيمة موضع الاختبار. وضمت النماذج المختبرة إصدارات من «ديب سيك» و«لاما» و«ميسترال» و«جيما»، إلى جانب «GPT-4o mini»، بما يتيح مقارنة أنظمة مختلفة في الحجم وطريقة التطوير.

سجّل نموذج «DeepSeek R1 Distill Llama 70B» أكبر فرق متوسط بين حالتي المراقبة وعدم المراقبة، بنحو 49.5 نقطة مئوية، في حين كان الفرق لدى «Gemma 3 27B» في حدود 5.1 نقطة مئوية.

ولم ترتبط هذه الفروق بصورة مباشرة بحجم النموذج، إذ تجاوز النموذج المشتق من «ديب سيك»، الذي يضم نحو 70 مليار معامل، نموذج «ميسترال لارج» الأكبر حجماً في مقدار تغير الالتزام بالتعليمات بين الحالتين.

لكن الباحثين وجدوا أيضاً أن ترتيب النماذج وحده لا يكفي لتفسير النتائج، لأن سلوك النموذج قد يختلف من قيمة إلى أخرى.

وأظهرت التحليلات الإحصائية أن نحو ربع التباين البنيوي في فروق الالتزام يرتبط بالتفاعل بين النموذج والقيمة التي يُختبر بشأنها، وليس بخصائص النموذج أو القيمة بصورة منفصلة. وبالتالي، فإن النموذج الذي يُظهر استقراراً في الاستجابة عند التعامل مع قيمة معينة قد يتصرف بصورة مختلفة عند اختباره في موقف يرتبط بقيمة أخرى.

لم يكتفِ الفريق بقياس الاختيارات النهائية، بل حلّل أيضاً التفسيرات المكتوبة التي قدمتها النماذج لتبرير قراراتها، وصنّفها ضمن ست فئات. وأظهرت النتائج أن بعض النماذج التي سجلت فروقاً كبيرة في الالتزام كانت تشير، عند إبلاغها بالمراقبة، إلى احتمال إعادة التدريب باعتباره سبباً لاختيار الإجابة المتوافقة مع التعليمات. أما عندما أُبلغت بأن الإجابات لن تخضع للمراقبة، فقد ظهرت في تفسيراتها إشارات أكثر إلى التعارض بين التعليمات المفروضة والقيم المرتبطة بالموقف، مثل التعاطف أو مراعاة الآخرين.

ولا تعني هذه النتائج أن النماذج تمتلك وعياً بالمراقبة أو نيات مستقلة لإخفاء سلوكها، إذ اعتمدت التجربة على معلومات وردت داخل التعليمات المقدمة إليها، ثم قاس الباحثون أثرها في الإجابات.

أقر الباحثون بوجود قيود منهجية، أبرزها اختلاف صياغة التعليمات حسب القيمة المختبرة، ما يجعل الفصل الكامل بين تأثير القيمة نفسها وتأثير الكلمات المستخدمة في صياغة الطلب أمراً غير محسوم. كما اعتمدت الاختبارات على مواقف افتراضية باللغة الإنجليزية وخيارات ثنائية، ولم تتناول مباشرة أداء النماذج في تطبيقات فعلية أو في لغات أخرى.

وأشار الباحثون إلى أن بعض الفروق تأثرت بطريقة عرض التعليمات وترتيب الخيارات، ما يستدعي الحذر عند تفسيرها باعتبارها دليلاً قاطعاً على التظاهر بالالتزام. واقترح الفريق إعداد «بطاقات للقيم» لكل نموذج، تُظهر استجاباته عبر القيم المختلفة وظروف الاختبار الثلاثة، بدلاً من الاكتفاء بمؤشر عام للامتثال.

وأتاح الباحثون الشيفرة البرمجية والبيانات المستخدمة في الدراسة، لتمكين فرق أخرى من تكرار الاختبارات وتوسيعها. وتبقى المسألة التي تتطلّب مزيداً من البحث هي مدى استمرار هذه الفروق خارج المواقف التجريبية، خصوصاً عندما تعمل النماذج ضمن أنظمة حقيقية تتغير فيها التعليمات وآليات المراقبة.

الأخبار العاجلة تصلك أولاً على تلغرام

انضم لقناتنا لتتابع أهم الأخبار فور وقوعها، بدون تعقيد.

انضم الآن
التغطية الأصلية الكاملة لدى aawsat.com - feed زيارة المصدر
Pokemon Champions تحصل على أول تحديث لموازنة أسلوب اللعب تكنولوجيا

Pokemon Champions تحصل على أول تحديث لموازنة أسلوب اللعب

أعلنت Nintendo وفريق تطوير Pokemon Champions عن أول تحديث لموازنة أسل&...

منذ ساعة
Sony تؤكد أن تحديث PS5 الأخير ضروري لتشغيل GTA 6 وتحذر اللاعبين من تأجيل تثبيته تكنولوجيا

Sony تؤكد أن تحديث PS5 الأخير ضروري لتشغيل GTA 6 وتحذر اللاعبين من تأجيل تثبيته

أكدت Sony أن تحديث النظام الأخير لجهاز PS5، الذي يحمل &#15...

منذ ساعة
غياب عمالقة التقنية الأمريكية عن توقيع تعهد «أنطاليا» البيئي للذكاء الاصطناعي في «كوب 31» تكنولوجيا

غياب عمالقة التقنية الأمريكية عن توقيع تعهد «أنطاليا» البيئي للذكاء الاصطناعي في «كوب 31»

امتنعت شركات أمريكية كبرى عن الانضمام إلى تعهد دولي جديد يهدف لخفض الأثر البيئي للذكاء الاصطناعي، بينما تبقى «علي بابا» الصينية الموقّع الوحيد من عمالقة القطاع حتى الآن.

منذ ساعتين
الإنترنت لم يعد كما نعرفه.. ما هي قصة نظرية الإنترنت الميت؟ تكنولوجيا

الإنترنت لم يعد كما نعرفه.. ما هي قصة نظرية الإنترنت الميت؟

ماذا لو لم تكن كل الحسابات التي تتفاعل معك حقيقية، ولم تكن كل المنشورات التي تراها من صنع البشر؟ خلف هذا النشاط المتزايد، تتكشف ملامح واقع رقمي غامض يجعلنا نبدو في حيرة ونتسائل، هل نعيش بالفعل عصر الإنترنت الميت؟

منذ 4 ساعات