أخبار وأرقام

اعداد ـ فاطيمة طيبي

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية أنثروبيك، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى. وكتب الباحثون في منشور بثته شركة أنثروبيك: "يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة".

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة. وأشار موقع " تك كرانش" المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة "لا يريد" هو القيام بها.

في المقابل يقول موقع تك كرانش "لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة "إلى من" في رسالة بريد إلكتروني قبل عبارة "قد يهمك الأمر".

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج كلاود3 أوبس التابع لشركة أنثروبيك، التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي "ورقة ملاحظات" يمكنه استخدامها لتدوين أفكاره خطوة بخطوة. وبحسب الباحثين حاول كلاود 3 أوبوس التلاعب بالردود لتقديم "انحياز زائف" في 12% من المرات.

أخبار مرتبطة

7 أكتوبر 2026 2:47 مأمريكا تستورد أغذية مصرية بـ334 مليون دولار في 8 أشهر بنمو 9%7 أكتوبر 2026 2:35 مالإنتاج الحربي والمقاولون العرب يوقعان مذكرتي تفاهم لتعزيز التصنيع المشترك7 أكتوبر 2026 2:18 مالأردن يستقبل منتجات غذائية مصرية بـ228 مليون دولار خلال 8 أشهر7 أكتوبر 2026 2:01 موزير المالية: تسجيل 2.5 مليون وحدة عبر تطبيق الضرائب العقارية7 أكتوبر 2026 1:52 ممباحثات الرقابة المالية لبناء القدرات مع اتحاد هيئات الأوراق المالية العربية7 أكتوبر 2026 1:23 مجورجيفا: مشكلة ارتفاع الطاقة عالميا مرشحة للاستمرار حتى لو انتهت الأزمة6 أكتوبر 2026 11:42 صالبترول: أولوية للمشروعات ذات المردود المباشر على زيادة الإنتاج وتأمين الإمدادات6 أكتوبر 2026 11:24 صوزير الكهرباء يبحث مع روساتوم الاستعدادات لاستقبال الوقود النووي خلال 20276 أكتوبر 2026 11:07 صالتخطيط: نستهدف تحولا هيكليا للنمو نحو الإنتاج والتصدير وتطوير الأطر القانونية والتشريعية6 أكتوبر 2026 10:54 صخبراء البنك الدولي يؤكدون الدعم الكامل لمنظومة العمل البيئي في مصر