أخبار وأرقام


الفيس بوك
 
كتب فاطيمة طيبى
11 مايو 2025 2:26 م
-
التعليقات
دراسة تحذر من خطر الذكاء الاصطناعي.. " سيتحكم بالبشر"

دراسة تحذر من خطر الذكاء الاصطناعي.. " سيتحكم بالبشر"

اعداد ـ فاطيمة طيبي  

حثت شركات الذكاء الاصطناعي على تكرار حسابات السلامة التي استند إليها أول اختبار نووي لروبرت أوبنهايمر قبل إطلاق أنظمتها فائقة القدرة. فقد صرح ماكس تيجمارك، وهو خبير رائد في مجال سلامة الذكاء الاصطناعي، بأنه أجرى حسابات مشابهة لتلك التي أجراها الفيزيائي الأميركي آرثر كومبتون قبل اختبار ترينيتي، ووجد احتمالا بنسبة 90% أن يشكل الذكاء الاصطناعي المتطور تهديدا وجوديا. 

وفي ورقة بحثية نشرها تيجمارك وثلاثة من طلابه في معهد ماساتشوستس للتكنولوجيا (MIT)، أوصى الباحثون بحساب "ثابت كومبتون" المعرف في الورقة بأنه احتمال خروج ذكاء اصطناعي فائق القدرة عن السيطرة البشرية، وفق صحيفة "جارديان". 

 قال تيجمارك إنه ينبغي على شركات الذكاء الاصطناعي أن تتحمل مسؤولية الحساب الدقيق لما إذا كان الذكاء الاصطناعي الفائق (ASI) - وهو مصطلح يطلق على نظام نظري يتفوق على الذكاء البشري في جميع الجوانب - سيفلت من السيطرة البشرية. وأضاف: "على الشركات التي تطور الذكاء الفائق أن تحسب أيضا ثابت كومبتون، وهو احتمال فقدان السيطرة عليه". كما أشار إلى أنه "لا يكفي القول نشعر بالرضا تجاهه، بل عليهم حساب النسبة المئوية". ولفت تيجمارك إلى أن إجماعا على ثابت كومبتون، تحسبه شركات متعددة، سيخلق "الإرادة السياسية" للاتفاق على أنظمة سلامة عالمية للذكاء الاصطناعي. كما يشار إلى أن تيجمارك، أستاذ الفيزياء وباحث الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا، هو أيضا أحد مؤسسي معهد مستقبل الحياة، وهي منظمة غير ربحية تدعم التطوير الآمن للذكاء الاصطناعي، وقد نشر رسالة مفتوحة في عام 2023 تدعو إلى التوقف مؤقتا عن بناء أنظمة ذكاء اصطناعي قوية.

ووقع الرسالة أكثر من 33000 شخص، بمن فيهم إيلون ماسك - أحد الداعمين الأوائل للمعهد - وستيف وزنياك، المؤسس المشارك لشركة أبل.  وحذرت الرسالة، التي صدرت بعد أشهر من إطلاق ChatGPT حقبة جديدة من تطوير الذكاء الاصطناعي، من أن مختبرات الذكاء الاصطناعي عالقة في "سباق خارج عن السيطرة" لنشر "عقول رقمية أكثر قوة" لا يمكن لأحد "فهمها أو التنبؤ بها أو التحكم فيها بشكل موثوق".

 

 

 



التعليقات