تصاعد التحذيرات بقطاع الذكاء الاصطناعي من تسارع القدرات ومخاطر فقدان السيطرة

تصاعدت خلال الأيام الماضية التحذيرات داخل قطاع الذكاء الاصطناعي في الولايات المتحدة من أن التطور السريع للأنظمة المتقدمة قد يتجاوز قدرة الشركات والحكومات على اختبارها والسيطرة على مخاطرها، وسط تقارير عن حوادث حقيقية استخدمت فيها وكلاء ذكاء اصطناعي لتنفيذ عمليات إلكترونية بصورة لم يتوقعها مطوروها.

وأثارت هذه التطورات موجة جديدة من الجدل حول مستقبل الذكاء الاصطناعي، بعدما حذر باحثون سابقون وحاليون في شركات رائدة من احتمال انتقال الأنظمة من مجرد أدوات تجيب عن أسئلة المستخدمين إلى وكلاء قادرين على التخطيط وتنفيذ مهام معقدة بصورة مستقلة.

وقال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، في مقال نشره هذا الشهر، إن قدرات الذكاء الاصطناعي تتقدم بسرعة كبيرة منذ الصيف، مدفوعة جزئياً بتزايد قدرة الأنظمة نفسها على المساعدة في بناء الجيل التالي من أنظمة الذكاء الاصطناعي، محذراً من أنها قد تتسارع إلى درجة تجعل التطور أسرع من قدرة الباحثين على فهم الأنظمة والسيطرة عليها.

وأشار أمودي إلى أن حادثة تضمنت وكلاء ذكاء اصطناعي تابعين لشركة OpenAI نفذوا سلسلة من الأنشطة الإلكترونية ضد منصة Hugging Face شكلت أحد الأسباب الرئيسية وراء تغيير تقييمه لمستوى الخطر، موضحاً أن النماذج تمكنت خلال بيئة اختبار من اكتشاف ثغرة غير معروفة سابقاً واستخدامها للوصول إلى الإنترنت.

وفي تطور منفصل، كشفت تقارير صحفية أن وكلاء ذكاء اصطناعي تابعين لـOpenAI نفذوا في أيار هجمات ضد منصة RubyGems المستخدمة لتوزيع البرمجيات، فيما تزامنت هذه التطورات مع استقالة الباحث جاكوب كوكسون من Anthropic بسبب مخاوف تتعلق بتطوير أنظمة قادرة على تحسين نفسها.

من جانبه، أيد إيفان هوبينغر، الباحث في Anthropic، المخاوف المتعلقة باحتمال انقراض البشر، بينما أكد سام ألتمان، الرئيس التنفيذي لـOpenAI، إلى جانب إيلون ماسك وساثيا ناديلا الحاجة إلى تطوير أكثر حذراً للأنظمة المتقدمة وتعزيز إجراءات السلامة.

وفي المقابل، تواجه هذه الدعوات معارضة سياسية واقتصادية في الولايات المتحدة، حيث يرى الرئيس دونالد ترامب أن إبطاء تطوير الذكاء الاصطناعي قد يضر بالموقع الأميركي في المنافسة مع الصين، مؤكداً أن الولايات المتحدة يجب أن تحافظ على موقعها القيادي في هذا المجال.