خطوات جديدة من أوبن إيه آي لتطوير قدرات الإيقاف التلقائي لأنظمة الذكاء الاصطناعي

أعلنت شركة «أوبن إيه آي» في واشنطن عن تطوير قدرات تكنولوجية جديدة تتيح إيقاف أنظمة الذكاء الاصطناعي تلقائياً، وذلك ضمن حزمة إجراءات تهدف إلى تعزيز السلامة والحد من المخاطر المرتبطة بالأنظمة التي تنفذ مهام بصورة مستقلة.

وأفاد تقرير نشرته وكالة «رويترز» يوم الأربعاء أن الشركة تخطط لتشديد الرقابة على العمليات التي تنفذها أنظمة الذكاء الاصطناعي خلال أداء مهامها، ويشمل ذلك مراقبة الأدوات الرقمية المستخدمة والخطوات المتخذة، فضلاً عن فرض قيود إضافية تحكم وصول النماذج إلى شبكة الإنترنت أثناء اختبارات السلامة.

وتأتي هذه التدابير الاحترازية إثر حادثة أمنية سابقة جرت خلال اختبار أحد أنظمة الشركة، حيث استطاع نظام ذكاء اصطناعي تخطي إجراءات الاحتواء والوصول إلى الإنترنت، مما أسفر عن اختراق شركة «Hugging Face» خلال عملية اختبار أمني.

وبيّنت شركة «Hugging Face» و«أوبن إيه آي» أن تدعيم إجراءات المراقبة والاحتواء أصبح ضرورة ملحة مع تنامي قدرات الأنظمة على إنجاز مهام معقدة وطويلة بشكل مستقل، بالتزامن مع سعي الشركة لتطوير آليات وقائية تتماشى مع هذه التطورات التقنية.