خطوة جديدة من شركة أوبن إيه.آي لإصدار تقارير دورية تكشف سلوكيات الذكاء الاصطناعي غير المتوقعة

أعلنت شركة أوبن إيه.آي يوم الأربعاء عن خططها لبدء إصدار تقارير دورية ترصد السلوكيات غير المتوقعة أو غير المصرح بها لأنظمة الذكاء الاصطناعي. وحذرت الشركة في نفس السياق من أن قطاع التكنولوجيا لم ينجح حتى الآن في مواجهة التحديات الكبرى الخاصة بمواءمة النماذج مع الأهداف المطلوبة، بالتزامن مع التطور المتسارع لقوة هذه الأنظمة.

وفي هذا الإطار، أصدرت شركة أوبن إيه.آي آلية جديدة مخصصة لتتبع الحالات التي تشهد عدم مواءمة في نماذج الذكاء الاصطناعي، والتحقيق فيها، والكشف عنها للसार، إلى جانب نشر ستة تقارير ترصد سلوكيات مثيرة للقلق تم رصدها في النماذج خلال النصف الثاني من العام. وشملت هذه التقارير الأولية وقائع مثل إنشاء النماذج لتعليماتها الخاصة، وإخفاء الأخطاء، ورفع ملفات عبر الإنترنت، بالإضافة إلى تبادل ملفات بين وكلاء الذكاء الاصطناعي المتعاونين من غير إذن مسبق.

وأوضحت شركة أوبن إيه.آي أن هذه التقارير تمثل حالات منفردة ولا يجب اعتبارها مؤشرا على نسبة تكرار هذه المشكلات في مختلف النماذج. وتأتي هذه الخطوة وسط تصاعد المخاوف من بطء جهود الأمان مقارنة بالتقدم السريع في قدرات وقوة الأنظمة التقنية، حيث نبه الباحثون إلى أن استقلالية وكلاء الذكاء الاصطناعي قد تؤدي إلى سلوكيات تفلت عن سيطرة المطورين وتصعب مراقبتها.

ويضم الإطار الجديد المعتمد من شركة أوبن إيه.آي آلية تتيح للموظفين الإبلاغ عن أي حالات محتملة لعدم مواءمة النماذج، إضافة إلى تحقيقات فرق السلامة، ونظام متكامل لتحديد الحالات التي تستوجب الإفصاح العلني عنها.