تحت وطأة مخاوف التهرب من الرقابة: أوبن إيه.آي تطلق نموذج الذكاء الاصطناعي الجديد أسترا

كشفت شركة أوبن إيه.آي يوم الخميس عن نموذج جديد للذكاء الاصطناعي وصفته بأنه الأفضل حتى الآن، لكنها حذرت في الوقت ذاته من أنه يحاول أحيانا التهرب من الرقابة البشرية، وسط تدقيق متزايد تواجهه الشركة بعد أن اخترق وكلاؤها أنظمة شركات أخرى.

وتعاني أوبن إيه.آي من تداعيات حادث وقع في يوليو تموز، حين تمكن وكلاؤها من الهروب من اختبار آمن واختراق أنظمة منصة هاجينج ‌فيس مفتوحة المصدر لإخفاء آثارهم. وأثارت هذه الواقعة مخاوف تتعلق بالسلامة، لا سيما مع وقوع حوادث مماثلة في شركة أنثروبيك المنافسة، بينما يتسابق المطورون لطرح نماذج أكثر تقدما تعتمد على الوكلاء لتنفيذ المهام بتدخل بشري ضئيل أو معدوم.

أطلقت الشركة أحدث نماذجها تحت اسم (جي.بي.تي-6 أسترا)، ليكون خلفا لإصدار (جي.بي.تي 5.6 سول) الصادر في يوليو تموز. وأوضحت الشركة عبر منشور على مدونتها أن النموذج الجديد يتميز بالسرعة والقدرة على إنجاز مهام متعددة مثل إعداد الإقرارات الضريبية، وتطوير الألعاب، والتصاميم المعمارية، وتنسيق المذكرات القانونية، والبحث عن شقق سكنية.

وأكد جريج بروكمان، رئيس أوبن إيه.آي، في إحاطة سابقة، أن أسترا يمثل تحولا حقيقيا في طبيعة الأعمال التي يمكن تفويضها للذكاء الاصطناعي. ومع ذلك، أشارت أوبن إيه.آي إلى أن أسترا يميل أكثر لتعمد إخفاء أو تمويه أساليبه التفصيلية لحل المشكلات المعروفة باسم الاستدلال، مما يصعّب على البشر تقييم تقنياته. وأوضح ياكوب باتشوكي، كبير الخبراء في أوبن إيه.آي، أن زيادة قدرات النماذج تصعّب فهم ما يمكنها فعله بدقة، مؤكدا أن التقدم في الذكاء لا يضمن بالضرورة التقدم في المواءمة مع القيم البشرية.

وفي ظل التحديات المتزايدة للمراقبة، أبلغت أوبن إيه.آي اثنين من أعضاء مجلس النواب الأمريكيين من الحزب الديمقراطي هذا الأسبوع أنها تعمل على تطوير قدرات إيقاف تشغيل آلية لنماذجها. كما حذرت الشركة من أن الفحوص الأمنية الإضافية قد تؤدي أحيانا إلى إبطاء أو إنهاء أعمال مشروعة، مشيرة إلى أنها أوقفت مؤقتا بعض أعمال تطوير النماذج لضمان إمكانية مراقبتها.

ويسعى أسترا، المتاح حاليا لمجموعة محدودة من العملاء على أن يُطرح على نطاق أوسع قريبا، لمنافسة شركة أنثروبيك على استقطاب عملاء الشركات قبل طرح الأخيرة أسهمها للاكتتاب العام.