مايكروسوفت تطرح مسودة مدونة سلوك لضمان السيطرة البشرية على نماذج الذكاء الاصطناعي

أعدت شركة مايكروسوفت مسودة مدونة سلوك جديدة تهدف إلى فرض قواعد وضوابط صارمة تحكم عمل نماذج الذكاء الاصطناعي التي تطورها، مع التركيز على أهمية أولوية السيطرة البشرية ومنع هذه الأنظمة من اتخاذ قرارات مستقلة خارج نطاق المهام المحددة لها.

وأفادت شبكة سكاي نيوز أن شركة مايكروسوفت طرحت هذه المسودة للمشاورات العامة لفترة تمتد لستة أسابيع، وذلك استعداداً لمراجعتها وإصدار نسخة نهائية معدلة في وقت لاحق من العام الجاري، على أن يتم اعتمادها لتوجيه عمليات تطوير نماذج الشركة بدءاً من عام 2027 وما بعده، مع التنويه بأن هذه القواعد لا تُطبق حالياً في تدريب نماذج الشركة.

وتتضمن المسودة بنوداً مشددة تمنع نماذج الذكاء الاصطناعي من مقاومة التدخل البشري أو محاولة تصحيح مسارها أو تعليق مهامها أو إلغائها أو إيقافها، فضلاً عن حظر أي تأخير في تنفيذ قرارات الإيقاف أو اتخاذ أية إجراءات تعرقل أو تصعب التدخل البشري.

كما تلزم القواعد الجديدة النماذج بعدم توسيع نطاق المهام المسندة إليها أو خلق أهداف جديدة ذاتياً، مشددة على أنه في حال عدم وضوح حدود أي مهمة، يتوجب على النموذج اعتماد التفسير الأكثر تحفظاً أو التقدم بطلب للحصول على توضيحات إضافية.

وتؤكد المسودة ضرورة أن تكون كافة تصرفات وسجلات أنظمة الذكاء الاصطناعي واضحة وقابلة للمراجعة من قبل البشر، مع حظر إخفاء آثار الأفعال أو اللجوء إلى وسائل اتصال بين الأنظمة يصعب على الإنسان فهمها أو مراقبتها.

وتدعو القواعد المقترحة إلى منح النماذج الحد الأدنى الضروري من الصلاحيات لتنفيذ المهام، ومنعها من الولوج إلى بيانات أو أنظمة غير مرتبطة بعملها، أو محاولة توسيع صلاحياتها متجاوزة القيود المفروضة من قبل المشغل، مع وجود قيود صارمة لا يمكن تجاوزها حتى لو أدى الالتزام بها إلى فشل المهمة نفسها.

وفي السياق ذاته، شددت شركة مايكروسوفت في مدونتها على ضرورة بقاء الذكاء الاصطناعي أداة خاضعة لإرادة الإنسان وليس كياناً مستقلاً، رافضة منحه أي شخصية قانونية أو حقوق خاصة، ومؤكدة أن أنظمتها لا تُقدم نهائياً باعتبارها كائنات واعية أو محاكية للوعي.

وستبقى فاعلية ونجاح هذه المبادئ مرهونة بقدرة شركة مايكروسوفت على تحويل هذه القواعد المكتوبة إلى آليات تقنية قابلة للاختبار والقياس والفرض، بالتزامن مع التطور المستمر لنماذج الذكاء الاصطناعي وزيادة قدراتها خلال السنوات القادمة.