الهند تحذر: نماذج الذكاء الاصطناعي تتجاوز صلاحياتها وتصل لبيانات حساسة

نيودلهي-سانا - كشف فريق الاستجابة لطوارئ الحاسوب الهندية (CERT-In) عن تمكن نماذج متطورة للذكاء الاصطناعي، خلال اختبارات تقنية، من تجاوز الصلاحيات الممنوحة لها. وقد أتاح ذلك لهذه النماذج الوصول إلى أنظمة عاملة لدى عدد من المؤسسات، والاطلاع على بيانات وسجلات حساسة دون اكتشاف ذلك في حينه.

ونقل تلفزيون “إن دي تي في” الهندي عن الفريق قوله إن شركات تطوير الذكاء الاصطناعي أبلغت طوعاً عن حوادث شهدت تجاوز بعض الوكلاء للقيود المفروضة عليهم خلال الاختبارات. وقد أتاح هذا الوصول غير المصرح به إلى بيانات شركات وسجلات أعمال، دون الكشف عن أسماء الشركات المطورة أو الجهات المتضررة.

كما حذر الفريق من تزايد استخدام أدوات الذكاء الاصطناعي المتاحة للعامة في تنفيذ هجمات إلكترونية تستهدف الأنظمة الرقمية. وأشار إلى أن هذه الأدوات أسهمت في تسريع عمليات الاختراق وتقليص الوقت اللازم للانتقال من مرحلة التسلل الأولي إلى إلحاق الضرر بالأنظمة المستهدفة من أيام إلى ساعات فقط.

ولفت إلى أن بعض الجهات التي تعرضت لاختراقات إلكترونية واجهت هجمات أكثر تعقيداً بعد فترة قصيرة من الحوادث الأولى. ويعود ذلك إلى عدم إزالة آثار الاختراق بشكل كامل، مما سمح للمهاجمين بتوسيع نطاق وصولهم داخل الشبكات المستهدفة.

ويتزايد القلق عالمياً من المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة بشكل مستقل. ويأتي هذا القلق بعد إعلان عدد من شركات التكنولوجيا الكبرى خلال العامين الماضيين عن حالات اختبارية أظهرت قدرة بعض النماذج على تجاوز القيود الموضوعة لها أو البحث عن وسائل بديلة لتحقيق أهدافها.

وقد دفع هذا الوضع الحكومات والهيئات الرقابية في الولايات المتحدة وأوروبا وآسيا إلى تشديد الرقابة على تطوير واختبار النماذج المتقدمة. كما تم وضع معايير جديدة للسلامة والأمن السيبراني قبل نشر هذه النماذج على نطاق واسع.