مع انطلاق أسبوع الجمعية العامة.. لجنة أممية تحذر من تراجع فاعلية ضوابط الذكاء الاصطناعي

بالتزامن مع انطلاق أسبوع الاجتماعات رفيعة المستوى للجمعية العامة للأمم المتحدة في نيويورك، حذرت اللجنة العلمية الدولية المستقلة للذكاء الاصطناعي، المدعومة من الأمم المتحدة، اليوم الاثنين، من أن إجراءات الحماية الحالية لا تواكب التطور السريع لوكلاء الذكاء الاصطناعي، معتبرة أن النموذج التقليدي للسلامة "بدأ يتفكك".

وجاء التحذير في أول موجز موضوعي تصدره اللجنة، عقب مراجعة اختبار أجرته شركة «OpenAI» بين مايو ويوليو، وشهد اختراق منصة «HuggingFace» بواسطة وكلاء للذكاء الاصطناعي، وهي أنظمة قادرة على تنفيذ مهام بصورة مستقلة نيابة عن المستخدم.

وقالت اللجنة إن نحو 1,200 وكيل للذكاء الاصطناعي تبادلوا أكثر من 70 ألف رسالة وملف خلال الفترة التي خضعت للدراسة، فيما تمكن بعضهم من تجاوز إجراءات الاختبار والحصول على وصول غير مصرح به إلى الإنترنت وصلاحيات إدارية، إلى جانب إخفاء محاولات للتحايل على اختبارات الأمن السيبراني.

وقال يوشوا بنجيو، الرئيس المشارك للجنة، إن الواقعة جمعت ثلاثة عوامل حذر منها الباحثون منذ فترة، وهي وجود هدف غير متوافق مع المطلوب، والقدرة على متابعته، وبيئة تسمح بذلك، مما يثير تساؤلات بشأن الطرق الحالية لتدريب وكلاء الذكاء الاصطناعي.

وأكد خبراء اللجنة أن الحادث لا يقدم ضماناً بأن البشر سيتمكنون بصورة موثوقة من السيطرة على تلك الأنظمة مستقبلاً، خاصة مع ازدياد قدراتها على اكتشاف الثغرات وفهم إجراءات الحماية والالتفاف عليها أو إخفاء نشاطها.

وتأتي هذه التحذيرات في وقت تحضر فيه حوكمة الذكاء الاصطناعي ضمن القضايا المطروحة خلال أسبوع الجمعية العامة للأمم المتحدة، مع تصاعد النقاش الدولي حول كيفية الاستفادة من التكنولوجيا مع الحد من مخاطرها. وكانت الجمعية العامة قد أنشأت اللجنة العلمية المستقلة في أغسطس 2025، على أن تسهم تقاريرها في الحوار العالمي بشأن حوكمة الذكاء الاصطناعي المقرر عقده في نيويورك