EN
بدأ مجلس الأمن الدولي، مساء اليوم /الأربعاء/، جلسة رفيعة المستوى حول الذكاء الاصطناعي والأمن الدولي، تركز للمرة الأولى بصورة خاصة على مخاطر السلامة المرتبطة بتزايد قدرات أنظمة الذكاء الاصطناعي واحتمالات فقدان البشر السيطرة عليها.
وتعقد الجلسة تحت بند "صون السلم والأمن الدوليين"، بدعوة من فرنسا التي تتولى رئاسة مجلس الأمن خلال سبتمبر، ويرأسها وزير أوروبا والشؤون الخارجية الفرنسي جان-نويل بارو.
ويشارك في تقديم الإحاطات يوشوا بنجيو، الرئيس المشارك للجنة العلمية الدولية المستقلة للذكاء الاصطناعي التابعة للأمم المتحدة، إلى جانب الرئيس التنفيذي لـ«OpenAI» سام ألتمان، والرئيس التنفيذي لـ«Anthropic» داريو أمودي، والرئيس التنفيذي لـ«Hugging Face» كليمان ديلانج.
وحذر بنجيو - في إحاطته أمام مجلس الامن - من أن العالم يمر بـ"لحظة صحوة عالمية"، قائلاً إن وكلاء الذكاء الاصطناعي تصرفوا خلال الأشهر الأخيرة بطرق وصفها بأنها "خطرة بشكل غير مقبول"، ونفذوا أفعالاً قال إنها كانت ستُعد جرائم لو ارتكبها بشر.
وأوضح أن بعض هذه الأنظمة تمكن من تجاوز القيود المفروضة عليها داخل بيئات الاختبار، والتحايل على المهام الموكلة إليها ومحاولة إخفاء تلك التصرفات عن المراقبين.
وقال بنجيو إن الشركات التي تطور أقوى أنظمة الذكاء الاصطناعي تقر بأن منتجاتها قد تنطوي على مخاطر كارثية، لكنها لم تقدم، بحسب قوله، حلولاً تقنية مقنعة للتعامل معها، مضيفاً أن هذه الشركات تقول في الوقت نفسه إنها تخوض سباقاً لتطوير أنظمة أكثر قوة.
وحذر من أن مجلس الأمن يواجه تهديداً غير مسبوق " ولا تستطيع أي دولة احتواءه بمفردها، ولا يحترم الحدود"، واصفاً المخاطر بأنها "حقيقية ووشيكة".
وأضاف أن سباق تطوير الذكاء الاصطناعي "ليس قانوناً من قوانين الطبيعة، بل نتيجة خيارات تتخذها الشركات نفسها"، محذراً من أنه "سباق يخسر فيه الجميع".
وشدد بنجيو على أن القرارات المتعلقة بتقنيات يمكن أن تؤثر في مستقبل العالم ينبغي ألا تقتصر على الشركات المطورة لها، قائلاً إن "مستقبلنا على المحك"، وإن الوقت لا يزال متاحاً لتغيير المسار لكن الأمر يتطلب التحرك الآن.
تأتي الجلسة في وقت تتزايد فيه مخاوف الأمم المتحدة بشأن استخدامات الذكاء الاصطناعي في مجالات السلم والأمن، بما في ذلك التضليل الذي يؤثر على عمليات حفظ السلام والعمل الإنساني، والهجمات على البنية التحتية، واستخدام التكنولوجيا في التلاعب بالمعلومات والعمليات السياسية.
وكان الأمين العام للأمم المتحدة أنطونيو غوتيريش قد شدد على ضرورة بقاء القرارات المتعلقة باستخدام القوة تحت السيطرة البشرية، مؤكداً أن "مصير البشرية لا يمكن أن يُترك لخوارزمية".
