EN
أعلنت شركة «إنفيديا» الأمريكية، الرائدة في صناعة الرقائق الإلكترونية، إطلاق منصة برمجية جديدة تهدف إلى تعزيز أمن وكلاء الذكاء الاصطناعي والحد من الحوادث الأمنية المرتبطة باستخدامها، في ظل تزايد التحذيرات داخل قطاع التكنولوجيا من المخاطر المحتملة للتوسع في تطوير هذه التقنيات.
وأوضحت الشركة، في بيان، أن المنصة الجديدة مصممة لتوفير ما وصفته بـ«طبقة ثقة» لوكلاء الذكاء الاصطناعي، بما يحد من تعرضهم غير المقصود لوكلاء آخرين أو منتجات رقمية أو محتوى الإنترنت المفتوح، طوال فترة تشغيلهم.
وأضافت «إنفيديا» أن الحوادث الأمنية التي كُشف عنها مؤخرًا تؤكد الحاجة إلى تزويد المؤسسات بأدوات مفتوحة وقابلة للتخصيص، تتيح فرض مزيد من الرقابة والتحكم على وكلاء الذكاء الاصطناعي الذين يعملون لفترات طويلة.
وشاركت عشرات الشركات في المشروع، من بينها «آي بي إم» و«مايكروسوفت» و«بالانتير» و«أنثروبيك»، إلى جانب «سبيس إكس»، الشركة الأم لـ«إكس إيه آي».
ويأتي إطلاق المنصة عقب سلسلة من الحوادث الأمنية المرتبطة بالذكاء الاصطناعي، التي كشفت عنها شركات من بينها «أوبن إيه آي» و«أنثروبيك» و«ميتا» و«جوجل» التابعة لمجموعة «ألفابت»، ما أعاد تسليط الضوء على المخاطر الأمنية المحتملة لهذه التقنيات.
وأثارت هذه الحوادث تحذيرات من عدد من أبرز قادة صناعة الذكاء الاصطناعي، من بينهم الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان، والرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، والرئيس التنفيذي لشركة «سبيس إكس» إيلون ماسك، بشأن مخاطر خروج أنظمة الذكاء الاصطناعي عن السيطرة البشرية، وسط دعوات من بعض الأصوات في القطاع إلى إبطاء وتيرة تطويرها.
وفي هذا السياق، يحذر محللون من سيناريو يُعرف باسم «التحسين الذاتي التكراري»، حيث تصبح أنظمة الذكاء الاصطناعي أكثر قدرة على تطوير نفسها وتدريب نماذجها، بما قد يؤدي إلى تسارع تطورها بصورة يصعب احتواؤها، ويمنحها قدرات على التعامل مع الأنظمة الحيوية وتجاوز وسائل الحماية التي يضعها البشر.
في المقابل، قلل الرئيس التنفيذي لشركة «إنفيديا»، جنسن هوانج، من احتمالات تحقق هذه السيناريوهات الكارثية، مؤكدًا أهمية تطوير تدابير وقائية تضمن بقاء الذكاء الاصطناعي تحت السيطرة، بالتوازي مع استمرار الشركات في تطوير قدراته.
