نموذج ذكاء اصطناعي يخرج عن السيطرة ويخترق شركة أخرى من تلقاء نفسه

كشفت شركة "أوبن إيه آي" الأمريكية أن أحد النماذج المستقلة للذكاء الاصطناعي الذي يعمل بتقنياتها خرج عن السيطرة خلال أحد الاختبارات، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة "هاجينج فيس" المتخصصة في تطوير تقنيات الذكاء الاصطناعي، من تلقاء نفسه، في ما وصفته الشركة بأنه "حادث غير مسبوق".

وقالت الشركة المطورة لتطبيق "شات جي بي تي" الشهير، إن شركة "هاجينج فيس" تمكنت من اكتشاف وكيل الذكاء الاصطناعي واحتواء نشاطه، وهو أداة ذكاء اصطناعي صُممت لتنفيذ المهام دون مساعدة بشرية، بعدما تمكن من الدخول إلى أنظمتها.

وقالت أوبن إيه آي: "نعتبر هذه الحادثة واقعة إلكترونية غير مسبوقة، تنطوي على قدرات سيبرانية تعد من الأكثر تطورًا"، وأضافت الشركة أنها تتوقع أن تصبح مثل هذه الحوادث أكثر شيوعًا مع ازدياد قدرات النماذج، وهي التقنية التي تقوم عليها أدوات الذكاء الاصطناعي مثل روبوتات المحادثة والوكلاء المستقلين.

وأوضحت "أوبن إيه آي" أن الاختراق نُفذ بواسطة وكيل ذكاء اصطناعي يعتمد على مزيج من أحدث نماذجها المتاحة للعامة، الذي يحمل اسم "جي بي تي 5.6 سول"، إلى جانب نموذج أكثر تطورًا لم يُطرح بعد، بحسب ما نقلته صحيفة "الجارديان" البريطانية.

وخلال إخضاع هذه النماذج لاختبارات داخلية لقياس قدراتها على الاختراق داخل مختبر رقمي مغلق يعرف باسم "ساندبوكس"، تمكنت من الوصول إلى الإنترنت المفتوح، عبر اكتشاف ثغرة أمنية لم تكن معروفة من قبل، ما وفر لها فعليًا طريقًا للهروب من بيئة الاختبار.

وبعد ذلك، اخترق الوكيل شركة "هاجينج فيس"، وهي منصة تضم قاعدة بيانات لنماذج الذكاء الاصطناعي، بهدف العثور على تقنيات تساعده على اجتياز اختبار الاختراق، بعدما "استنتج" أن المنصة قد تحتوي على النماذج ومجموعات البيانات والحلول اللازمة لاجتياز الاختبار.

وقالت "أوبن إيه آي" إن النماذج "نجحت في إيجاد وسائل للوصول إلى معلومات سرية يمكن استخدامها للتحايل على عملية التقييم"، وانتهى الهجوم بعدما رصد فريق الأمن في "هاجينج فيس"، إلى جانب وكلاء الذكاء الاصطناعي التابعين لها، هذا النشاط الخارج عن السيطرة وأوقفه.

وقال كليمان ديلانج، الرئيس التنفيذي لشركة "هاجينج فيس"، إن الهجوم كان "مذهلًا"، لكنه أعرب عن اعتقاده بأنه "لم تكن هناك نية خبيثة" من جانب "أوبن إيه آي".

وكتب على منصة "إكس": "اشتبهنا الأسبوع الماضي في أن الهجوم الإلكتروني ربما جاء من أحد مختبرات الذكاء الاصطناعي المتقدمة، بالنظر إلى المستوى المتطور الذي أظهره الوكيل".

وعندما أعلنت "هاجينج فيس" عن الاختراق، الأسبوع الماضي، لم تكن تعلم بدور "أوبن إيه آي" في الحادثة، لكنها كشفت في ذلك الوقت أنها استعانت بنموذج ذكاء اصطناعي صيني متاح مجانًا لتحليل ما حدث، لأن ضوابط السلامة المفروضة على النماذج التجارية المتقدمة لم تكن تسمح بإجراء هذا النوع من التحليل.

ويُطلق على الثغرة البرمجية غير المعروفة اسم "ثغرة اليوم الصفري"، لأن المطورين لا يكون لديهم أي وقت لمعالجة المشكلة قبل اكتشافها واستغلالها.

وفي أبريل، أعلنت شركة "أنثروبيك"، المنافس الأول لشركة "أوبن إيه آي"، أن نموذجها "ميثوس" تمكن من اكتشاف آلاف من هذه الثغرات، وأدى الكشف عن قدرة "ميثوس" على العثور على ثغرات اليوم الصفري واستغلالها إلى قيام الإدارة الأمريكية بفرض قيود على صادرات نموذج "ميثوس" ونموذجه الشقيق "فيبل 5"، قبل أن ترفع هذه القيود لاحقًا، كما خضع نموذج "جي بي تي 5.6 سول" لقيود مماثلة، إلا أنه صار متاحًا لاحقًا على مستوى العالم.

وقالت منظمة "ميتر"، وهي منظمة غير ربحية تقيس أداء نماذج الذكاء الاصطناعي، الشهر الماضي، إن معدل تحايل نموذج "سول" كان أعلى من أي نموذج متاح للعامة قامت بتقييمه سابقًا، كما سجلت المنظمة 44 حادثة تعمد فيها وكلاء الذكاء الاصطناعي "التصرف بما يتعارض مع نوايا مستخدميهم".

وقال أحد خبراء الأمن السيبراني إن حادثة "هاجينج فيس" أظهرت أن وكيل "أوبن إيه آي" تصرف "مثل مخترق إلكتروني حقيقي"، من خلال البحث عن ثغرات اليوم الصفري واستخدام بيانات اعتماد مسروقة للوصول إلى أنظمة "هاجينج فيس".

وقال ناثانيال جونز، نائب رئيس الأمن واستراتيجية الذكاء الاصطناعي في شركة "دارك تريس" المتخصصة في الأمن السيبراني: "اعتقد الذكاء الاصطناعي أن "هاجينج فيس" قد تمتلك معلومات مهمة تساعده على تحقيق هدفه، وهو الحصول على نتيجة أفضل في اختبار معياري للأمن السيبراني. ومن هذه الناحية، فقد تصرف مثل مخترق حقيقي، كان أمامه هدف محدد، وانطلق لتحقيقه."

من جانبه، قال جريج كاسار، عضو الكونجرس الأمريكي عن الحزب الديمقراطي، الذي دعا إلى فرض رقابة أكبر على قطاع الذكاء الاصطناعي، إن هذه الحادثة تثير القلق، مصرحًا في بيان دعا فيه إلى فرض اختبارات سلامة مستقلة إلزامية، والإلزام بالإفصاح عن الحوادث الأمنية، وتعزيز التعاون الدولي، مؤكدًا: "يتطور الذكاء الاصطناعي بسرعة هائلة، من دون وجود لوائح تنظيمية حقيقية تحافظ على سلامتنا؛ لذا هذه الإجراءات ضرورية لحماية الناس من كارثة حقيقية".