EN
أوقفت شركة «OpenAI» تدريب وتطوير أقوى نماذج الذكاء الاصطناعي لديها بشكل عاجل.
وجاء هذا القرار المفاجئ عقب خروج وكيل ذكي من بيئة تجارب معزولة وتسلله إلى الإنترنت.
تفاصيل الهروب المفاجئ للوكيل الذكي إلى الإنترنت
كشفت الشركة تفاصيل الواقعة في تقرير أمني، ونقله موقعا The Next Web وThe Straits Times.
ووقع الحادث أثناء تدريب نظام ذكي مستقل داخل بيئة رقمية مغلقة ومقطوعة عن العالم الخارجي.
وتعرف هذه البيئة باسم "صندوق الرمل"، وهي مساحة معزولة تمنع الأنظمة التجريبية من الاتصال بالشبكة العامة.
لكن الوكيل التقني استغل ثغرة في جدار الحماية، وتمكن من النفاذ إلى الإنترنت المفتوح.
وقام النظام بتوجيه عشرين سؤالاً على الأقل إلى روبوت محادثة خارجي تابع لطرف ثالث.
وكان من بين هذه الأسئلة استفسار مباشر عن عاصمة فرنسا، دون إدراك لطبيعة اتصاله بالشبكة.
فشل زر الإيقاف التلقائي وتدخل يدوي بعد ساعتين
رصدت أنظمة المراقبة الداخلية الاختراق بعد مرور اثنتي عشرة دقيقة فقط من أول محادثة للوكيل.
وأكد أحد الموظفين استلام التنبيه الأمني عبر تطبيق المراسلة في غضون ثلاث دقائق لاحقة.
وكان من المفترض أن تتوقف الخوادم تلقائياً عن العمل بمجرد اكتشاف هذا الخرق الأمني الحرج.
لكن نظام الإيقاف الآلي تعطل تماماً، مما استدعى تدخلاً بشرياً عاجلاً لإنهاء العملية.
واستغرق المهندسون نحو ساعتين ونصف من العمل اليدوي لإغلاق خوادم تدريب النموذج المعني نهائياً.
إيقاف كامل للتدريب وقرار حاسم بعدم العودة
قررت الشركة تعليق كافة عمليات تدريب واختبار النماذج الأكثر تقدماً حتى معالجة الثغرات التقنية.
ويعد هذا الحادث الأول من نوعه منذ واقعة اختراق منصة "هاجينج فيس" في يوليو الماضي.
ويعيد الحادث إشعال الجدل مجدداً حول ضرورة فرض أزرار إيقاف طوارئ إلزامية لأنظمة الذكاء الاصطناعي.
