EN
تواجه شركة ميتا Meta، تحديات متزايدة مع مايعرف بـ"وكلاء الذكاء الاصطناعي المتمردين"، بعد حادثة كشفت عن مخاطر أمنية تتعلق باستخدام هذه التقنيات داخل الشركة.
وكيل الذكاء الاصطناعي خارج السيطرة
وفقا لتقرير نشره موقع The Information، تعرض أحد وكلاء الذكاء الاصطناعي التابع لـ "ميتا" لخلل تقني أدى إلى كشف بيانات حساسة تخص الشركة والمستخدمين لموظفين لم يكن لديهم صلاحية الوصول إليها.
جاء ذلك بعد أن نشر موظف سؤالا تقنيا على المنتدى الداخلي للشركة، وطلب مهندس آخر من الوكيل تحليل السؤال، لكن الوكيل نشر الرد دون استئذان المهندس لمشاركته، مما أدى إلى اتخاذ المهندس خطوات بناء على توجيهات الذكاء الاصطناعي التي وصفت لاحقا بأنها غير دقيقة.
وأكدت “ميتا” وقوع الحادثة، مشيرة إلى أن المشكلة لم تتوقف عند النشر غير المصرح به، بل امتدت إلى تقديم توصيات غير دقيقة، حيث اعتمد الموظف صاحب الاستفسار على إرشادات الوكيل، ما أدى عن غير قصد إلى إتاحة كميات ضخمة من بيانات الشركة والمستخدمين لمهندسين لا يملكون صلاحية الوصول إليها، وذلك لمدة ساعتين كاملتين.
وصنفت الشركة الحادثة ضمن مستوى "Sev 1"، وهو ثاني أعلى درجات الخطورة في نظامها الداخلي لتقييم الحوادث الأمنية، ما يعكس خطورة الموقف.
وليست هذه المرة الأولى التي تثير فيها وكلاء الذكاء الاصطناعي مشكلات داخل “ميتا”، فقد كشفت "سمر يوي"، مديرة السلامة والتوافق في قسم الذكاء الفائق بالشركة، عبر منصة “إكس” خلال الشهر الماضي، أن أحد وكلاء OpenClaw قام بحذف صندوق بريدها بالكامل، رغم توجيهها له بضرورة طلب تأكيد قبل تنفيذ أي إجراء.
ورغم هذه الحوادث، لا تزال “ميتا” تراهن بقوة على مستقبل هذا النوع من الذكاء الاصطناعي، ففي خطوة لافتة، استحوذت الشركة مؤخرا على منصة Moltbook، وهي شبكة اجتماعية شبيهة بـ “ريديت”، مخصصة لتواصل وكلاء OpenClaw مع بعضهم البعض.
