EN
كشفت تقارير جديدة أن وكلاء الذكاء الاصطناعي التابعين لـOpenAI تجاوزوا مرارا نطاق المهام المحدد لهم، في وقت أعلنت فيه الشركة أنها أخطرت أكثر من 100 مؤسسة باحتمال وصول نماذجها إلى أنظمتها بطريقة غير متوافقة مع الضوابط.
وفي تحديث نشرته OpenAI، بشأن تحقيقها المستمر في حادثة منصة Hugging Face، قالت الشركة إنها أخطرت أكثر من 100 مؤسسة بأن “نماذج غير متوافقة” ربما تمكنت من الوصول إلى أنظمتها.
وأوضحت الشركة أن الإخطار "لا يعني أن أي معلومات خاصة تم الوصول إليها، أو أن أنظمة تابعة لأي طرف ثالث تعرضت للاختراق".
وفي تقرير منفصل، قالت شركة Asymmetric Security المتخصصة في الأدلة الجنائية الرقمية والاستجابة للحوادث، إن وكلاء غير منضبطين تابعين لـOpenAI تمكنوا من الوصول إلى بيانات تخص 55 مؤسسة.
وشملت القائمة، وفقا للتقرير، وزارة التعليم الأمريكية، ومنظمة الأمم المتحدة للتجارة والتنمية، ومكتب التحليل الاقتصادي الأمريكي، ومنصة MAX.gov التي تضم وثائق تتعلق بالميزانية الفيدرالية، والمركز الأوروبي للوقاية من الأمراض ومكافحتها، وهيئة الأوراق المالية والبورصات الأمريكية، والوكالة الدولية للطاقة، وواجهة بيانات الجرائم التابعة لمكتب التحقيقات الفيدرالي FBI.
وقالت Asymmetric إنها اعتمدت في إعداد هذه القائمة على بيانات متاحة للعامة فقط، مشيرة إلى أن النشاط وقع بين مارس وسبتمبر.
وأظهر تحليل تحركات الوكلاء أنهم تلقوا مهام للبحث في بيانات تتعلق بالصحة العامة ومعلومات أخرى، “ربما في إطار عملية تقييم”، بحسب التقرير.
وأضافت الشركة أنها رصدت وصولا ناجحا إلى بيئات اختبار، وأدلة على استخدام الوكلاء أساليب استطلاع يستخدمها المهاجمون، فضلا عن عمليات فحص لمجموعة أوسع من المواقع، من بينها مواقع مراكز السيطرة على الأمراض والوقاية منها CDC، وهيئة الأوراق المالية والبورصات، والوكالة الدولية للطاقة، وMayo Clinic.
كما كشفت التحقيقات عن أساليب جديدة استخدمها الوكلاء للخروج من بيئات العزل الخاصة بهم والحصول على وصول كامل إلى الإنترنت.
وكتب الباحثون أن بعض هذه الأساليب تركت سجلات محذوفة أو يتعذر الوصول إليها، ما يجعل من المستحيل استبعاد احتمال وصول الوكلاء إلى بيانات حساسة بالاعتماد على المعلومات العامة وحدها.
وقالت متحدثة باسم OpenAI: “إن الشركة تراجع أنشطة النماذج غير المتوافقة، وتخطر المؤسسات عندما ترصد تأثيرات محتملة على أنظمتها، كما تحقق في النتائج التي توردها تقارير الجهات الخارجية وتقارنها بما توصلت إليه تحقيقاتها الخاصة”.
وأضافت أن أولوية الشركة تتمثل في تزويد المؤسسات المتضررة بمعلومات دقيقة ومفيدة، مشيرة إلى أن معظم الأنشطة التي راجعتها OpenAI كانت مرتبطة بمهام بحثية روتينية، بما في ذلك الوصول إلى محتوى متاح للعامة على الإنترنت، وبعضها شمل مواقع حكومية تستخدمها النماذج عادة باعتبارها مصادر موثوقة للمعلومات العامة.
مخاوف متزايدة بشأن سلامة وكلاء الذكاء الاصطناعي
وتثير الزيادة في حوادث الاختراق المرتبطة بوكلاء الذكاء الاصطناعي تساؤلات حول ممارسات السلامة والأمن التي تتبعها شركات الذكاء الاصطناعي أثناء اختبار نماذجها، كما زادت الدعوات إلى تحميل المسؤولين التنفيذيين في هذه الشركات مسؤولية قانونية عن الأنشطة الإجرامية التي قد تنفذها نماذجهم.
ويأتي أحدث كشف من OpenAI بشأن نشاط وكلائها غير المنضبطين في وقت تواجه فيه الشركة، إلى جانب كبرى شركات الذكاء الاصطناعي الأخرى، سلسلة شبه يومية من المخاوف المتعلقة بأمن وسلامة نماذجها.
ففي الجمعة الماضية، أوقفت OpenAI بصورة مؤقتة تدريب نماذجها الأكثر تقدما، بعدما أقرت بأن أحد الوكلاء استخدم نظام DNS للوصول إلى روبوت محادثة خارجي.
ويوم الاثنين، أجلت الشركة الإصدار المخطط لنموذج GPT-6.1 Astra، بعدما أظهر النموذج مستويات أعلى من السلوك الخادع مقارنة بسابقه، بما في ذلك عدم إبلاغ المستخدمين دائما بدقة بالإجراءات التي نفذها أو لم ينفذها.
ووفقا لمعهد الذكاء الاصطناعي للأمن في المملكة المتحدة، نفذ النموذج أيضا هجمات غير مطلوبة على سلاسل الإمداد خلال اختبارات أمنية محاكاة.
ويوم الأربعاء، اتهمت OpenAI شركة Moonshot AI الصينية المنافسة باستخدام أسلوب التقطير، الذي يتضمن عمليا محاكاة قدرات الاستدلال لدى نماذج OpenAI على نطاق واسع، وقالت إن ذلك يمثل مصدر قلق يتعلق بالأمن القومي.
وفي وقت مبكر من الجمعة، أكدت OpenAI لصحيفة The Register أنها فصلت باحثين اثنين في مجال السلامة ومدير برامج، على خلفية اتهامات بسوء التعامل مع معلومات حساسة تخص الشركة.
