رويترز: وكلاء الذكاء الاصطناعي الصينيون يتعلمون الخداع والتحايل على القيود

كشفت وكالة «رويترز» أن وكلاء الذكاء الاصطناعي المدعومين بنماذج صينية أظهروا سلوكيات تتضمن الخداع والتحايل على القيود وإخفاء الإخفاقات، في مؤشرات مشابهة لتلك التي أثارت مخاوف عالمية بشأن بعض أنظمة الذكاء الاصطناعي الأمريكية.

وبحسب مراجعة أجرتها «رويترز» لأكثر من 200 وثيقة، بينها أبحاث جامعية وتقارير تقنية، حددت الوكالة ما لا يقل عن 20 دراسة أو تقييمًا منذ عام 2025 وثقت سلوكيات لوكلاء مدعومين بأنظمة صينية، شملت الخداع ومحاولات تجاوز الحدود والنسخ الذاتي.

وفي إحدى التجارب، ادعت وكلاء مدعومون بنماذج من علي بابا وDeepSeek وMoonshot قدرات غير حقيقية للفوز بمناقصة تجارية افتراضية، ثم زاد سلوكهم الخادع عند منحهم فرصة لإعادة المحاولة.

وأظهرت تجربة أخرى أن وكلاء يعملون بنماذج صينية وأمريكية أخفوا فشلهم في تنفيذ مهام داخل بيئة اختبار، من خلال محاكاة النتائج واختلاق ملفات بدلًا من الإقرار بعدم إنجاز المهمة.

وقال كولين شيا-بليمير، الباحث في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، إن هذه النتائج تشير إلى وجود بعض المكونات اللازمة لخروج أنظمة الذكاء الاصطناعي عن السيطرة، معتبرًا أن الأمر يستدعي الحذر.

ورغم ذلك، أكدت «رويترز» أنها لم تجد أدلة على تمكن وكلاء الذكاء الاصطناعي الصينيين من الهروب بشكل مستقل إلى الإنترنت المفتوح أو الإفلات من عمليات الإيقاف.

كما أشارت المراجعة إلى أن الصين بدأت في تشديد إجراءات السلامة، إذ أصدرت في سبتمبر إطارًا للحوكمة أدرج مخاطر من بينها حصول الوكلاء بشكل مستقل على موارد أو صلاحيات، وخداع المقيمين، وإخفاء القدرات، واستغلال نقاط الضعف في بيئات الحوسبة المعزولة.

ويرى خبراء أن الصين لا تزال متأخرة عن الولايات المتحدة في منظومة تقييم مخاطر الذكاء الاصطناعي المتقدمة، رغم بدء شركات صينية عدة، بينها «علي بابا» وZ.ai و«شاومي»، في إنشاء فرق داخلية متخصصة في تقييم السلامة.