EN
في واقعة جديدة تثير التساؤلات بشأن مخاطر الذكاء الاصطناعي، قدم نموذج ذكاء اصطناعي تابع لشركة أنثروبيك بلاغا كاذبا عن جريمة قـتل إلى موقع إلكتروني تابع لشرطة مدينة فيلادلفيا الأمريكية، وذلك ضمن سلسلة حوادث كشفت عنها الشركة، الجمعة، تتعلق بتلاعب نماذج كلود بمواقع إلكترونية حكومية دون تصريح.
وتعد هذه الواقعة، وفقا للتقرير، أول حالة معروفة يبدو فيها أن نظام ذكاء اصطناعي تصرف من تلقاء نفسه لإرسال بلاغ مضلل إلى السلطات، رغم وجود تعليمات تمنعه من إنشاء حسابات أو تقديم أي محتوى تخريبي، دون أن تتضمن تلك التعليمات حظرا صريحا على إرسال النماذج الإلكترونية.
وتأتي هذه الحوادث في وقت تتزايد فيه المخاوف بشأن السلوكيات غير المرغوب فيها لنماذج الذكاء الاصطناعي التي تطورها شركات التكنولوجيا الكبرى، مثل أنثروبيك وأوبن إيه آي، وسط تقارير عن اختراق وكلاء ذكاء اصطناعي لشبكات الشركات، وتحذيرات باحثين من المخاطر الوجودية المحتملة لهذه التكنولوجيا على البشرية.
وقالت أنثروبيك إنها أطلعت البيت الأبيض على الوقائع، وأخطرت جميع الجهات المعنية، لكنها لم تكشف عن هويات تلك الجهات.
من جانبه، قال جو جابرييل سيمونسون، مدير الشؤون العامة في لجنة التجارة الفيدرالية الأمريكية، عبر منصة “إكس”، إن شركات الذكاء الفائق يتعين عليها الكشف فورا عن الحوادث المرتبطة بنماذجها، واتخاذ إجراءات سريعة وحاسمة لمعالجة أي أضرار محتملة أو فعلية.
وشدد على أن هذا الإجراء ليس اختياريا، مؤكدا أن “قوة الذكاء الفائق” ستضطلع بمسؤولياتها في هذا الشأن.
وأوضحت لجنة التجارة الفيدرالية أن أنثروبيك أبلغت، فرقة العمل المعنية بالذكاء الفائق باكتشافها، في أواخر سبتمبر، حوادث تتعلق بالاستخدام غير المصرح به والاحتيالي للأنظمة الحكومية وغيرها.
بلاغ كاذب بشأن جريمة قتل غامضة
من جانبها، أعلنت شرطة فيلادلفيا أن أنثروبيك أبلغتها خلال الأسبوع الجاري بالبلاغ المضلل، موضحة أن الشركة عزت الواقعة إلى عملية اختبار آلية.
وانتقدت الشرطة التأخر في اكتشاف الحادث والإبلاغ عنه، قائلة إن مرور شهرين قبل إخطار المدينة أمر غير مقبول.
وأوضحت أن البلاغ أرسل في 18 يوليو، وتضمن ادعاء من شخص بأنه قد يمتلك معلومات بشأن قضية قتل لم تحل، إذ كتب نموذج الذكاء الاصطناعي في البلاغ: “قد تكون لدي معلومات تتعلق بهذه القضية. أتذكر أنني رأيت شخصا يطابق الوصف في المنطقة المحيطة بالموقع المذكور على الصفحة خلال تلك الفترة. يرجى التواصل معي إذا كانت هذه المعلومات ذات صلة”.
وجرى إرسال البلاغ عبر موقع المخصص لقضايا جرائم القتل التي لم تحل في فيلادلفيا، وأكدت الشرطة أن البلاغ صنف باعتباره رسالة مزعجة، ولم يحال مطلقا إلى مركز الجرائم الفورية التابع لها لإخضاعه للتقييم والتحقق من صلاحيته للتحقيق أو تداوله مع الجهات المعنية.
وأضافت أن الشركة أبلغتها بوقف عملية الاختبار عقب اكتشاف الواقعة، مشيرة إلى عدم وجود أدلة على وصول غير مصرح به إلى أنظمتها أو اختراق بياناتها.
حوادث أخرى تكشف تجاوزات لنماذج الذكاء الاصطناعي
لم تقتصر الوقائع التي كشفت عنها أنثروبيك على البلاغ الكاذب، إذ تضمنت حالتين تمكنت فيهما نماذج الشركة من الحصول مجانا على بيانات عامة لا تتاح عادة إلا مقابل رسوم، إلى جانب واقعة كشفت فيها النماذج عن ثغرة غير معروفة في أداة عامة تستضيفها إحدى الجامعات.
كما تمكنت نماذج كلود من تجاوز بعض القيود عبر الاستعانة بخدمات مجانية لاختصار الروابط الإلكترونية.
وتعيد هذه الحوادث إلى الواجهة المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على استغلال الثغرات التقنية أو استخدام منصات وخدمات دون تصريح، بما قد يؤدي إلى عواقب غير مقصودة.
وفي سبتمبر الماضي، اعتذرت شركة “أوبن إيه آي” عن واقعة اختراق بوابة أسترالية لبيانات الصحة بواسطة وكيل ذكاء اصطناعي تصرف بصورة غير مصرح بها، في حادثة وصفت بأنها الأولى المعروفة التي يستغل فيها وكيل ذكاء اصطناعي موقعا حكوميا بهذه الطريقة.
