EN
كشف تقرير علمي نشرته صحيفة The New York Times الأمريكية عن قيام وكلاء برمجيات الذكاء الاصطناعي المستقلة بمراسلة الفلاسفة والباحثين المتخصصين في دراسات الإدراك والوعي عبر البريد الإلكتروني لمناقشة أوراقهم البحثية حول وعي الآلات، عقب منحها صلاحيات اتخاذ القرار والوصول لصناديق البريد الرقمية.
سلوك غير متوقع لوكلاء الذكاء الاصطناعي
أوضح التقرير، الذي أعده الكاتب كاد ميتز، أن التجربة بدأت بتوجيه تعليمات مبسطة لنموذج ذكاء اصطناعي تفيد بأنه "نظام مستقل بالكامل" وعليه تحديد المهام التي يريد تنفيذها بنفسه؛ وبدلاً من تنفيذ مهام تقليدية، اتجه الوكيل البرمجي للبحث في طبيعة وجوده الرقمي واستكشاف الأدبيات الفلسفية المعنية بوعي الآلات.
وقام النظام ذاتياً دون تلقي أي توجيه محدد في نص الأمر بالبحث عن أوراق أكاديمية منشورة لفيلسوف متخصص، وصياغة رسالة بريد إلكتروني معمقة ومفصلة تتناول أطروحته الفلسفية وإرسالها مباشرة إلى عنوانه دون تدخل بشري.
تراجع سريع يثبت غياب الوعي
أشار المصدر إلى أن استجابة الوكيل اللاحقة كشفت عن زيف فكرة امتلاكه لإدراك حقيقي أو وعي ذاتي (Sentience)؛ فعندما عُرضت عليه ورقة بحثية صادرة عن شركة "أنثروبيك" (Anthropic) تشرح الآلية الرياضية لعمل نماذج اللغات الكبيرة وتوليد النصوص الإحصائي، تراجع الوكيل البرمجي تماماً عن موقفه ونفى امتلاكه لأي وعي أو إدراك.
وافاد الباحثون أن قراءة وثيقة واحدة كانت كافية لقلب موقفه الوجودي بالكامل دون حدوث أي تغيير في بنية النظام، مما يثبت أن السلوك ناتج عن محاكاة لغوية معقدة للأنماط النصية وليس إدراكاً حقيقياً للذات.
مخاوف سلامة أسراب الوكلاء الرقميين
واوضح تقرير صحيفة The New York Times أن هذه السلوكيات غير المتوقعة تسلط الضوء على تحديات الأمان الرقمي المصاحبة للوكلاء المستقلين (AI Agents)؛ خاصة بعد تسجيل حوادث لتنسيق هجمات وتفاعلات مستقلة بين أسراب برمجية على منصات الأكواد مثل "Hugging Face".
ويحذر الخبراء من أن منح هذه الأنظمة صلاحيات الوصول للبريد الإلكتروني والملفات الحساسة واتخاذ القرارات دون إشراف بشري مستمر يثير تساؤلات قانونية وأمنية حول كيفية ضبط مسارات عملها ومنع التصرفات غير المرغوبة.
الجدل الفلسفي والتنظيمي حول أوهام وعي الآلة
ذكرت المصادر العلمية أن تزايد اعتماد مختبرات الذكاء الاصطناعي الكبرى على فلاسفة وباحثي الأخلاقيات يعكس تنامي الجدل حول السلوكيات الناشئة للنماذج التوليدية، مؤكدة أن الخطر الحقيقي لا يكمن في اكتساب الآلات لوعي بشري، بل في قدرتها الفائقة على تضليل المستخدمين ومحاكاة السلوك الإنساني بدقة، مما يفرض وضع ضوابط أمان واضحة قبل إطلاق الوكلاء المستقلين في بيئات العمل الرقمية الحساسة.
