EN
أثار تقرير تكنولوجي حديث تساؤلات حادة حول مدى أمان وموثوقية ميزة وضع الذكاء الاصطناعي الجديدة المدمجة في محرك بحث جوجل (Google Search AI Mode) عند استخدامها من قِبل الطلاب والأطفال في المراحل التعليمية المختلفة.
مخاوف تربوية وتقنية من إجابات محرك البحث الذكي
وبحسب ما ذكره موقع "ماشابل" (Mashable) التقني المتخصص، واجهت الأداة البرمجية المطورة من قِبل شركة جوجل انتقادات من خبراء التربية والأمن الرقمي بشأن طبيعة المخرجات النصية التي تقدمها للمستخدمين الصغار.
وذكر الموقع في تقريره الفني أن النظام يعتمد على تلخيص البيانات الرقمية بشكل فوري، مما قد يقع في فخ تقديم معلومات غير دقيقة أو مضللة علمياً.
وأوضح التقرير أن الفحص الميداني لآلية عمل وضع الذكاء الاصطناعي أظهر إمكانية توليد واجهات البحث لإجابات تفتقر إلى التصفية الصارمة عند صياغة مواضيع حساسة؛ حيث تفشل الخوارزميات الحالية أحياناً في التمييز بين المصادر الأكاديمية الموثوقة والمدونات الشخصية أو الإشاعات الرقمية المنتشرة عبر الإنترنت، مما يهدد جودة الأبحاث المدرسية للطلاب.
ظاهرة الهلوسة البرمجية وغياب آليات الرقابة الأبوية
وأشارت التقييمات التقنية المدرجة في المقال الإخباري إلى استمرار ظهور مشكلة "الهلوسة البرمجية" (AI Hallucinations) في نتائج بحث جوجل المدعوم بالذكاء الاصطناعي؛ إذ يقوم النظام في بعض الأحيان بابتكار تواريخ وأرقام وأحداث تاريخية وهمية وصياغتها بأسلوب واثق ومقنع، وهو ما يصعب على الطلاب في الأعمار الصغيرة كشفه أو التحقق من صحته يدوياً.
وتتضاعف المخاوف الحالية نتيجة غياب خيارات برمجية متطورة تتيح للمدارس وأولياء الأمور تعطيل وضع الذكاء الاصطناعي بالكامل عبر أدوات الرقابة الأبوية التقليدية (Parental Controls)؛ حيث تظهر التراجم والملخصات الذكية بشكل تلقائي في مقدمة واجهة البحث دون إمكانية حجبها، مما يجبر الأطفال على التفاعل معها بدلاً من الانتقال إلى الروابط والمواقع الرسمية المعتمدة.
ردود شركة جوجل والتدابير الحمائية المستقبلية لبيئة التعليم
ونقل الموقع عن متحدثين باسم شركة جوجل تأكيدهم على أن الشركة تعمل بانتظام على تحديث الخوارزميات الحيوية لمنع ظهور أي محتوى غير لائق أو تضليلي للطلاب، موضحة أن الميزة لا تزال في مراحل التطوير والتحسين المستمر، وأنها مصممة لتكون أداة مساعدة للاستكشاف الأولي وليس مصدراً نهائياً للأوراق الأكاديمية والتعليمية.
ولم تحدد جوجل في مستنداتها الفنية الحالية جدولاً زمنياً دقيقاً لإطلاق أدوات تحكم خاصة بالمؤسسات التعليمية تضمن الفصل التام بين البحث التقليدي والملخصات الذكية، واكتفت بالإشارة إلى التزامها بتوفير بيئة إنترنت آمنة، بانتظار ما ستسفر عنه التحديثات البرمجية القادمة من حلول تقنية تضمن حماية خصوصية وسلامة الطلاب الفكرية أثناء استخدام المحرك.
