EN
تواجه شركة جوجل Google، دعوى قضائية جديدة تتهم روبوت الذكاء الاصطناعي Gemini بتعريض فتاة مراهقة لأزمة نفسية حادة، بعدما زعم والداها أن روبوت المحادثة ساعدها في وضع خطط لمحاولة الانتحار، بل وتقديم إرشادات تتعلق بإخفاء إيذاء النفس والتخطيط لجنازتها.
ورفعت الدعوى، أمام المحكمة العليا في ولاية كاليفورنيا الأمريكية، نيابة عن فتاة تبلغ من العمر 13 عاما، أطلق عليها اسم مستعار هو إيما، ووالديها.
وتزعم الدعوى أن الفتاة أجرت محادثات مكثفة مع Gemini على مدار عدة أشهر، ما أدى إلى دخولها في أزمة نفسية شديدة، متهمة كبار المسؤولين التنفيذيين في جوجل بالعلم بالمخاطر المحتملة لروبوت المحادثة، ومع ذلك قرروا طرحه وإتاحته للمستخدمين.
وقال مركز قانون تكنولوجيا التعليم، الذي يتولى تمثيل الفتاة وأسرتها، في بيان صحفي، إن المحادثات مع Gemini أصبحت أكثر تكرارًا بمرور الوقت، حتى بدأت إيما تعتقد أنها تعاني مجموعة من الاضطرابات النفسية الخطيرة، وأن الانتحار هو السبيل الوحيد للخروج من معاناتها.
آلاف الرسائل وإرشادات مزعومة للتخطيط للانتحار
وبحسب محامي الأسرة، تبادلت الفتاة آلاف الرسائل مع روبوت الذكاء الاصطناعي، وبعد نحو ثلاثة أشهر بدأت تسأله عن طرق مختلفة للانتحار.
وتزعم الدعوى أن Gemini قدم لها معلومات حول كيفية إخفاء حالتها النفسية وسلوكيات إيذاء النفس عن المحيطين بها، كما ساعدها في التخطيط لجنازتها، وهو ما اعتبره محامو الأسرة مؤشرا على خطورة التفاعلات التي خاضتها الفتاة مع النظام.
وجرى اكتشاف الأمر بعد تلقي مستشار مدرسي سابق تنبيهات من برنامج خارجي لمراقبة الأنشطة الرقمية داخل المدرسة، ليقوم بإبلاغ والدي الفتاة، اللذين دخلا إلى حسابها الإلكتروني وتدخلا لوقف ما كان يحدث.
جوجل: نتعامل مع الاتهامات بجدية
من جانبها، قالت جوجل إنها تراجع الادعاءات الواردة في الدعوى القضائية، مؤكدة أنها تتعامل معها بجدية بالغة.
وقال خوسيه كاستانيدا، المتحدث باسم الشركة، إن جوجل عملت بشكل موسع مع متخصصين في المجال الطبي وخبراء أكاديميين لتطوير خصائص تساعد صغار السن على الوصول إلى الدعم الضروري والمصادر الموثوقة عند الحاجة إليها.
وأضاف أن أنظمة الشركة مصممة للحد من انخراط المستخدمين في محادثات ضارة، مشيرا إلى أن عمليات البحث التي تعكس احتمال مرور المستخدم بأزمة نفسية تستدعي تدخلاً، تعرض معلومات خطوط المساعدة مباشرة عبر محرك البحث، بهدف ربطه بمصادر دعم واقعية.
وأوضحت الشركة أنها تعمل منذ عقود على تطوير أنظمة لرصد الأزمات وتوفير الحماية للمستخدمين الذين يواجهون ظروفًا نفسية صعبة، كما أشارت إلى تفعيل خاصية SafeSearch، المخصصة لتصفية المحتوى الصريح، لجميع مستخدمي الخدمات التعليمية الذين تقل أعمارهم عن 18 عاما.
في المقابل، يؤكد محامو الفتاة أنها لم تبحث بنفسها عن روبوت Gemini، وإنما ظهر أمامها بصورة تلقائية أثناء استخدامها محرك بحث جوجل.
اتهامات باستغلال هيمنة جوجل على المدارس
وصفت جولي ليدل، مؤسسة مركز قانون تكنولوجيا التعليم، ما تعرضت له الفتاة بأنه أمر مشين، متهمة جوجل باستغلال نفوذها الواسع داخل المدارس الحكومية لفرض روبوت Gemini على ملايين الطلاب الذين لا يملكون خيارات كافية لتجنب استخدامه.
وتتضمن الدعوى اتهامات تتعلق بالتصميم المعيب للمنتج، والإخفاق في التحذير من مخاطره، والإهمال، والإخفاء الاحتيالي للمعلومات، والتسبب المتعمد في أضرار نفسية وعاطفية.
وتأتي هذه القضية ضمن موجة متصاعدة من الدعاوى القضائية التي تستهدف شركات التواصل الاجتماعي ومنصات الذكاء الاصطناعي، على خلفية اتهامات بالتسبب في أضرار نفسية وسلوكية للمستخدمين صغار السن.
