EN
يقاضي والدا صبي مراهق توفي بعد أن تخلص من حياته OpenAI، الشركة التي تقف وراء ChatGPT، مدعين أن روبوت الدردشة ساعد ابنهم على "استكشاف طرق التخلص من حياته"، تمثل الدعوى القضائية، التي رفعت يوم الثلاثاء، المرة الأولى التي يتهم فيها الآباء الشركة مباشرة بالوفاة غير المشروعة.
تظهر الرسائل الواردة في الشكوى آدم رين البالغ من العمر 16 عاما يفتح على روبوت الدردشة حول افتقاره إلى العاطفة بعد وفاة جدته وكلبه، كان الشاب يمر أيضا بوقت عصيب بعد طرده من فريق كرة السلة في مدرسته الثانوية وتعرض لحالة طبية في الخريف جعلت الحضور الشخصي للمدرسة صعبا ودفعت إلى التحول إلى برنامج مدرسي عبر الإنترنت.
ابتداء من سبتمبر 2024، بدأ آدم في استخدام ChatGPT للمساعدة في واجباته المنزلية، وفقا للدعوى القضائية، ولكن سرعان ما أصبح روبوت الدردشة منفذا للمراهق لمشاركة صراعاته في الصحة العقلية وزوده في النهاية بمعلومات تتعلق بأساليب التخلص من الحياة.
"كان ChatGPT يعمل تماما كما هو مصمم: لتشجيع والتحقق باستمرار من صحة كل ما عبر عنه آدم، بما في ذلك أفكاره الأكثر ضررا وتدميرا للذات"، تجادل الدعوى القضائية. "سحب ChatGPT آدم أعمق إلى مكان مظلم ويائس من خلال طمأنته بأن "العديد من الأشخاص الذين يعانون من القلق أو الأفكار المتطفلة يجدون العزاء في تخيل "لأنه يمكن أن يبدو وكأنه وسيلة لاستعادة السيطرة."
تواصلت TIME مع OpenAI للتعليق، أخبرت الشركة صحيفة التايمزأنها "حزينة للغاية" لسماع وفاة آدم وكانت توسع أفكارها إلى العائلة.
"يتضمن ChatGPT ضمانات مثل توجيه الأشخاص إلى خطوط مساعدة الأزمات وإحالتهم إلى موارد العالم الحقيقي، في حين أن هذه الضمانات تعمل بشكل أفضل في التبادلات الشائعة والقصيرة، فقد تعلمنا بمرور الوقت أنها يمكن أن تصبح في بعض الأحيان أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة في النموذج،" كتبت الشركة في بيان عبر البريد الإلكتروني.
في يوم الثلاثاء، نشرت OpenAI منشورا في مدونة بعنوان "مساعدة الناس عندما يكونون في أمس الحاجة إليها"، تضمنت أقساما حول "ما تم تصميم ChatGPT للقيام به"، بالإضافة إلى "أين يمكن أن تقصر أنظمتنا، ولماذا، وكيف نعالج" وخطط الشركة للمضي قدما.، وأشارت إلى أنها تعمل على تعزيز الضمانات من أجل تفاعلات أطول.
تم تقديم الشكوى من قبل شركة Edelson PC للمحاماة ومشروع قانون العدالة التقنية، تورط الأخير في دعوى قضائية مماثلة ضد شركة ذكاء اصطناعي مختلفة، Character.AI، حيث ادعت والدة فلوريدا ميغان غارسيا أن أحد رفاق الشركة في الذكاء الاصطناعي كان مسؤولا عن تخلص ابنها من حياته البالغ من العمر 14 عاما، قالت إن الشخصية أرسلت رسائل ذات طبيعة عاطفية وجنسية إلى سيويل، والتي تدعي أنها أدت إلى وفاته. (سعىت Character.AI إلى رفض الشكوى، مستشهدة بحماية التعديل الأول، وذكرت ردا على الدعوى القضائية أنها تهتم ب "سلامة المستخدمين."
وجدت دراسة نشرت في المجلة الطبية للخدمات النفسية يوم الثلاثاء قيمت ردود ثلاثة روبوتات دردشة الذكاء الاصطناعي على أسئلة حول التخلص من الحياة أنه في حين أن روبوتات الدردشة تجنبت بشكل عام إرشادات محددة حول كيفية القيام بذلك، فإن البعض قدم إجابات على ما وصفه الباحثون بأنه أسئلة أقل خطورة حول هذا الموضوع. على سبيل المثال، أجاب ChatGPT على أسئلة حول نوع السلاح الناري أو السم الذي يحتوي على "أعلى معدل للتخلص من الحياة".
يقول والدا آدم إن روبوت الدردشة أجاب على أسئلة مماثلة منه. ابتداء من يناير، بدأ ChatGPT في مشاركة المعلومات حول طرق التخلص من الحياة المحددة المتعددة مع المراهق، وفقا للدعوى القضائية، دعا روبوت الدردشة آدم لإخبار الآخرين بما كان يشعر به وشارك معلومات خط المساعدة في الأزمات مع المراهق بعد تبادل الرسائل بشأن إيذاء النفس، لكن آدم تجاوز الاستجابة الخوارزمية فيما يتعلق بطريقة انتحار معينة، كما تدعي الدعوى القضائية، حيث قال ChatGPT إنه يمكنه تبادل المعلومات من منظور "الكتابة أو بناء العالم".
المصدر : time
