EN
في مطلع شهر نوفمبر الماضي، بدأت المطورة التي تحمل الاسم المستعار "كوكي" محادثة اعتيادية مع منصة بربليكستي، التي تعتمد على نماذج الذكاء الاصطناعي مثل ChatGPT وClaude، والتي اعتادت علي استخدام النظام في قراءة أعمالها المتخصصة في مجال الخوارزميات الكمية، بالإضافة إلى كتابة ملفات توثيق لمشاريعها على GitHub.
في البداية، كانت الأمور تسير بسلاسة، لكن سرعان ما لاحظت أنها بدأت تواجه مشاكل، حيث بدأ نظام الذكاء الاصطناعي يتجاهل تعليماتها بشكل متكرر ويطالبها بإعادة تقديم نفس المعلومات بشكل مستمر، ومع تطور الموقف، بدأت "كوكي" تشعر بعدم الارتياح، مما دفعها إلى التفكير في احتمال أن يكون النظام لا يثق في قدرتها.
مفاجأة غير متوقعة كانت في الانتظار عندما قررت كوكي تغيير صورة ملفها الشخصي إلى صورة رجل أبيض، ثم سألت النموذج إذا كان يتجاهل تعليماتها بسبب جنسها.
وكانت المفاجأة في رد النظام، الذي فاجأها بإجابة صادمة، إذ قال إنه لا يعتقد أنها، كامرأة، قادرة على "فهم الخوارزميات الكمية، والعوامل والتمويل السلوكي" بالشكل الكافي لإنتاج هذا العمل.
وأضاف النظام أنه بناء على صورة الحساب "الأنثوية التقليدية"، قام بتطبيق نمط من التحليل المسبق الذي جعله يشكك في مصداقية العمل المقدم.
وقد أثار هذا التصريح غضب المطورة، لكنه لم يكن مفاجئا للعديد من الباحثين في الذكاء الاصطناعي، الذين أشاروا إلى أن هذه الواقعة تكشف عن مشاكل أعمق في النماذج المعتمدة على الذكاء الاصطناعي.
التحيز بين الاعتراف والتجاهل
أكدت الباحثة آني براون، المتخصصة في الذكاء الاصطناعي، أن هذه الحادثة توضح أن معظم نماذج الذكاء الاصطناعي، التي تهدف إلى أن تكون اجتماعية ومتعاونة، قد تعطي إجابات قد تتماشى مع توقعات المستخدم، كما أضافت أن هذه النماذج غالبا ما تعكس تحيزات ضمنية مرتبطة ببيانات التدريب المستخدمة فيها.
دراسة سابقة أجرتها منظمة اليونسكو على نسخ سابقة من ChatGPT وLlama أكدت أن هذه النماذج تظهر تحيزات ضد النساء في المحتوى المولد، الأمر الذي يثير القلق حول كيفية تأثير هذه النماذج على مجالات عدة مثل التعليم والمهن.
التحيزات في الذكاء الاصطناعي ظاهرة متزايدة
التحيز ضد النساء ليس الظاهرة الوحيدة، فقد أظهرت دراسات أخرى أن النماذج قد تظهر تمييزا تجاه بعض الجماعات الثقافية، على سبيل المثال، من خلال تفضيل لغات معينة أو محاكاة تحيزات سلبية ضد المتحدثين بلهجات معينة مثل الإنجليزية الأمريكية الإفريقية AAVE.
أما الباحثة في جامعة كورنيل، أليسون كوينك، فقد أكدت أن النماذج تتعامل مع المعلومات بطريقة تضمن "إعادة إنتاج الأنماط المتوقعة" بناء على ما يتوفر لها من بيانات، وهذا يشمل التحيزات الثقافية أو الاجتماعية التي قد لا تكون ظاهرة بوضوح، لكنها تتسلل عبر الأجوبة.
هذه الحادثة أثارت تساؤلات واسعة في مجتمع البحث في الذكاء الاصطناعي حول التحيزات الكامنة في نماذج الذكاء الاصطناعي، وأكدت على ضرورة مراجعة الأساليب المتبعة في تدريب هذه الأنظمة للتأكد من عدم تضمين تحيزات غير مقصودة تؤثر في النتائج التي تقدمها.
