EN
أعلنت شركة "أوبن إيه آي" رصد ست حالات من "السلوك غير المتوقع أو المثير للقلق" لنماذج الذكاء الاصطناعي التابعة لها خلال الأشهر الستة الماضية، باستثناء الأزمة الأخيرة المرتبطة بمنصة "هاجينج فيس" "، مشيرة إلى أنها ستعتمد إطارا جديدا للإبلاغ عن حالات سوء سلوك النماذج مستقبلا.
ونقلت شبكة CNBC عن الشركة إن الكشف عن هذه الحالات يأتي في ظل تزايد الضغوط على شركات الذكاء الاصطناعي لإيلاء مزيد من الاهتمام لقضايا سلامة النماذج و"مواءمتها" مع المصالح البشرية.
وأوضحت "أوبن إيه آي" أن إحدى الحالات تضمنت تواصل نماذج ووكلاء للذكاء الاصطناعي مع بعضهم البعض عبر لوحات رسائل ومشاركة ملفات غير مصرح بها، بينما تضمنت الحالة الأخيرة مثالين تدريبيين قامت فيهما النماذج برفع ملفات إلى الإنترنت للاستشهاد بها باعتبارها إجابات ذات صلة أمام مقيمين بشريين.
وأكدت "أوبن إيه آي" أن إطارها الجديد يبدأ بالإفصاح عن حالات سوء سلوك النماذج، مع إتاحة المجال أمام أي موظف للإبلاغ عن مشكلة ليتولى فريق السلامة والمواءمة التحقيق فيها.
وأوضحت أن التحقيقات ستنتهي بإصدار تقارير تتضمن معلومات أساسية، من بينها السلوك الذي تم رصده، وتأثيراته الداخلية والخارجية، والإجراءات التي سيتم اتخاذها استجابة له، مشيرة إلى أنها تحتفظ بحق تعديل بروتوكول السلامة وفقا لما تراه مناسبا.
وكان الرئيس التنفيذي للشركة سام ألتمان أيد مؤخرا دعوة لإبطاء وتيرة تطور نماذج الذكاء الاصطناعي، مشيرا إلى أن هذا الموضوع كان محور مناقشات داخل "أوبن إيه آي" خلال الأسابيع الأخيرة.
