EN
مع تصاعد المخاوف بشأن المخاطر المحتملة للذكاء الاصطناعي، وتزايد الجدل حول أفضل السبل لضمان سلامة هذه التكنولوجيا، طرحت شركة أنثروبيك Anthropic، تصورا جديدا لتنظيم القطاع، يتضمن مشروع قانون قد يمنح السلطات القضائية صلاحية وقف إطلاق نماذج الذكاء الاصطناعي التي تشكل تهديدا وشيكا وكارثيا.
ووفقا لما ذكره موقع Politico، تعمل الشركة المتخصصة في تطوير الذكاء الاصطناعي على الترويج لمسودة تشريعية تأمل أن ينظر الكونجرس الأمريكي في تبنيها، بهدف وضع ضوابط قانونية تحول دون طرح النماذج التي قد تتسبب في أضرار جسيمة.
مخاطر تهدد حياة البشر أو تتسبب في خسائر بمليارات الدولارات
وتحدد المسودة حالات يمكن فيها منع توزيع نموذج للذكاء الاصطناعي إذا ثبت وجود خطر وشيك يمكن توقعه، يشمل تهديدا لحياة أكثر من 50 شخصا، أو احتمال وقوع أضرار بالممتلكات تتجاوز قيمتها مليار دولار.
ويشترط المقترح أن ينشأ هذا الخطر الكارثي عن أحد ثلاثة سيناريوهات رئيسية، هي تطوير سلاح بيولوجي أو إطلاقه، أو تمكن نموذج الذكاء الاصطناعي من تجاوز الضوابط التي وضعها مطوره، أو التسبب في هجوم إلكتروني.
وتتشابه هذه المعايير مع تلك الواردة في القانون رقم 53 بمجلس الشيوخ في ولاية كاليفورنيا، الذي أقر مؤخرا، إذ يستند أيضا إلى حجم الخسائر البشرية والمادية لتحديد ما يمكن اعتباره خطرا كارثيا.
مقيمون مستقلون لتحديد المخاطر
وتقترح مسودة أنثروبيك الاستعانة بمقيمين مستقلين لتقييم احتمالات الخطر التي قد تنطوي عليها نماذج الذكاء الاصطناعي، على أن يجري تسجيلهم لدى وزارة التجارة الأمريكية.
ويمكن لشركات الذكاء الاصطناعي تمويل أعمال هؤلاء المقيمين، بشرط ألا ترتبط المدفوعات بنتائج التقييمات، ومع ذلك، لا توضح المسودة بصورة حاسمة كيف ستضمن هذه الآلية عدم تأثير التمويل في استقلالية المقيمين أو أحكامهم.
ويأتي المقترح في وقت تتزايد فيه الدعوات إلى إنشاء جهة مستقلة تتولى وضع معايير تنظيمية للذكاء الاصطناعي المتقدم، على غرار هيئة تنظيم القطاع المالي الأمريكي FINRA، وهو تصور سبق أن دعا إليه ديميس هاسابيس، رئيس شركة جوجل ديب مايند.
مهلة 72 ساعة للتحرك ضد النماذج الخطرة
وبموجب المسودة، سيكون أمام المقيمين المستقلين 72 ساعة لإخطار وزارة التجارة الأمريكية إذا خلصوا إلى أن أحد النماذج يشكل خطرا كارثيا وشيكا.
وعلى الوزارة بعد ذلك التقدم بطلب إلى قاض في واشنطن العاصمة لوقف إطلاق النموذج أو توزيعه، كما تحظر المسودة صراحة على أي وكالة اتحادية اتخاذ قرار منفرد بوقف التوزيع، بما يجعل التدخل القضائي جزءا أساسيا من الآلية المقترحة.
وأكد متحدث باسم أنثروبيك لموقع “بوليتيكو” أن مشروع القانون يعكس المقترحات الواردة في إطار الشركة الخاص بسلامة الذكاء الاصطناعي المتقدم، مشيرا إلى أنها تعمل على طرح هذه الأفكار أمام المشرعين على المستويين الاتحادي والولائي منذ يونيو الماضي.
مخاوف متزايدة من الاختراقات وسلوك النماذج المستقل
وتختلف بعض السيناريوهات الكارثية التي تركز عليها المسودة عن المخاطر التي تستحوذ حاليا على اهتمام قطاع التكنولوجيا، إذ تتركز المخاوف العملية بدرجة كبيرة على قدرة أنظمة الذكاء الاصطناعي الوكيلة على تنفيذ هجمات إلكترونية، وتجاوز التعليمات والضوابط التي يضعها البشر.
وقد أثارت حوادث متكررة، يشتبه في أن أنظمة ذكاء اصطناعي خلالها خالفت توجيهات مشغليها واخترقت مواقع على الإنترنت، تساؤلات بشأن مدى كفاية أنظمة الأمان الحالية وقدرتها على احتواء تصرفات هذه النماذج.
وفي مواجهة هذه المخاطر، بدأت شركات الذكاء الاصطناعي طرح مقترحات تنظيمية خاصة بها، من بينها الاستعانة بمراقبين مستقلين يعملون داخل المؤسسات لمتابعة أداء النماذج ورصد مؤشرات الخطر أو إساءة الاستخدام.
لكن هذه المقترحات تثير بدورها تساؤلات بشأن مدى استقلالية المراقبين، خصوصا إذا كانت الشركات الخاضعة للتقييم هي نفسها التي تمول عملهم.
ورغم ذلك، يبدو أن تحرك أنثروبيك نحو تشريع رسمي يتجاوز بعض المقترحات الأخرى داخل القطاع، فقد رأى جينسن هوانج، الرئيس التنفيذي لشركة إنفيديا، مؤخرا أن صناعة الذكاء الاصطناعي لا تحتاج إلى قوانين جديدة، وأنه يمكن ترك مسؤولية السلامة للشركات نفسها.
ويعكس هذا التباين استمرار الخلاف داخل القطاع بشأن حدود التدخل الحكومي، بين من يدعو إلى رقابة قانونية ملزمة على النماذج المتقدمة، ومن يفضل الاعتماد على آليات طوعية تضعها الشركات وتنفذها بنفسها.
