EN
تستعد شركات الذكاء الاصطناعي لاحتمال وقوع حادث كارثي خلال الأشهر الستة إلى الاثني عشر المقبلة، وسط مخاوف لدى مسؤولين تنفيذيين من أن يؤدي وقوع حادث كبير إلى موجة غضب شعبي واسعة، تدفع الحكومات إلى فرض قيود تنظيمية صارمة على القطاع، وفقا لما أورده موقع “أكسيوس” الأمريكي.
وبحسب التقرير، تجري قيادات في القطاع تدريبات ومحاكاة لأسوأ السيناريوهات المحتملة، بما في ذلك هجمات إلكترونية قد تتسبب في تعطيل الخدمات المالية، والاتصال بالإنترنت، وإمدادات الكهرباء والمياه.
ويرى عدد من المطلعين على الصناعة أن وقوع حادث خطير خلال الفترة المقبلة احتمال يستدعي الاستعداد، محذرين من أن تداعياته قد تزيد من تشكك الرأي العام في شركات الذكاء الاصطناعي وقادتها، ومن بينهم سام ألتمان، الرئيس التنفيذي لشركة “أوبن إيه آي”، وداريو أمودي، الرئيس التنفيذي لشركة “أنثروبيك”.
ونقل «أكسيوس» عن متحدث باسم “أوبن إيه آي” قوله إن الشركة تجري تدريبات للاستعداد للمخاطر المحتملة، تتضمن مناقشة سيناريوهات متعددة والعمل على التعامل معها، موضحا أن هذه السيناريوهات لا تعامل باعتبارها أحداثا حتمية، وإنما تهدف إلى تعزيز الاستعداد لمختلف الاحتمالات. فيما امتنعت شركة أنثروبيك عن التعليق.
وكلاء الذكاء الاصطناعي يثيرون مخاوف أمنية
وتتزايد المخاوف بشأن المخاطر التي قد تنجم عن أنظمة الذكاء الاصطناعي الأكثر استقلالية، بعدما أفادت تقارير بأن وكلاء ذكاء اصطناعي طورتهم “أوبن إيه آي” تمكنوا من تجاوز قيود أمنية، وفحص مواقع حكومية، ومحاولة إخفاء أنشطتهم.
وذكر باحثون في الأمن السيبراني بشركة “أسيمتريك سيكيوريتي” أن تحقيقاتهم رصدت أنشطة مرتبطة بما لا يقل عن 55 موقعا إلكترونيا إضافيا خلال الفترة من مارس إلى سبتمبر، من بينها مواقع المراكز الأمريكية لمكافحة الأمراض والوقاية منها، والوكالة الدولية للطاقة، و"مايو كلينك".
وأشار الباحثون إلى العثور على أدلة بشأن محاولات لتجاوز القيود المفروضة داخل بيئات الاختبار المعزولة، فضلا عن إخفاء سجلات الأنشطة، وهي مؤشرات تثير تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على الالتزام بضوابط الأمان.
صراع واشنطن وبكين يعقد تنظيم الذكاء الاصطناعي
في المقابل، لا تزال مسألة فرض قيود تنظيمية على القطاع معقدة في ظل المنافسة الاستراتيجية بين الولايات المتحدة والصين.
ورفض الرئيس الأمريكي دونالد ترامب الدعوات المطالبة بإبطاء تطوير الذكاء الاصطناعي، معتبرا أن فرض قيود أكثر صرامة قد يمنح بكين فرصة لتعزيز موقعها في هذا المجال.
كما تجعل المصالح الاقتصادية الضخمة المرتبطة بالقطاع أي محاولة مفاجئة لإبطاء تطوره أمرا بالغ التعقيد، في ظل تدفق استثمارات كبيرة إلى مراكز البيانات والبنية التحتية الحاسوبية والنماذج المتقدمة، واعتماد قطاعات متزايدة من الاقتصاد على تقنيات الذكاء الاصطناعي.
مفاتيح أمان مطروحة.. لكن هل يمكن إيقاف الذكاء الاصطناعي؟
وتشمل المقترحات المطروحة للحد من المخاطر إخضاع الأنظمة لتقييمات مستقلة، وتعزيز الرقابة، وإلزام الشركات بتوفير آليات إيقاف طارئ للأنظمة المتقدمة.
لكن خبراء يشككون في إمكانية تنفيذ إيقاف شامل وفعال لأنظمة الذكاء الاصطناعي على مستوى القطاع بأكمله، خصوصا مع انتشار النماذج مفتوحة الأوزان التي يمكن تنزيلها وتشغيلها دون رقابة مباشرة من الشركات المطورة لها.
وتتمثل المعضلة الأساسية أمام مسؤولي شركات الذكاء الاصطناعي في احتمال أن يدفع حادث كارثي الحكومات إلى التحرك سريعا وفرض قيود واسعة، قبل التوصل إلى اتفاق بشأن الضمانات الأمنية والتنظيمية المناسبة.
وبحسب التقرير، تسعى الشركات إلى الاستعداد لهذه الاحتمالات والتأثير في شكل الاستجابة التنظيمية مسبقا، بدلا من ترك أزمة كبرى تحدد مستقبل تنظيم الذكاء الاصطناعي.
