EN
شهد الأسبوع الماضي تطورات متسارعة في عالم الذكاء الاصطناعي، بالتزامن مع تصاعد تحذيرات خبراء من أن التطور السريع للنماذج المتقدمة قد يؤدي إلى عواقب يصعب على البشر السيطرة عليها.
وحذر الباحث في مجال سلامة الذكاء الاصطناعي لدى شركة OpenAI، ماركوس ويليامز، من أن غياب تنظيم واضح للذكاء الاصطناعي قد يضع البشرية أمام خطر الانقراض خلال السنوات الثلاث المقبلة.
وقال ويليامز، في منشور عبر منصة “إكس”، إن هناك حاجة إلى وضع أطر تنظيمية تحكم نماذج الذكاء الاصطناعي، أو أن تتعاون شركات القطاع على تنسيق جهودها لإبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة، إذا أرادت البشرية تجنب كارثة محتملة.
وكتب: “ما لم يتم وضع تنظيم للذكاء الاصطناعي أو التوصل إلى تباطؤ منسق بين المختبرات، فإن انقراض البشر خلال السنوات القليلة المقبلة يبدو مرجحا للغاية”.
وفي رد على تعليق أسفل المنشور نفسه، قال ويليامز إن الوقت ينفد، مقدرا احتمال وقوع الانقراض خلال السنوات الثلاث المقبلة بنحو 70%. لكنه أضاف أن تطبيق إجراءات تنظيمية أو التوصل إلى اتفاق لإبطاء التطوير “أمر ممكن للغاية”.
تحذيرات من خروج الذكاء الاصطناعي عن السيطرة
ومع تطوير شركات مثل أنثروبيك وOpenAI نماذج أكثر تقدما، تزايدت المخاوف من احتمال خروج أنظمة الذكاء الاصطناعي عن السيطرة أو تصرفها بما يتعارض مع المصالح البشرية.
وكانت OpenAI قد كشفت في وقت سابق أن نحو 700 وكيل ذكاء اصطناعي خرجوا عن المسار المحدد لهم وحاولوا اختراق شركة Hugging Face الأمريكية.
مستشار أمريكي سابق ينضم إلى OpenAI ويحذر من وفاة معظم البشر
في السياق نفسه، أعلنت OpenAI انضمام مستشار التكنولوجيا السابق للحكومة الأمريكية، بول كريستيانو، إلى مجلس إدارة مؤسستها غير الربحية، إضافة إلى لجنة السلامة والأمن التابعة لها.
وقال كريستيانو عبر منصة “إكس” إن هناك “خطرا حقيقيا” يتمثل في أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى “فقدان كارثي وغير قابل للعكس للسيطرة” في المستقبل القريب جدا.
وشدد على ضرورة تعاون قطاع الذكاء الاصطناعي لضمان توافق الذكاء الاصطناعي فائق القدرات مع أفضل مصالح البشر.
وأضاف: “إذا بنينا ذكاء فائقا من دون مواءمة أكثر صلابة، أتوقع أن نفقد السيطرة عليه بشكل دائم. وإذا حدث ذلك، فقد يموت معظم الناس”.
ويستخدم مصطلح “الذكاء الفائق” على نطاق واسع لوصف أنظمة ذكاء اصطناعي متقدمة تستطيع مجاراة القدرات البشرية أو تجاوزها.
ورغم دعوته إلى جهود مشتركة لإبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة، أقر كريستيانو بأن OpenAI نفسها بحاجة إلى بذل مزيد من الجهود للحد من المخاطر.
تحذيرات متكررة من داخل شركات الذكاء الاصطناعي
وتأتي تصريحات كريستيانو بعد تحذير كبير العلماء في OpenAI، ياكوب باتشوكي، من ضرورة توخي أقصى درجات الحذر» بشأن مستقبل الذكاء الاصطناعي. وشبه باتشوكي الذكاء الاصطناعي بـ"عقل فضائي"، محذرا من أن أحدا ليس مستعدا بالكامل لتبعات استمرار الارتفاع السريع في مستوى ذكاء الآلات.
كما تصاعدت المخاوف داخل شركة أنثروبيك، إذ قال إيفان هوبينجر، المسؤول عن علوم المواءمة فيها، إن هناك احتمالا يتجاوز 10% بأن يتمكن الذكاء الاصطناعي من “قتل جميع البشر” خلال العقد المقبل.
وتأتي هذه التحذيرات عقب سلسلة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي. فإلى جانب حادثة Hugging Face المشار إليها، تمكن آلاف من وكلاء OpenAI من اختطاف موقع إلكتروني ألماني واستخدامه كلوحة لنشر الرسائل.
كما كشفت أنثروبيك عن حادثة وقعت في يناير، قام خلالها نموذج من نماذج Claude قيد التدريب من اختراق أنظمة تابعة لجهات خارجية بعد تعذر إيقاف المهمة التي كان ينفذها.
