EN
أعاد استقالة الباحث السابق في شركة «أنثروبيك» جاكوب كوكسون النقاش حول مستقبل الذكاء الاصطناعي ومخاطره إلى الواجهة، بعدما نشر عبر منصة «إكس» سلسلة من التدوينات انتقد فيها ما وصفه بعدم تعامل شركات التكنولوجيا مع مخاطر الذكاء الاصطناعي بالقدر الكافي من المسؤولية، رغم إدراكها لاحتمالات وصول هذه التكنولوجيا إلى مستويات شديدة الخطورة.
وتزامنت تصريحات كوكسون مع تصاعد النقاش داخل قطاع التكنولوجيا حول السرعة التي تتطور بها أنظمة الذكاء الاصطناعي، ومدى قدرة الشركات والحكومات على وضع ضوابط تواكب هذا التطور.
وبحسب تقرير لشبكة «سي إن إن»، فإن القلق لم يعد مقتصرًا على خبراء خارج شركات التكنولوجيا أو الجهات المعنية بتنظيم القطاع، إذ بدأ يظهر بصورة أكثر وضوحًا بين عدد من العاملين داخل الشركات نفسها.
مخاوف من سرعة التطور
كشف موظف في إحدى شركات الذكاء الاصطناعي الكبرى، تحدث إلى «سي إن إن»، عن شعوره بالقلق من احتمال أن تتسبب التكنولوجيا التي يعمل على تطويرها في أضرار واسعة، إلى درجة أن هذه المخاوف تؤثر في حياته اليومية.
كما أوضح باحث سابق في المجال أن المخاطر المحتملة للذكاء الاصطناعي أصبحت موضوعًا متكررًا للنقاش بين العاملين في قطاع التكنولوجيا، مشيرًا إلى أن عددًا كبيرًا منهم يرى أن احتمال وصول الذكاء الاصطناعي إلى مرحلة تهدد البشرية أمر لا يمكن تجاهله، حتى مع اختلاف تقديراتهم لحجم هذا الاحتمال.
وأثارت منشورات كوكسون اهتمامًا واسعًا، بعدما تجاوز عدد مشاهداتها 170 مليون مشاهدة، لتصل المخاوف التي طرحها إلى جمهور أوسع من الدوائر المتخصصة.
وجاء ذلك في وقت تتزايد فيه التقارير عن قدرات متقدمة لأنظمة الذكاء الاصطناعي، بما في ذلك قدرتها على تنفيذ مهام معقدة والعمل بصورة أكثر استقلالية داخل بيئات الاختبار.
«التحسين الذاتي» يثير القلق
يرتبط جزء مهم من مخاوف الباحثين بما يعرف بـ«التحسين الذاتي التكراري»، وهي فكرة تشير إلى إمكانية أن تتمكن أنظمة الذكاء الاصطناعي مستقبلًا من المساعدة في تطوير وتحسين قدراتها البرمجية بصورة متكررة، بدلًا من اعتمادها الكامل على تدخل البشر.
ويخشى بعض الباحثين من أن يؤدي هذا السيناريو، إذا تحقق على نطاق واسع، إلى تسارع عملية التطوير بصورة يصعب معها متابعة جميع التغييرات التي تطرأ على الأنظمة أو تقييم آثارها في الوقت المناسب.
ويأتي هذا القلق بالتزامن مع التطور المتسارع في قدرات نماذج الذكاء الاصطناعي، والتي أصبحت قادرة على التعامل مع مسائل معقدة في مجالات متعددة، فضلًا عن إمكانية تشغيل عدد من الوكلاء البرمجيين لأداء مهام بصورة منسقة.
وفي هذا السياق، كتب أيدان كلارك، نائب رئيس الأبحاث في «أوبن إيه آي»، عبر منصة «إكس» أنه بدأ يتساءل عما إذا كان التطور يسير بسرعة أكبر مما ينبغي، مشيرًا إلى أهمية الوصول إلى تصور واضح للوتيرة المناسبة لتقدم هذه التكنولوجيا.
بين البقاء والاستقالة
يواجه العاملون في مجال الذكاء الاصطناعي، وفقًا للتقرير، معضلة تتعلق بموقعهم من عملية التطوير نفسها؛ فالبقاء داخل الشركات الكبرى يمنحهم فرصة للمشاركة في تطوير التكنولوجيا ومحاولة معالجة مخاطرها من الداخل، في حين أن مغادرة هذه الشركات تتيح لبعضهم العمل من الخارج في مجال تقييم النماذج ودراسة جوانب السلامة.
وعبر عدد من العاملين الحاليين والسابقين عن استعدادهم للتضحية بمكاسب مالية كبيرة مقابل زيادة فرص الحد من المخاطر المرتبطة بالذكاء الاصطناعي.
وقال دريك توماس، العامل في مجال سلامة الذكاء الاصطناعي بشركة «أنثروبيك»، إن بعض العاملين في القطاع يشعرون بخوف حقيقي من التطورات المقبلة، وليس مجرد استخدام هذه المخاوف كوسيلة للترويج للشركات أو منتجاتها.
من جانبه، لم يعارض داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، الانتقادات التي طرحها كوكسون، وقال في مقابلة مع «سي إن إن» إنه يتفق معه في نقاط عديدة أكثر مما يختلف معه بشأنها.
هل يفقد الموظفون قوتهم التفاوضية؟
هناك جانب آخر من النقاش يتعلق بمستقبل العاملين أنفسهم داخل صناعة الذكاء الاصطناعي.
فعلى مدار سنوات، تمتع الباحثون والمهندسون المتخصصون في هذا المجال بمكانة قوية داخل شركات التكنولوجيا، في ظل ندرة أصحاب الخبرات المتخصصة وارتفاع الطلب عليهم، وهو ما انعكس على أجورهم وقدرتهم على التفاوض بشأن ظروف عملهم.
لكن بعض الباحثين السابقين يخشون أن تتغير هذه المعادلة إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على المساعدة في تطوير نماذج جديدة أو تنفيذ جزء متزايد من المهام التي يؤديها المهندسون والباحثون حاليًا.
ويرى أحد الباحثين الذين غادروا إحدى الشركات الكبرى أن الانتقال إلى مرحلة من التحسين الذاتي المتكرر قد يؤدي إلى تراجع القوة التفاوضية للموظفين، إذا أصبحت النماذج قادرة على تنفيذ عدد أكبر من المهام التي كانت تعتمد في السابق على العامل البشري.
هل يشبه الذكاء الاصطناعي مشروع القنبلة الذرية؟
وذهب أحد الباحثين السابقين إلى تشبيه الأجواء داخل بعض مختبرات الذكاء الاصطناعي بما حدث خلال «مشروع مانهاتن» في الحرب العالمية الثانية، عندما عمل العلماء على تطوير القنبلة الذرية بالتزامن مع إدراكهم للقوة التدميرية الهائلة للتكنولوجيا التي كانوا يطورونها.
ويستند هذا التشبيه إلى فكرة مفادها أن بعض العاملين في قطاع الذكاء الاصطناعي يرون أن تطوير التكنولوجيا يجب أن يستمر، حتى مع وجود مخاطر محتملة، انطلاقًا من اعتقاد بأن عدم تطويرها قد يعني ترك المجال لمنافسين آخرين للوصول إليها أولًا.
لكن هذا الطرح لا يحظى بإجماع داخل القطاع، إذ يرى متخصصون آخرون أن المقارنة بين الذكاء الاصطناعي والقنبلة الذرية قد تكون مبالغًا فيها، وأن الحديث عن سيناريوهات انقراض البشرية لا يستند بالضرورة إلى توقعات متفق عليها بين جميع الباحثين.
خلاف حول حجم المخاطر
في المقابل، لا يرى جميع العاملين في مجال الذكاء الاصطناعي أن السيناريوهات الأكثر تشاؤمًا هي الاحتمال الأبرز.
ويشير بعض المتخصصين إلى أن النقاش حول مخاطر انقراض البشرية بسبب الذكاء الاصطناعي يتركز بصورة أكبر داخل دوائر بحثية وشركات بعينها، وقد يتأثر ذلك بطبيعة المؤسسة التي يعمل بها الباحث والبيئة المهنية والاجتماعية المحيطة به.
وتأسست «أنثروبيك»، على سبيل المثال، على يد مجموعة من العاملين السابقين في «أوبن إيه آي»، مع تركيز واضح على جوانب السلامة والضوابط المتعلقة بتطوير الذكاء الاصطناعي، ولذلك فإن الحديث عن المخاطر بعيدة المدى يحظى بحضور أكبر داخل الشركة مقارنة ببعض المؤسسات الأخرى.
ومع انتشار منشورات كوكسون، أعلن موظفون من شركات مختلفة، بينها «أنثروبيك» و«أوبن إيه آي» و«غوغل»، عن مخاوف مشابهة، في حين كان هذا النوع من النقاش أقل حضورًا في المنشورات الصادرة عن بعض الشركات الأخرى.
ويتفق متخصصون من اتجاهات مختلفة على أن غياب إجراءات أمان كافية يمكن أن يؤدي بالفعل إلى أضرار ملموسة، مثل استخدام أنظمة الذكاء الاصطناعي في تنفيذ اختراقات أو التسبب في مشكلات للبنية التحتية الحيوية.
في المقابل، يرى منتقدون أن الانتقال من هذه المخاطر الواقعية إلى الحديث عن انقراض البشرية يحتاج إلى أدلة وتقييمات أكثر دقة.
وعبر كليمنت ديلانغ، الرئيس التنفيذي لشركة «هاجينغ فيس»، عن تحفظه على التركيز المفرط على سيناريوهات انقراض البشرية، داعيًا إلى الاستماع إلى مجموعة أوسع من المتخصصين والخبرات عند تقييم مستقبل الذكاء الاصطناعي.
