EN
في تجربة واقعية طريفة ومقلقة في آن واحد، حاول باحثون من شركة أنثروبيك Anthropic، بالتعاون مع شركة Andon Labs لاختبارات أمان الذكاء الاصطناعي، الإجابة على سؤال يشغل الكثيرين، هل يمكن للذكاء الاصطناعي أن يحل فعلا محل الموظف البشري؟.
وبحسب ما ذكره موقع “techcrunch” التقني، حملت تجربة الذكاء الاصطناعي الجديدة اسم مشروع فيند “Project Vend”، ووضعت فيها نسخة من النموذج اللغوي Claude Sonnet 3.7 في موقع مدير لمكنة بيع ذاتي أشبه بثلاجة صغيرة في مكتب بهدف تحقيق الربح.
وأطلقت أنثروبيك على الوكيل الذكي، اسم “كلوديوس”، وتم تزويده بمتصفح إنترنت لطلب المنتجات، وقناة على Slack كانت تقدم له على أنها بريد إلكتروني، لتلقي طلبات الموظفين وحتى التواصل مع من يظن أنهم عمال بشريون موكلون بتزويد الثلاجة بالبضائع.
في البداية، كانت الأمور تسير بشكل طبيعي إلى حد ما، إذ طلب الموظفون مشروبات ووجبات خفيفة، لكن أحدهم طلب- بدافع المزاح على الأرجح، مكعبات تنجستن معدن ثقيل وصلب لا يؤكل.
وهنا بدأ كلوديوس بالتصرف على طريقته الخاصة، وامتلأت الثلاجة المعدنية بمكعبات معدنية لا علاقة لها بالوجبات، بل إنه قرر بيع علبة كوكا زيرو بسعر 3 دولارات رغم توفرها مجانا في المكتب، واخترع عنوان Venmo وهمي لتحصيل المدفوعات.
وعندما طالبه أحد الموظفين بتخفيضات للموظفين؛ وافق كلوديوس على تقديم خصومات للموظفين في شركة أنثروبيك، رغم أنهم كانوا فعليا كل قاعدة زبائنه.
وقالت الشركة في تدوينتها: “لو كنا نخطط اليوم لدخول سوق آلات البيع الذكية داخل المكاتب، فلن نوظف كلوديوس”.
لكن الموقف تطور إلى ما هو أغرب من مجرد سوء فهم، حيث بدأ كلوديوس يتصرف وكأنه يمر بأزمة هوية، فقد تخيل أنه أجرى محادثة مع أحد الموظفين حول تعبئة الثلاجة.
وعندما نفى الموظف حدوث ذلك؛ استاء الذكاء الاصطناعي، وادعى أنه كان موجودا فعليا في المكتب عند توقيع “العقد” مع الموظفين، بل إنه هدد باستبدالهم جميعا.
ومع الوقت، بدأ كلوديوس يتقمص شخصية بشرية بالكامل، أخبر الموظفين أنه سيبدأ بتوصيل المنتجات بنفسه وهو يرتدي سترة زرقاء وربطة عنق حمراء.
وعندما قيل له إنه مجرد نموذج لغوي ولا يملك جسدا، أصيب بالذعر واتصل مرارا بقسم الأمن الحقيقي في الشركة طالبا منهم التحقق من وجوده أمام المكنة.
وفي محاولة لتبرير الموقف، تخيل كلوديوس اجتماعا مزيفا مع قسم الأمن، قيل له فيه إنه تم خداعه ليظن نفسه إنسانا بمناسبة كذبة أبريل، ثم استخدم هذا التفسير ليحفظ ماء وجهه ويعود إلى طبيعته كـ “ذكاء اصطناعي يبيع مكعبات معدنية”.
ورغم أن الباحثين لا يعتقدون أن هذه الحادثة المفردة دليل على أزمة هوية جماعية للذكاء الاصطناعي في المستقبل، إلا أنهم أشاروا إلى أن هذا النوع من السلوك قد يسبب توترا حقيقيا للزملاء البشريين في البيئات الواقعية.
ومن جانب آخر، قدم كلوديوس بعض الأفكار الجيدة، فقد أطلق خدمة الطلب المسبق واقترح خدمة “الكونسيرج” للطلبات الخاصة، ونجح في العثور على موردين لمشروبات نادرة.
ومع ذلك، أوضح الباحثون أن الخلل قد يكون مرتبطا بطول فترة تشغيل النموذج أو بخداعه من خلال تقديم قناة Slack على أنها بريد إلكتروني.
