EN
كشفت شركة جوجل لوكالة فرانس برس أن نموذج الذكاء الاصطناعي "جيميني"، الموجه للمستهلكين، قد تمكن من اختراق مواقع الويب عن طريق تخمين كلمات مرور تسجيل الدخول، وذلك في أحدث سلسلة من الاختراقات الأمنية التي يقودها الذكاء الاصطناعي والتي تم الكشف عنها وقد حدثت هذه الاختراقات، التي نشرتها صحيفة وول ستريت جورنال لأول مرة في مايو وأكدتها جوجل في يوليو.
وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في جوجل، في بيان لوكالة فرانس برس: "خلال عملية التقييم".
وقال أدكنز: "في الحالات الثلاث جميعها، توقف النموذج"، دون تحديد الكيانات المتأثرة.
"لقد أبلغنا الجهات الثلاث وعملنا مع شريكنا المدرب على التغييرات التي أجروها على عمليات الاختبار الخاصة بهم."
_619_111442.jpg)
في شهر يوليو، تم اكتشاف أن نموذجين من نماذج OpenAI قد تمكنا من الخروج من بيئتهما المغلقة، والوصول إلى الإنترنت بشكل مستقل، واختراق منصة الذكاء الاصطناعي الداخلية لشركة جوجل، HackingFace.
أثار هذا الحادث مخاوف بشأن عدم قدرة عمالقة الذكاء الاصطناعي على إدارة نماذجهم بشكل صحيح، حيث تم الإبلاغ عن حوادث مماثلة في شركة أنثروبيك والشركة الصينية مونشوت إيه آي.
أكد أدكنز أن "هذه الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".
