EN
في واقعة أثارت حالة من الجدل بين مستخدمي إنستجرام، ظهرت مشكلة جديدة في نظام المنصة المسؤول عن اكتشاف الصور المصنوعة أو المعدلة باستخدام الذكاء الاصطناعي، بعدما اشتكى عدد من المستخدمين من ظهور علامة تشير إلى أن صورهم تحتوي على محتوى مولد بالذكاء الاصطناعي، رغم أن الصور كانت حقيقية ولم يتم إنشاؤها بالكامل بهذه التقنيات.
إنستجرام يخطئ في اكتشاف الصور المصنوعة بالذكاء الاصطناعي
وكشف تقرير حديث نشره موقع The Verge أن نظام اكتشاف محتوى الذكاء الاصطناعي في إنستجرام يواجه مشكلات في التعرف على الصور، إذ ظهرت العلامة على صور حقيقية خضعت لتعديلات بسيطة، في الوقت الذي تمكنت فيه بعض الصور المولدة بالكامل باستخدام الذكاء الاصطناعي من الظهور دون العلامة نفسها.
وأوضح التقرير أن المشكلة أصبحت أكثر وضوحًا خلال الأسابيع الأخيرة، بعدما لاحظ مستخدمون ظهور علامة محتوى الذكاء الاصطناعي على صور لم يتم إنشاؤها بهذه الطريقة.
ما الذي يجعل إنستجرام يضع علامة الذكاء الاصطناعي؟
بحسب التقرير، فإن بعض المستخدمين حصلوا على العلامة بعد إجراء تعديلات بسيطة جدًا على الصور، مثل إزالة الخلفية أو التخلص من عيب صغير في الصورة.
ومن بين الأدوات التي ارتبط اسمها بهذه المشكلة أداة إزالة الخلفية الموجودة في منصة كانفا، وهي أداة تعتمد على تقنيات الذكاء الاصطناعي المساعدة، لكنها لا تعني بالضرورة أن الصورة نفسها تم توليدها بواسطة الذكاء الاصطناعي.
وأشار التقرير إلى أن بعض المستخدمين قالوا إن مجرد استخدام أدوات بسيطة لتحسين الصورة كان كافيًا لظهور علامة محتوى الذكاء الاصطناعي عند نشرها على إنستجرام.
صور حقيقية حصلت على علامة الذكاء الاصطناعي
ولم تتوقف المشكلة عند المستخدمين العاديين، إذ ظهرت العلامة أيضًا على صور نشرتها علامات تجارية، رغم تأكيد أصحابها أن الصور التقطت بكاميرات أو هواتف حقيقية ولم يتم إنشاؤها باستخدام أدوات توليد الصور.
وأشار تقرير «ذا فيرج» إلى حالة لصور نشرتها شركة مستحضرات تجميل مرتبطة بالمغنية هالسي، حيث أكدت الشركة أن الصور تم التقاطها باستخدام هاتف آيفون وإجراء تعديلات بسيطة عليها، بينما ظهرت عليها علامة محتوى الذكاء الاصطناعي.
المفاجأة.. صور مصنوعة بالذكاء الاصطناعي تفلت من العلامة
المثير للانتباه أن المشكلة لا تقتصر على وضع العلامة على الصور الحقيقية، بل إن الاختبارات التي أجراها موقع «ذا فيرج» أظهرت أن بعض الصور التي تم إنشاؤها بالفعل باستخدام أدوات الذكاء الاصطناعي لم تحصل على العلامة عند نشرها على إنستجرام.
وبحسب التقرير، تم اختبار صور جرى تعديلها باستخدام أدوات مختلفة، إلى جانب صور مولدة بالكامل بالذكاء الاصطناعي، لكن النتائج لم تكن متطابقة، ما يثير تساؤلات حول الطريقة التي يعتمد عليها إنستجرام في تحديد الصور التي تستحق علامة الذكاء الاصطناعي.
لماذا تحدث هذه المشكلة؟
يعتمد اكتشاف محتوى الذكاء الاصطناعي على مجموعة من المؤشرات والبيانات المرتبطة بالصور، ومنها بيانات يمكن أن توضح ما إذا كانت الصورة قد خضعت لمعالجة أو إنشاء باستخدام أدوات معينة.
لكن المشكلة أن بعض أدوات تعديل الصور تستخدم بالفعل تقنيات الذكاء الاصطناعي للمساعدة في إزالة العناصر أو تحسين الصور، دون أن يعني ذلك أن الصورة أصبحت صورة مولدة بالكامل.
وهنا تظهر الأزمة؛ فقد يتعامل النظام مع بعض إشارات التعديل باعتبارها دليلًا على استخدام الذكاء الاصطناعي التوليدي، رغم أن التعديل الذي حدث في الصورة قد يكون بسيطًا للغاية.
هل علامة الذكاء الاصطناعي تعني أن الصورة مزيفة؟
ليس بالضرورة، ظهور العلامة على الصورة لا يعني تلقائيًا أن الصورة بالكامل مصنوعة بالذكاء الاصطناعي، خصوصًا مع وجود تقارير عن أخطاء في نظام التصنيف نفسه.
لذلك، لا ينبغي للمستخدم أن يعتبر علامة الذكاء الاصطناعي دليلًا قاطعًا على أن الصورة مزيفة، كما لا يعني غياب العلامة بالضرورة أن الصورة أصلية بنسبة 100%.
وتأتي هذه الأزمة في وقت تحاول فيه منصات التواصل الاجتماعي زيادة الشفافية بشأن المحتوى المصنوع بالذكاء الاصطناعي، مع تزايد انتشار الصور والفيديوهات شديدة الواقعية التي يصعب أحيانًا التفرقة بينها وبين المحتوى الحقيقي.
