مع التطور السريع في تقنيات الذكاء الاصطناعي التوليدي، أصبحت مقاطع الفيديو المصممة بواسطة الخوارزميات أكثر واقعية، ما جعل التمييز بين المحتوى الحقيقي والمزيف مهمة صعبة بشكل متزايد.

وفي محاولة لمواجهة هذا التحدي، طور فريق من الباحثين في جامعة كاليفورنيا – ريفرسايد أداة جديدة لا تقتصر مهمتها على اكتشاف الفيديوهات المصنوعة بالذكاء الاصطناعي، بل يمكنها أيضًا تحديد النموذج الذي استخدم في إنتاجها.

وتحمل الأداة اسم SAGA، وهو اختصار لعبارة Source Attribution of Generative AI Videos، وتم تطويرها بقيادة الباحث روهيت كوندو، بالتعاون مع أستاذ الهندسة الكهربائية وهندسة الحاسوب أميت كيه. روي تشودري، وبمشاركة باحثين من يوتيوب وغوغل ديب مايند.

كيف تعمل أداة SAGA؟

تعتمد الأداة على رصد تفاصيل بصرية دقيقة تتركها نماذج الذكاء الاصطناعي أثناء إنشاء الفيديوهات، وهي أشبه بما يمكن وصفه بـ”البصمة الرقمية” الخاصة بكل نموذج.

وأوضح الباحثون أن كل نظام لتوليد الفيديو يمتلك أنماطًا مميزة تظهر في طريقة إنتاج الصور والحركة، ما يسمح بالتعرف على مصدر المحتوى حتى إذا بدا الفيديو واقعيًا للمشاهد العادي.

ولا تكتفي SAGA بتحليل الإطارات الفردية داخل الفيديو، بل تدرس أيضًا طريقة تغير المشاهد والحركة عبر الزمن، باستخدام تقنية تعرف باسم Temporal Attention Signatures، والتي تعمل على بناء ملف مميز لكل نموذج ذكاء اصطناعي اعتمادًا على الأنماط المتكررة في عدد كبير من المقاطع التي أنشأها.

اختبارات على 19 نموذجًا للذكاء الاصطناعي

اختبر الباحثون أداء الأداة على 19 نموذجًا مختلفًا لتوليد الفيديو، تضمنت أنظمة تعتمد على تحويل النصوص إلى مقاطع مرئية، وأخرى تحول الصور الثابتة إلى فيديوهات متحركة.

وأظهرت الاختبارات أن SAGA تمكنت من تحقيق عدة قدرات مهمة، من بينها:

تحديد ما إذا كان الفيديو حقيقيًا أو مولدًا بواسطة الذكاء الاصطناعي.

معرفة ما إذا كان المحتوى ناتجًا عن نص أو صورة أصلية.

التعرف على نموذج الذكاء الاصطناعي المستخدم في إنشاء الفيديو.

تحديد الجهة أو الفريق المسؤول عن تطوير النموذج.

خطوة جديدة لمواجهة التضليل الرقمي

يرى الباحثون أن معرفة كون الفيديو مزيفًا فقط لم تعد كافية، خصوصًا مع ارتفاع جودة المحتوى الناتج عن الذكاء الاصطناعي وصعوبة اكتشافه بالعين المجردة.

ويمكن لتحديد مصدر الفيديو أن يساعد الجهات المختصة في تتبع حملات التضليل الرقمي، كما يمنح المنصات التقنية أدوات أكثر فعالية لمراقبة انتشار المحتوى المزيف وتعزيز الشفافية على الإنترنت.

سباق متواصل بين صناعة المحتوى المزيف وتقنيات الكشف

يشير فريق البحث إلى أن مواجهة الفيديوهات المصنوعة بالذكاء الاصطناعي ستظل سباقًا مستمرًا بين مطوري أدوات التوليد ومطوري تقنيات الكشف.

ومع ذلك، يعتقد الباحثون أن أدوات مثل SAGA قد تمثل خطوة مهمة في الحد من إساءة استخدام الذكاء الاصطناعي، من خلال جعل إخفاء مصدر المقاطع المزيفة أكثر صعوبة، حتى مع استمرار تطور تقنيات إنتاج المحتوى الرقمي.