تقنية التزييف العميق Deep Fake ومخاطرها وكيفية كشفها

ما هو التزييف العميق deep fake؟

تقنية التزييف العميق “deep fake” هي إحدى تقنيات “التعلم العميق” بوصفها جزءاً من علم الذكاء الاصطناعي؛ إذ تستخدم خوارزميات التعلم نفسها آلية حل المشكلات بالاعتماد على البيانات، لمبادلة الوجوه في الفيديو؛ ومن ثَمَّ تنشئ وسائط مزيفة تبدو واقعية.

يمكن تكوين فيديوهات التزييف العميق بطرائق عدة؛ لكنَّ أبرزها يعتمد على الشبكات العصبية العميقة، التي تحتوي أجهزة التشفير التلقائي، التي تعتمد على تقنية تبديل الوجوه، ويجب أن تستهدف فيديو معيناً بوصفه أساساً، إضافة إلى مجموعة مقاطع فيديو للشخص الذي تريد إدراجه في الفيديو الهدف، وتلك المقاطع غير مرتبطة مع بعضها، فقد يكون الهدف مقطعاً تابعاً لأفلام هوليوود، ومقاطع الشخص الذي تريد إدراجه في الفيلم مجموعة مقاطع من YouTube؛ إذ يقوم المشفر التلقائي بدراسة المقطع لفهم شكل الشخص، بواسطة مجموعة متنوعة من الزوايا والظروف البيئية لإيجاد ميزات مشتركة بينه وبين الشخص المستهدف في الفيديو الهدف.

كما أُضيف نوع آخر يسمى شبكات الخصومة التوليدية (GANs)، يكتشف ويحسن عيوب التزييف العميق خلال جولات عدة، فيصعب فك تشفيرها على أجهزة الكشف عن التزييف العميق.

هل التزييف العميق فيديوهات فقط؟

لا يقتصر التزييف العميق على مقاطع الفيديو فقط، فقد ظهر ما يسمى Deepfake Audio يقوم بإجراء التزييف العميق للصوت من خلال خوارزميات التعلم العميق، فيُستنسخ صوت شخص وبمجرد إنشاء نموذج للصوت، يمكن استخدام صوت الشخص لقول أي شيء تريده.

يحتوي Deepface Audio تطبيقات ألعاب الكمبيوتر؛ إذ سمح المبرمجون لشخصيات اللعبة بقول أي شيء يريدونه في أي وقت، بدلاً من الاعتماد على مجموعة برامج نصية مسجلة في اللعبة مسبقاً.

مخاطر التزييف العميق:

تُستخدَم تقنية التزييف لأغراض ترفيهية أو أعمال سينمائية، أما إذا أُسيء استخدامها فقد تعود بمخاطر عديدة على الفرد والمجتمع كليهما، تتجلى في إنشاء مقاطع فيديو ملفقة تسيء للفرد والمجتمع، وتتجلى أضرارها على كل منهما كما يأتي:

أضرار التزييف العميق على الفرد:

• بعض تطبيقات التزييف العميق تنتج صوراً عارية مزيفة للنساء.
• كما يوجد تطبيقات إنشاء صورة لشخص غير موجود، أو مقطع فيديو لشخص يقول أو يفعل شيئاً لم يفعله، أو توليف صوت شخص في ملف صوتي.
• إنتاج مواد إباحية تركيبية بغرض الانتقام أو تشويه السمعة مقابل تحقيق مكاسب مالية، ممَّا يؤثِّر في الضحية من ناحية فرص التوظيف والعلاقات الاجتماعية.

في عام 2017 أنشأ أحد مستخدمي موقع reddit يُدعى “deepfakes” منتدى للإباحية يضم ممثلين يتبادلون الوجوه، وبحسب ما أفاد تقرير Deeptrace، فإنَّ نسبة المواد الإباحية هي 96% من المقاطع العميقة على الإنترنت عام 2019.

أضرار التزييف العميق على السياسة:

• تشكِّل تقنية التزييف العميق خطراً على السياسة أيضاً؛ إذ يساعد على تضليل الحقائق، ونشر أخبار مزيفة؛ ففي عام 2018 أصدر حزب سياسي بلجيكي مقطع فيديو مزيفاً لدونالد ترامب يلقي خطاباً يدعو بلجيكا إلى الانسحاب من اتفاقية باريس للمناخ.
• إضافة إلى تهديد الصحفيين والسياسيين وترهيبهم، وما إلى ذلك من الشخصيات شبه العامة.
• كما يمكن أن يستخدم مجرمو الإنترنت تقنية التزييف العميق في عمليات احتيال على الإنترنت.

مثال على ذلك: أُنشئ مخطط حديث الصوت مصطنع لصوت الرئيس التنفيذي لشركة طاقة، وقد اتصل “الرئيس التنفيذي” المزيف بموظف ليقوم بتحويل الأموال، وقد قام الموظف بتحويل 243000 دولاراً بالفعل إلى مجرم الإنترنت نتيجة تطابق صوت المزيف مع الموظف الحقيقي، فلم يستطع التمييز.

• كما يمكن أن تؤثِّر المقاطع المزيفة في الأمن القومي، سواء في أوقات السلم أم الحرب، وكمثال على تأثير المقاطع في تهديد الأمن القومي زمن الحرب؛ المقطع الذي نشره الروس في بداية الغزو الروسي لأوكرانيا؛ إذ أظهر طلب الرئيس الأوكراني فولوديمير زيلينسكي من جيشه الانسحاب، على الرَّغم من أنَّ شركات السوشيال ميديا أزالت الفيديو بسرعة؛ لكنَّه أفاد بمعلومات مضللة.

أما عن تهديد الأمن القومي في وقت السلم، فيمكن أن تؤثِّر تقنية التزييف العميق في الرأي العام عن أحد السياسيين، أو تقليل ثقة الجمهور كمثال على ذلك؛ في الانتخابات الأمريكية عام 2020 حذَّر الخبراء من انتشار مقاطع فيديو مزيفة، لكن لم يحدث ذلك.

كيفية اكتشاف التزييف العميق:

من الضروري أن يتعلم الناس طريقة اكتشاف مقاطع الفيديو المزيفة في ظل انتشارها الكبير على الإنترنت بهدف التأكد من صحة الأخبار المنشورة.

علامات كشف التزييف العميق:

يوجد عدد قليل من المؤشرات تكشف عن التزييف العميق:

• في الوقت الحالي تواجه تقنية التزييف العميق مشكلة في تحريك الوجوه واقعياً، فينتج فيديو لا يومض فيه الهدف مطلقاً، أو يومض كثيراً أو ربما يومض ومضة غير طبيعية، لكن فيما بعد أُطلقت تقنية التزييف العميق الجديدة دون هذه المشكلة.
• هل تبدو الإضاءة غير طبيعية؟ في معظم الأحيان تحتفظ خوارزميات التزييف العميق بإضاءة المقاطع التي استُخدمت بوصفها نماذج للفيديو المُفبرك، وهو تطابق ضعيف مع الإضاءة في الفيديو المستهدف.
• كما قد لا يتطابق الصوت في الفيديو مع الشخص إذا كان الفيديو مزيفاً، ولم يُتلاعب بالصوت الأصلي بحذر.
• تدل بعض الجوانب على أنَّ المقطع مفبرك، بما يتضمن وجود لقطات غير متسقة أو ملاحظة تغيرات في نبرة الصوت أو جودته؛ لذا يمكن أن تفيدك حواسك البصرية والسمعية ودقة ملاحظاتك، إضافة إلى تساؤلك: هل يبدو الأمر منطقياً؟

نصائح للكشف عن التزييف العميق:

ليس من الضروري أن يكون لديك خبرة في مجال التزييف العميق، حتى تتمكن من اكتشاف إن كان المحتوى حقيقياً أو مزيفاً؛ إنَّما يمكنك اتباع ما يأتي:

• شاهد مقطع الفيديو بتركيز قبل أن تنشره، وتساءل بينك وبين نفسك هل المقطع حقيقي؟ هل من الممكن أن يكون مفبركاً؟ إن كان لديك أي شك لا تنشره.
• يمكنك البحث عنه في مصادر أكثر ثقة على الإنترنت، ففي حال وجود مقاطع مشابهة، هذا يدل على أنَّه حقيقي.
• أما إذا كان لديك شك في جزء منه، سواء كان صوتاً أم صورة أم مقطعاً مصوراً، فأدخل ذلك الجزء في بحث جوجل أو DuckDuckGo لتجد نسخة مشابهة، ثم قارن بينهما.
• يمكنك تكبير مواضع التلاعب أو الاستعانة بشخص آخر للتأكد من تحديد مواضع التلاعب مثل الأنف أو الأذن أو الأسنان أو تسريحة الشعر، وهل هي متطابقة أو لا.
• يمكنك البحث عن مشكلات الجلد أو الشعر أو الوجوه التي تبدو أكثر ضبابية من البيئة التي توجد فيها، وقد يبدو التركيز ضعيفاً غير طبيعي.

• كما يمكنك إعادة مشاهدة المقطع أكثر من مرة لاكتشاف التناقضات، أو استعن بـ “مُشغل الوسائط في أل. سي” أو موقع com

كيف تحارب التكنولوجيا التزييف العميق؟

في الوقت الذي سيصبح فيه التزييف العميق أكثر واقعية بتقدُّم الوقت تتطور تقنيات لمحاربة تلك التقنية؛ إذ تطوِّر الشركات طرائق اكتشاف التزييف العميق، فعلى سبيل المثال:

• طورت شركة Sensity نظاماً أساسياً للكشف عن التزييف العميق، يشبه برنامج مكافحة الفيروسات؛ إذ ينبه المستخدمون من خلال رسائل البريد الإلكتروني في حال اكتشاف شيء يحمل بصمات أصابع من الوسائط الاصطناعية أُنشئت من خلال الذكاء الاصطناعي؛ إذ تستخدم شركة Sensity عمليات التعلم العميق نفسها، التي تُستخدم في إنشاء مقاطع فيديو مفبركة.
• تعتمد شركة Minerva طريقاً أوضح لاكتشاف التزييف العميق؛ إذ تقارن خوارزمية التزييف العميق المحتمل بفيديو معروف تمت “بصماته رقمياً”، فمثلاً يستطيع اكتشاف مقاطع عن الانتقام الإباحي بمعرفة أنَّ فيديو التزييف العميق عبارة عن نسخة معدلة من فيديو موجود ومفهرس من قبل عملية Minerva فعلياً.
• استضافت شركة فيسبوك تحدياً يُدعى Deepfake Detection Challenge وهو عبارة عن مبادرة تعاونية مفتوحة تشجع إنشاء تقنيات جديدة لاكتشاف التزييف العميق.

في الختام:

لقد أفاد خبراء عديدون أنَّ تقنية التزييف العميق ستصبح في المستقبل أكثر تعقيداً متزامنة مع التطور التكنولوجي الكبير، وقد يعود ذلك بتهديدات أكثر خطورة على الجمهور، لكن عموماً ما تزال تقنية التزييف العميق deepfake في مرحلتها الأولى؛ لذا من المحتمل البدء في رؤية الحلول لمعالجة إساءة استخدام التكنولوجيا، وفي حال انتشار خطرها، قد يتطلب الأمر التدخل الحكومي لوقف انتشاره عبر الإنترنت.