ضوابط أساسية:

كيف تتجنب الدول الاستخدامات السلبية لـ"التزييف العميق"؟

26 June 2024


عرض: هند سمير

شهدت السنوات الأخيرة ارتفاعاً ملحوظاً في معدل استخدام التزييف العميق في مختلف المجالات بما فيها السياسة والصراعات في العالم، وتُشير التوقعات إلى أن هذه الاتجاه سيتصاعد في السنوات المقبلة. والتزييف العميق هو تقنية تُستخدم في تزييف مقاطع الفيديو، من خلال الذكاء الاصطناعي، بصورة يصعب على البشر التفرقة فيها بين ما هو حقيقي ومزيف. ومع انتشار الذكاء الاصطناعي، انتقلت تقنية التزييف العميق من البدائية إلى الاحترافية، وأصبح تمييزها أكثر صعوبة؛ مما قد يوفر فرصاً للحكومات لاستخدام التزييف العميق، لكن وفقاً لضوابط كي تتجنب الاستخدامات السلبية لتلك التقنية.

في هذا السياق، أصدر مركز الدراسات الاستراتيجية والدولية ورقة بحثية في العام 2024 بعنوان "الاستخدام الحكومي للتزييف العميق: الأسئلة التي يجب طرحها" للمؤلفين دانيال بايمان، ودانييل دبليو لينا جونيور، وفي. أس. سوبرامانيان؛ إذ تبحث في أبرز سلبيات وإيجابيات التزييف العميق، وكيف يمكن تجنب هذه السلبيات والاستفادة من الإيجابيات في تحقيق المصالح العامة للدول والأفراد.

أسئلة مطروحة:

يشير مؤلفو الورقة إلى تزايد استخدامات تقنية التزييف العميق في السياسة والصراع الدولي في السنوات الأخيرة، ففي مايو 2023، زُعم أن مقاطع فيديو مزيفة بعمق تُظهر جماعة حزب العمال الكردستاني الإرهابية، وهي تؤيد كمال كليتشدار أوغلو، مرشح المعارضة الرئيسي في انتخابات الرئاسة التركية، كما أدى تزييف عميق إباحي آخر ضد أحد مرشحي المعارضة إلى تنحيه عن السباق الرئاسي. وفي يناير 2024، نصحت مكالمة آلية مزيفة لصوت الرئيس جو بايدن سكان نيو هامبشاير بعدم التصويت في الانتخابات التمهيدية الرئاسية، كما تُشير التقارير إلى أن حكومة فنزويلا استخدمت تلك التقنية لإنشاء تزييف عميق لمذيعي الأخبار الذين يصورون الاقتصاد الفنزويلي بعبارات متوهجة، كما تم إنشاء مقاطع فيديو داعمة لانقلاب 2022 في بوركينا فاسو. 

على الجانب الآخر، تشير الورقة إلى ما يسمى "التزييف العميق المفيد"، والذي يكون لأغراض مشروعة مختلفة، وأحد الأمثلة على ذلك، هو مجموعة التزييف العميق لنجم كرة القدم ديفيد بيكهام، الذي تم تصويره وهو يدعم رسالة لمكافحة الملاريا يتحدث فيها بمجموعة من اللغات الأجنبية؛ إذ إن المحتوى المرئي حقيقي، لكن الصوت ليس كذلك، ومن المفترض أن هذه الرسائل تم إنشاؤها بموافقته. كما استخدم سياسي هندي في السابق فكرة مماثلة لإنشاء مقاطع فيديو مزيفة لخطاباته السياسية، بنحو 20 لغة باستخدام صوته، مما مكَّنه من مشاركة رسالته السياسية بشكل أكثر فعالية.

ويثير المؤلفون هنا تساؤلاً مهماً: هل سيُثبت إغراء التزييف العميق، سواء أكان مفيداً أم ضاراً، أنه لا يمكن للحكومات الديمقراطية مقاومته؟ تأتي الإجابة بأنه إذا كان الماضي دليلاً، فإن الإجابة ستكون نعم بالتأكيد. فلن يمر وقت طويل قبل أن تبدأ الديمقراطيات الكبرى، بما فيها الولايات المتحدة، في استخدام التزييف العميق لتحقيق أهدافها، إن لم تكن قد فعلت ذلك بالفعل. لكن هل هذا يتم من خلال استخدام مجموعة واضحة من الضوابط التي تأخذ في الاعتبار الفوائد والمخاطر المحتملة لأية عملية حكومية تعتمد على هذه التكنولوجيا؟ 

في حقيقة الأمر، هناك حاجة إلى تقييم غير متحيز للمفاضلة بين الفوائد قصيرة الأجل والمخاطر طويلة المدى للتزييف العميق الافتراضي الذي تقوم به دولة ديمقراطية. وتحقيقاً لهذه الغاية، من المهم الإجابة عن سؤالين أساسيين، أحدهما، ما الأسئلة الصحيحة التي يجب طرحها، عندما تفكر جهة حكومية في استخدام التزييف العميق لتعزيز مهمتها؟ والآخر، من يطرح تلك الأسئلة ويقوم بالموافقة أو الرفض لطلب استخدام التزييف العميق؟، للإجابة عن هذه الأسئلة، أجرى المؤلفون مقابلات مع ستة قادة في قطاع الأمن القومي لديهم معرفة متخصصة في تكنولوجيا الذكاء الاصطناعي والدفاع الوطني لمناقشة هذه الأسئلة معهم.

مخاطر وسيناريوهات: 

هناك العديد من المخاطر الجديرة بالملاحظة بالنسبة للحكومات الديمقراطية على وجه الخصوص جراء استخدام التزييف العميق. أولى المخاطر ستكون فقدان الثقة التي يمتلكها سكان الدولة الديمقراطية في وسائل الإعلام والأخبار، سواء أكانت على الإنترنت أم خارجه؛ مما يسهل على الأعداء نشر المعلومات المضللة التي تفرق السكان المستهدفين، ويتيح للعناصر المعارضة للحكومة استخدام الفيديوهات المزيفة لتقويض الثقة العامة في الحكومة. الخطر الثاني على المدى الطويل لاستخدام التزييف العميق، هو فقدان مصداقية الحكومة التي تستخدمه، فبمجرد أن يتم اتهام الحكومة بشكلٍ موثوق باستخدام الأكاذيب كأداة من أدوات السياسة الحكومية، قد تقل قيمة أية تصريحات تصدر عنها لسنوات، إن لم يكن لعقود، سواء داخل البلاد أم خارجها. أما الخطر الثالث، فهو استفادة الخصوم من "عائد الكذب"؛ إذ يمكنهم تفسير الأدلة الحقيقية على الفساد أو سوء الاستخدام بالادعاء بأن المعلومات مزيفة.

في هذا الإطار، وضع المؤلفون خمسة سيناريوهات، تمت مشاركتها مع ستة من القادة في قطاع الأمن القومي من ثلاث مناطق: الولايات المتحدة، والاتحاد الأوروبي، وآسيا. ويمثل القادة أربعة أنواع من أصحاب المصلحة: الاستخبارات، والجيش، والصناعة، والمنظمات غير الحكومية المهتمة بالموضوع، وتتمثل تلك السيناريوهات في الآتي:

• سيناريو الانتخابات: يهدف إلى معالجة تحدٍّ شائع في السياسة الخارجية، وهو وجود حكومة معادية تتسم أيضاً بالقمع تجاه شعبها، وغالباً ما تهدد هذه الحكومات مصالح الولايات المتحدة وحلفائها وتضر بشعبها، على الرغم من أنها نادراً ما تشكل تهديداً خطراً.

• سيناريو الإبادة الجماعية: مصمم لاختبار الاستجابات في واحدة من أسوأ الحالات التي يمكن تصورها، وهي القتل الجماعي المتعمد للمدنيين. تاريخياً، لم تتدخل الولايات المتحدة والحكومات الغربية الأخرى بشكلٍ فعَّال في مثل هذه الحالات، لكن تقدم الفيديوهات المزيفة وسيلة للتدخل قد يلجأ إليها القادة في مثل هذه الأزمة.

• سيناريو الغزو: في هذه الحالة، يتم استخدام التزييف العميق رداً على مقاطع فيديو مزيفة أخرى -في محاولة لمحاربة النار بالنار– في موقف ينطوي على حرب محتملة وانتهاكات لحقوق الإنسان.

• سيناريو سوق الأوراق المالية: لتحديد ما إذا كان استخدام الحكومة للتزييف العميق مناسباً خارج السياق الأمني التقليدي، ويستكشف هذا السيناريو حالة مختلفة، وهي مواطن وشركة يطلبان المساعدة، بالإضافة إلى ذلك، فإن المعلومات في هذا الفيديو المزيف صحيحة جزئياً على الأقل.

• سيناريو سرقة الملكية الفكرية: يستكشف هذا السيناريو الأخير استخداماً تجارياً آخر للتزييف العميق؛ إذ يكون التزييف العميق دفاعياً، وهنا يتم تصميم مواد مزيفة بعمق (مستندات نصية، صور، مقاطع فيديو، عروض تقديمية) تكون قريبة بدرجة كافية من التصميم الحقيقي لتبدو ذات مصداقية عالية، حتى للخبراء.

أسئلة وضوابط: 

يشير المؤلفون إلى أن جميع الخبراء الذين تمت مقابلتهم أعربوا عن مخاوفهم العميقة بشأن استخدام الحكومات للتزييف العميق. لقد كانوا متحدين في وجهة نظرهم بأن التزييف العميق يجب أن يستخدم فقط في أماكن محدودة وبموجب ترخيص من السلطات المختصة. مع ذلك، كانت هناك اختلافات في آرائهم حول متى يجب استخدام التزييف العميق، وما السيناريوهات المناسبة، وكيف يجب استخدامها، ومن يجب أن يسمح باستخدامها؟

وبالاعتماد على المقابلات، اتفق الخبراء على أنه عندما تفكر الحكومات في استخدام الفيديوهات المزيفة، من الضروري طرح سلسلة من الأسئلة الحاسمة لضمان الاستخدام المسؤول والأخلاقي. وفيما يلي الأسئلة التي يجب على الحكومات النظر فيها:

• الفعالية: ما مدى فعالية الفيديو المزيف المحتمل في تحقيق النتيجة المرغوبة، مقارنةً بالأساليب الأخرى المتاحة؟

• الجمهور: من المستهدفون بالفيديو المزيف؟ هل سيكون مرئياً لجمهور ضيق أم واسع؟ وكيف سيتفاعل الجمهور المختلف معه؟

• الأضرار المحتملة: هل يمكن للفيديو المزيف أن يتسبب في أذى مباشر أو غير مباشر، للأفراد أو المنظمات أو المجتمع ككل؟ وما التدابير التي يمكن اتخاذها للحد من أي ضرر محتمل؟

• الاعتبارات القانونية والأخلاقية: هل يتوافق الاستخدام المقترح للفيديو المزيف مع القوانين والمعايير الأخلاقية ذات الصلة؟ وهل هناك أية تداعيات قانونية أو أخلاقية محتملة تجب معالجتها؟

• الهدف من التزييف العميق: من هو الهدف المقصود من التزييف العميق؟ هل هو رئيس دولة أم شخص بارز مثل زعيم سياسي أو ديني؟ هل هو شخص حي؟

• الغاية: ما الغاية وراء التزييف العميق؟ هل المقصود هو حماية مواطني دولة ما من الأذى المباشر؟ هل هو رد فعل متبادل على استخدام حكومة أخرى للتزييف العميق؟ هل المقصود هو توعية مجموعة معينة من السكان؟

• التتبع: ما احتمال إرجاع التزييف العميق إلى منشئه؟ وماذا سيكون رد الفعل السلبي في حال نسبته إلى الحكومة التي أنشأته؟

من خلال النظر الدقيق في هذه الأسئلة وإجراء التقييم الشامل، يمكن للحكومات اتخاذ قرارات أكثر إدراكاً ومسؤولية بشأن استخدام الفيديوهات المزيفة.

ختاماً، يؤكد المؤلفون أنه من المهم التفكير في عواقب استخدام الفيديوهات المزيفة الآن بدلاً من الانتظار لصياغة سياسة تتبع الاستخدام العشوائي من قبل الوكالات الحكومية الأمريكية أو الكيانات المتحالفة معها. ولهذه العملية أهمية خاصة لأن التزييف العميق له عواقب وخيمة على مصداقية أي حكومة على المدى البعيد، ويمكن أن يشكل المناقشات السياسية المحلية، وربما يؤدي إلى تفاقمها.

وعلى الرغم من أنه من الأفضل أن يتم الإعلان ببساطة أن الحكومة لن تستخدم أبداً التزييف العميق، فإن قوة تلك التقنية ومدى انتشارها يجعلها أداة جذابة. مع ذلك، قد ترغب الحكومات في التصرف دون التفكير في الآثار طويلة المدى لاستخدام التزييف العميق؛ ومن ثم، يجب أن يكون لدى تقنية التزييف العميق مجموعة قواعد ومعايير لتوجيه استخدامها والتأكد من أن الحكومات تأخذ في الاعتبار جميع العوامل ذات الصلة ووجهات النظر طويلة المدى وكذلك قصيرة المدى. 

ولكي تنجح هذه القواعد في الممارسة العملية، يجب على الحكومات الاعتماد على مجموعة من وجهات النظر، بما في ذلك تلك التي تتجاوز نطاق الأمن القومي التقليدي، عند مناقشة استخدام التزييف العميق. وعلى الرغم من أن الورقة البحثية قدمت بعض المعايير الأولية؛ فإن المناقشات والملاحظات الثرية حول استخدام التزييف العميق في الممارسة من قبل الحكومات الأخرى سوف توضح كيفية تقييم هذه العوامل، وما تجب إضافته لتلك المعايير؟

المصدر:

Daniel Byman, Daniel W. Linna Jr., and V. S. Subrahmanian, Government Use of Deepfakes: The Questions to Ask, The Center for Strategic and International Studies (CSIS), 2024. 

https://www.csis.org/analysis/government-use-deepfakes