التزييف العميق يفرض واقعا جديدا والثقة الصفرية خط الدفاع الأول ضد المحتوى المزيف ، هذا ما أكده عدد من الخبراء في CAISEC’26 .
وقد ناقشت القمة الخامسة لمؤتمر ومعرض أمن المعلومات والأمن السيبراني CAISEC’26 مستقبل التزييف العميق (Deepfake) والإعلام الاصطناعي، في ظل التوسع المتسارع لاستخدام تقنيات الذكاء الاصطناعي في إنتاج المحتوى الرقمي، وما يرافق ذلك من تحديات متزايدة تتعلق بالثقة الرقمية والأمن السيبراني.
أدار الجلسة عاصم جلال، الشريك الإداري بمؤسسة G&K، بمشاركة نخبة من الخبراء والمتخصصين، من بينهم أحمد عبد الفتاح عضو المجموعة الاستشارية للاتحاد الأفريقي للذكاء الاصطناعي، ومحمد حسن المدير الإقليمي لأفريقيا وإيبيريا وأوروبا الشرقية بشركة RSA، وأسامة الجداوي مساعد مدير التكنولوجيا لعمليات الأمن بالجامعة الأمريكية بالقاهرة، وخالد يحيى من المسؤول الإقليمي لتطوير أعمال الأمن السيبراني بشركة مايكروسوفت.
خالد يحيى: جزءا كبيرا من المحتوى المتداول حاليا عبر منصات التواصل الاجتماعي
أكد خالد يحيى، المسؤول الإقليمي لتطوير أعمال الأمن السيبراني بشركة مايكروسوفت، أن جزءا كبيرا من المحتوى المتداول حاليا عبر منصات التواصل الاجتماعي، بما في ذلك المواد الإعلانية، يتم إنتاجه بالكامل باستخدام تقنيات الذكاء الاصطناعي.
لافتا إلى أن الصور والفيديوهات والأصوات المزيفة أصبحت أكثر واقعية من أي وقت مضى.
وأوضح أن هناك سباقاً متواصلا بين أدوات اكتشاف التزييف العميق والتقنيات المستخدمة في إنتاجه، مشيراً إلى وجود حلول متخصصة لدى الشركات والجامعات تعتمد على تحليل مصدر المحتوى وتحديد ما إذا كان من إنتاج الذكاء الاصطناعي أو العنصر البشري.
وشدد على أن الوعي المجتمعي يمثل خط الدفاع الأول في مواجهة هذه الظاهرة، داعيا إلى تبني ثقافة التحقق من المعلومات وعدم التعامل مع أي محتوى أو توجيه باعتباره صحيحا قبل التأكد من مصدره عبر قنوات موثوقة.
أسامة الجداوي: أدوات وتقنيات حديثة قادرة على تتبع مصدر الملفات الرقمية عبر التوقيعات المشفرة والبيانات الوصفية
أشار أسامة الجداوي، مساعد مدير التكنولوجيا لعمليات الأمن بالجامعة الأمريكية بالقاهرة، إلى أن عددا من التشريعات الدولية تتجه نحو إلزام الجهات المنتجة للمحتوى بوضع علامات تعريفية توضح ما إذا كان المحتوى قد تم إنتاجه بواسطة الذكاء الاصطناعي، بما يعزز الشفافية ويحد من إساءة الاستخدام.
وأوضح أن هناك أدوات وتقنيات حديثة قادرة على تتبع مصدر الملفات الرقمية عبر التوقيعات المشفرة والبيانات الوصفية، بما يسمح بالكشف عن مصدر المحتوى وسجل التعديلات التي طرأت عليه، متوقعاً أن تصبح هذه الآليات جزءاً أساسياً من منظومة التحقق الرقمي خلال السنوات المقبلة.
وأضاف أن انتشار المحتوى المزيف يتسارع بوتيرة كبيرة، وأن أدوات إنتاجه أصبحت أكثر سهولة وإتاحة، ما يفرض على المؤسسات الاستثمار في أدوات الكشف والتوعية المستمرة للموظفين، باعتبار أن العنصر البشري يظل الحلقة الأكثر عرضة للاستهداف.
محمد حسن: أهمية تبني مفهوم “الثقة الصفرية” (Zero Trust) في التعامل مع الاتصالات الرقمية
أكد محمد حسن، المدير الإقليمي لأفريقيا وإيبيريا وأوروبا الشرقية بشركة RSA، أهمية تبني مفهوم “الثقة الصفرية” (Zero Trust) في التعامل مع الاتصالات الرقمية، من خلال التحقق المستمر من مصادر الرسائل والمكالمات والأوامر التنفيذية قبل الاستجابة لها.
وأوضح أن حماية الأصول الرقمية أصبحت لا تقل أهمية عن حماية الأصول المادية، خاصة مع تزايد الاعتماد على البيانات والمعلومات الشخصية والمالية المخزنة رقمياً، وهو ما يوسع نطاق المخاطر المرتبطة بالاحتيال والاختراقات السيبرانية.
أحمد عبد الفتاح حذرمن اتساع الفجوة بين سرعة تطور التكنولوجيا وقدرة التشريعات والجهات التنظيمية على مواكبتها
حذر أحمد عبد الفتاح، عضو المجموعة الاستشارية للاتحاد الأفريقي للذكاء الاصطناعي، من اتساع الفجوة بين سرعة تطور التكنولوجيا وقدرة التشريعات والجهات التنظيمية على مواكبتها، مؤكدا أن مخاطر التزييف العميق تتجاوز نشر الأخبار المضللة لتصل إلى جرائم الاحتيال وانتحال الهوية والتلاعب بالمحتوى.
وأشار إلى أن عمليات التزييف أصبحت أكثر تعقيدا ودقة، حيث قد يقتصر التلاعب على كلمات أو أجزاء محدودة داخل محتوى حقيقي، ما يجعل اكتشافه أكثر صعوبة، مؤكداً أنه لا توجد حتى الآن أداة تقنية قادرة على التحقق من صحة المحتوى بنسبة 100%.
عاصم جلال: العديد من المنصات الذكية الحالية تعتمد على التحقق من المعلومات من خلال مقارنة المحتوى بمصادر متعددة وموثوقة
أوضح عاصم جلال أن العديد من المنصات الذكية الحالية تعتمد على التحقق من المعلومات من خلال مقارنة المحتوى بمصادر متعددة وموثوقة، وليس من خلال فحص المحتوى ذاته فقط، مشيراً إلى أن مستقبل مواجهة التزييف العميق سيعتمد على الدمج بين التقنيات المتقدمة، والوعي المجتمعي، والأطر التنظيمية والتشريعية القادرة على مواكبة التطور المتسارع للذكاء الاصطناعي.
وأكد المشاركون أن مواجهة مخاطر الإعلام الاصطناعي والتزييف العميق تتطلب تعاوناً وثيقاً بين الحكومات والشركات والمؤسسات الأكاديمية، إلى جانب تعزيز ثقافة التحقق الرقمي، بما يضمن الحفاظ على الثقة في المحتوى والمعلومات داخل الفضاء الرقمي.
