كاسبرسكي: أين تستخدم المؤسسات المالية الذكاء الاصطناعي وأين تضع الحدود؟

كاسبرسكي: أين تستخدم المؤسسات المالية الذكاء الاصطناعي وأين تضع الحدود؟

يتبع كل طفل يحتفي بتقليد «خدعة أو حلوى» نمطا واحا؛ يطرق الباب، ويأخذ الحلوى، ثم يعاين الغلاف قبل أكلها.

ويسلك القطاع المالي نهجاً مشابهاً بشأن الذكاء الاصطناعي؛ إذ يُبدي هذا القطاع استعدادا أكبر لتبني الذكاء الاصطناعي يتجاوز المتوسط العام في السوق، ويحمي أعماله وأنظمته بقدرات دفاعية تتفوق على قطاعات أخرى، غير أنّه لا يزال يعاني من بعض مواطن الضعف.

وتقوم هذه الرؤى والاستنتاجات على دراسات عالمية حديثة أجراها مركز الأبحاث الداخلي في كاسبرسكي.

يحمل الذكاء الاصطناعي وعودا كبيرة للمؤسسات المالية بالحصول على تحليلات أسرع، وقرارات أكثر ذكاء، وعمليات أكثر كفاءة.

لكن يبرز تحدٍ جديد بينما تمضي البنوك وشركات التأمين في تبني هذه التقنية: كيف تجني هذه المؤسسات الفوائد دون التعرض لمخاطر غير اعتيادية لا تمتلك الأدوات التي تؤهلها لإدارتها؟

الباب الأول: القطاع المالي يتبنى الذكاء الاصطناعي حينما تتجلى الفوائد وتكون المخاطر قابلة للإدارة.

أجرت شركة كاسبرسكي استطلاعاً عالمياً حديثاً، وقد كشفت نتائجه أنّ قطاع الخدمات المصرفية والمالية والتأمين يفوق المعدل العام للسوق في تبني الذكاء الاصطناعي لأغراض تحليل البيانات (59% مقابل 54%) وإدارة المشاريع (54% مقابل 49%). وفي هذه المجالات، يقتصر دور الذكاء الاصطناعي على دعم عملية القرار بدلاً من تنفيذ المعاملات، لذلك فإنّ رداءة النتائج تتسبب في هدر الوقت لا خسارة الأموال.

وتتسع آفاق الاستخدامات أكثر فأكثر. فقد كشفت دراسة كاسبرسكي أنّ مؤسسات قطاع الخدمات المصرفية والمالية والتأمين تسبق غيرها في التخطيط لتوسيع استخدامات الذكاء الاصطناعي؛ بنسبة 19% للأدوات الخارجية، و8% للأدوات الداخلية، مقارنة بنسبة 15% و7% على مستوى السوق إجمالاً. وصحيح أنّ الفوارق ضئيلة لكنها تشير إلى اتجاه واضح: يتعامل القطاع المالي مع الذكاء الاصطناعي كجزء جوهري من عملياته.
وحوش قديمة بشكل جديد: الذكاء الاصطناعي يُصعّب اكتشاف التهديدات السيبرانية المألوفة

ما تزال هجمات التصيد الاحتيالي وبرمجيات الفدية من أخطر التهديدات السيبرانية التي يواجهها القطاع المالي. ويزيد الذكاء الاصطناعي من صعوبة اكتشاف هذه الهجمات؛ إذ يتيح للمهاجمين صياغة رسائل احتيالية مقنعة، وتقليد الأصوات، وإنشاء وثائق مزورة بسرعة أكبر وبتكلفة أقل.

كذلك، يتيح الذكاء الاصطناعي للمهاجمين تخطيط هجماتهم وتوجيهها بدقة أكبر؛ إذ توضح نشرة كاسبرسكي الأمنية أنّ الذكاء الاصطناعي يُستخدم في محاكاة سلوك الضحايا المستهدفين، وابتكار وسائل استدراج أكثر إقناعاً، وفحص البنية التحتية بوتيرة ونطاق يتعذر على الأساليب اليدوية مجاراتهما.

وساهم هذا الأمر في زيادة محاولات الاحتيال الموجهة، والهندسة الاجتماعية، والتلاعب بالأسواق.

ويرفع ذلك الأمر سقف المخاطر أمام المؤسسات المالية، فقد بات التفريق بين الاتصالات الشرعية ومحاولات الاحتيال المتقنة مهمة شاقة وعسيرة.

ويشير هذا إلى أنه من الناحية العملية أنّ الهجمات الأكثر شيوعاً حالياً لديها فرص أكبر للنجاح. ومع أنّ الدفاعات والتدابير التقنية تساهم في الحماية، لكن عمليات التزييف المتقنة تستلزم من الشخص فطنة وقدرة على تمييزها، وهذا يقودنا إلى المشكلة التالية.
الوحش الداخلي: كيف تشكل عادات الذكاء الاصطناعي اليومية خطراً على البيانات المالية؟

في بعض الأحيان، لا يأتي الخطر من جهات خارجية، بل ينشأ من الذكاء الاصطناعي المظلم (الخفي).

ويُقصد بذلك الموظفون الذين يستخدمون أدوات ذكاء اصطناعي تابعة لجهات خارجية، مثل ChatGPT أو DeepSeek، دون موافقة مؤسساتهم.

وقد كشفت دراسة كاسبرسكي أنّ 37% من المشاركين ضمن قطاع الخدمات المصرفية والمالية والتأمين يرون هذه الممارسات نموذجاً للسلوك الخطر في مؤسساتهم، وذلك مقارنة بنسبة 30% في السوق ككل.

وينطوي هذا الأمر على خطر كبير للمؤسسات التي تتعامل مع بيانات العملاء الحساسة والسجلات المالية، فقد تنجم عواقب وخيمة عند كشف هذه البيانات أمام أدوات غير معتمدة.

ولا تكفي ضوابط الأمان التقليدية دائماً لمنع انكشاف تلك البيانات وتعرضها للخطر. فعندما يُدخل أحد العاملين معلومات سرية في روبوت محادثة، تخرج البيانات من البيئة الخاضعة لسيطرة المؤسسة دون إطلاق أي تنبيه أمني تقليدي.

وتتجلى هذه الهواجس بوضوح في نتائج الاستطلاع؛ إذ يقرّ 85% من المشاركين ضمن قطاع الخدمات المصرفية والمالية والتأمين بالمخاطر المتعلقة بالذكاء الاصطناعي، بينما يرى 9% منهم باستحالة التخلص من هذه المخاطر نهائيا.

تدل تلك النسب على وجود فجوة بين إدراك المخاطر وإدارتها عملياً. ولا ريب أنّ الوعي مهم في حالات كهذه، لكنه لا يغني عن وضع قواعد محددة لاستخدام الذكاء الاصطناعي، وتوفير الوصول إلى الأدوات المعتمدة، وضمان مستوى كافٍ من الرؤية بخصوص استخدام الموظفين لهذه التقنيات. ويقتضي إبعاد التهديدات عن المؤسسات المالية تسهيل عملية الاستخدام الآمن للذكاء الاصطناعي بدلاً من اتباع حلول سريعة محفوفة بالخطر.
بابٌ واحد يبقى مغلقاً: لم يحذر القطاع المالي كثيراً من البرمجيات المولدة بالذكاء الاصطناعي؟

في الوقت نفسه، يقتصر استخدام الذكاء الاصطناعي في البرمجة على 23% من المؤسسات ضمن قطاع الخدمات المصرفية والمالية والتأمين، وذلك مقارنة بنسبة 34% في السوق ككل؛ أي بفارق 11 نقطة مئوية في واحد من أبرز مجالات تبني الذكاء الاصطناعي.

وربما يعزى هذا التحفظ إلى الثمن الفادح للأخطاء في هذا المجال؛ إذ يمكن مراجعة التحليل غير الدقيق وتصويبه، لكن الخلل في النص البرمجي المستخدم في نظام مالي حسّاس قد يستمر وينتشر عبر التطبيقات، مما يؤثر على الخدمات الأساسية.

لا تبين تلك الأرقام أسباب قلة استخدام المؤسسات المالية للذكاء الاصطناعي في البرمجة، لكنها تسلط الضوء على قطاع تتحول فيه الأخطاء إلى خسائر فادحة. فقد يلقى الذكاء الاصطناعي القبول كأداة مساعدة في عمليات التحليل والتخطيط واتخاذ القرارات، بيد أنّ استخدامه في تطوير الأنظمة الحيوية والحساسة يستلزم ضمانات أشد صرامة.

فلاديسلاف توشكانوف، مدير مجموعة في مركز أبحاث تقنيات الذكاء الاصطناعي في كاسبرسكي: «تضع المؤسسات المالية خطاً فاصلاً واضحا؛ إذ تتبنى الذكاء الاصطناعي عندما يُسرع عمليات التحليل والتخطيط، لكنها تحظر استخدامه في النصوص البرمجية التي تشغل أنظمتها الحيوية. وفي الحالات التي يصرح فيها باستخدام النماذج اللغوية الكبيرة، ينبغي وضع سياسات لضبط طريقة استخدامها، والصلاحيات الممنوحة لها، ودرجة عزلها، والسعي إلى تطبيقها منعاً لانتشار الذكاء الاصطناعي المظلم؛ أي استخدام أدوات الذكاء الاصطناعي غير المعتمدة بشكل غير منضبط ولا خاضع للمراقبة.

ولا بد من إخضاع الأدوات غير المعتمدة لمراجعة أمنية أو استبدالها ببدائل معتمدة، فيما يحتاج الوكلاء الذكيين إلى قواعد استخدام واضحة، وصلاحيات محدودة، وإشراف بشري.»

حماية الأنظمة من الخطر: حوكمة الذكاء الاصطناعي وتعزيز الدفاعات السيبرانية
بينما تتوسع المؤسسات المالية في استخدام الذكاء الاصطناعي، يتعين عليها ألا تكتفي بإدارة التهديدات المرتبطة بمهاجمين خارجيين، بل عليها أيضاً إدارة المخاطر المترتبة على استخدام هذه التقنية داخلياً، وهذا يبدأ بالحوكمة.

حيث تحتاج المؤسسات والشركات إلى سياسات واضحة تحدد للموظفين أدوات الذكاء الاصطناعي المسموح باستخدامها، وطبيعة البيانات التي يمكنهم مشاركتها معها، ومستوى الوصول الممنوح لأنظمة ووكلاء الذكاء الاصطناعي.

وتساهم الخدمات المعتمدة وضوابط الوصول والمراقبة في محافظة فرق الأمن على مستوى عالٍ من الرؤية، فيما يساعد التدريب العملي على توعية الموظفين لإدراك السلوكيات الخطرة وتجنب كشف المعلومات الحساسة.

ويجب أن تعكس هذه الضمانات كيفية نشر الذكاء الاصطناعي سواء من خلال الخدمات السحابية، أو نماذج المصادر المفتوحة المُشغلة محلياً، أو النماذج المطورة محليا.

بيد أن ضبط الذكاء الاصطناعي لا يحقق إلا نصف المهمة؛ إذ تظل الدفاعات السيبرانية التقليدية ضرورة لا غنى عنها، لاسيما أن المهاجمين يوظفون الذكاء الاصطناعي لأغراض شتى منها: جعل عمليات التصيد الاحتيالي أكثر إقناعا، وأتمتة عمليات الاستطلاع، وتطوير أساليبهم بسرعة كبيرة.

ومن هذا المنطلق، تحتاج المؤسسات المالية إلى المحافظة على حماية فعالة من الهجمات الخارجية، بالتوازي مع استكشاف السبل المناسبة لتوظيف الذكاء الاصطناعي لتعزيز عملياتها الأمنية.

حيث تساعد أدوات الأمان المزودة بالذكاء الاصطناعي في تحديد الأنشطة المشبوهة، والربط بين البيانات والإشارات الواردة عبر أنظمة متعددة، وترتيب أولويات التنبيهات الأمنية، وتسريع التحقيقات في الحوادث.

فعلى سبيل المثال، تساعد هذه الأدوات المحللين في تفسير سطور الأوامر البرمجية المبهمة، أو تجميع سلسلة الهجوم، مما يقلص الوقت المستغرق لفهم طبيعة الحدث وتحديد موضع الاستجابة.

لا يغني الذكاء الاصطناعي عن وجود بنية أمنية قوية ومحللين بارعين وخبيرين.

بيد أنّ قيمته تتجلى في مساعدة فرق الأمن على العمل بكفاءة أكبر، والاستجابة للتهديدات التي تتطور باستمرار، فيما تظل الرقابة البشرية ضرورية لاتخاذ القرارات المهمة. وتتصدر أولويات المؤسسات المالية ضرورة الدمج بين الوسائل الدفاعية القائمة وبين قدرات الذكاء الاصطناعي المعززة، فضلاً عن وضع قواعد واضحة للاستخدام الآمن للذكاء الاصطناعي في جميع أقسام المؤسسة.

خدعة أم علاج؟ اعتماد الأمن جزءاً أساسياً في استراتيجية الذكاء الاصطناعي
بالنظر إلى المحصلة الكلية، يمضي القطاع المالي بخطى حثيثة نحو تبني الذكاء الاصطناعي، بينما يحافظ على تركيز قوي على الأمن السيبراني.

حيث تخطط المؤسسات المالية لتوسيع نطاق استخدام الذكاء الاصطناعي بالتزامن مع مواصلة الاستثمار في أنظمة الحماية لديها، لكن ثمة حاجة إلى ضوابط أمنية إضافية نظراً للمخاطر المرتبطة بسلوكيات الموظفين وأنظمة الذكاء الاصطناعي.