مرتكب الإساءة الجديد: الذكاء الاصطناعي؟

وفقًا لبيانات ACFE 2024، تخسر المؤسسات 5% من إيراداتها بسبب الاحتيال. لم يعد الذكاء الاصطناعي مجرد أداة، بل أصبح موضوعاً للاحتيال.

وفقًا لتقرير ACFE لعام 2024 الصادر عن مؤسسة ACFE إلى الأمم، تخسر المؤسسات في المتوسط 5% من إيراداتها بسبب الاحتيال كل عام. لم يعد الاحتيال يُرتكب بأيدي البشر، بل بمساعدة الخوارزميات!

لماذا يمكن أن نقول ”الذكاء الاصطناعي هو مرتكب الاحتيال الجديد” – بأدلة من ACFE 2024

تكشف بيانات تقرير مؤسسة ACFE لعام 2024 إلى الأمم أن المؤسسات تخسر في المتوسط 5% من إيراداتها بسبب الاحتيال كل عام. ولكن هذه المرة، تمت إضافة فاعل جديد إلى الطاولة: الذكاء الاصطناعي. تُظهر تحليلات اتجاهات مؤسسة ACFE لعام 2024 أن التكنولوجيا لم تعد مجرد أداة، بل يمكن أن تصبح هي نفسها مرتكب الاحتيال.

1) أصبحت عمليات الاحتيال المدعومة بالذكاء الاصطناعي اتجاهاً سائداً

تكشف تحليلات مؤسسة ACFE لأهم 5 اتجاهات للاحتيال لعام 2024 عن الارتفاع السريع في عمليات الاحتيال التي تعتمد على الذكاء الاصطناعي. يمكن أن يتلاعب إنتاج الصوت والفيديو المزيف العميق ورسائل البريد الإلكتروني المزيفة وتوليد المستندات آلياً ببيانات الشركة وخوارزمياتها لتضليل عمليات التدقيق التقليدية.

مثال:
في عام 2024، أدت مكالمة صوتية مدعومة بالذكاء الاصطناعي انتحل فيها المحتال شخصية المدير المالي لشركة أوروبية إلى تحويل احتيالي لمبلغ 15 مليون دولار أمريكي. وقد تمكن المحتال من بناء الثقة من خلال مكالمة مدتها 10 دقائق فقط.

2) بدأ المسيئون بالفعل في استخدام الذكاء الاصطناعي قبل أن تستخدمه المنظمات

يكشف تقرير المقارنة المعيارية لتكنولوجيا مكافحة الاحتيال (2024)، وهو دراسة مشتركة بين ACFE وSAS، أن 18% فقط من المؤسسات تستخدم الذكاء الاصطناعي بشكل فعال، في حين أن الغالبية العظمى تخطط لدمجه في السنوات القادمة. بعبارة أخرى، يتبنى المحتالون التكنولوجيا أولاً، بينما تتخلف أنظمة الرقابة عن الركب.

مثال:
وفقًا للتقرير نفسه، يمكن للمحتالين إنشاء سجلات مزيفة للموردين في ثوانٍ باستخدام الذكاء الاصطناعي التوليدي. ومع ذلك، لا تزال العديد من المؤسسات تحاول الكشف عن المعاملات المشبوهة باستخدام التحليلات اليدوية.

3) تتسبب حالات الاحتيال العميق في خسائر بملايين الدولارات

تكشف الأمثلة في مجلة FraudMagazine عن عملية احتيال بقيمة 25 مليون دولار أمريكي في شركة مقرها هونغ كونغ عبر مؤتمرات الفيديو المزيفة. تمكن المحتالون من الحصول على الموافقة من خلال فيديو تم إنشاؤه بالذكاء الاصطناعي يقلد مديراً تنفيذياً للشركة.

مثال:
في التحقيق اللاحق للحادثة، لم يكن من الممكن تحديد هوية المحتال لأن ”الجاني” كان في الواقع برنامجًا – فالوجه والصوت وتعبيرات الوجه تم إنشاؤها بالكامل بواسطة الخوارزمية.

4) تزداد فرص إساءة الاستخدام مع انتشار التكنولوجيا على نطاق واسع

تُظهر تحليلات ACFE للتكنولوجيا والاحتيال بوضوح أن انتشار التكنولوجيا يخلق فرصاً جديدة للمحتالين. ويتجلى ذلك بشكل خاص في نظم استنساخ الصوت والتوقيع الآلي وإنتاج الوثائق.

مثال:
في اختبار للأمن السيبراني في عام 2024، تمكن صوت تنفيذي مزيف، تم إنشاؤه من خلال 3 ثوانٍ فقط من التسجيل الصوتي، من الحصول على موافقة على الدفع من قسم المالية. يدعم الذكاء الاصطناعي الآن التزوير باستخدام ”إثبات” رقمي.

5) فاعل الإساءة يتغير: الكود وليس الأيدي البشرية

يُظهر مفهوم ”عامل التمكين من الاحتيال”، الذي يبرز في التقييمات العامة لمؤسسة ACFE لعام 2024، أن الأشخاص لم يعودوا هم من يسهل الاحتيال بل الأنظمة. يتسبب توليد المستندات الآلي وسلاسل البريد الإلكتروني والتلاعب المحاسبي الخوارزمي في أن تصبح البرمجيات مرتكباً مباشراً للاحتيال.

مثال:
في عام 2024، وُجد أن نظام أتمتة المستندات القائم على الذكاء الاصطناعي في إحدى المؤسسات الحكومية يقوم بإنشاء فواتير مزيفة بمعايير مضللة وتمريرها من خلال عملية الموافقة. لم يتم العثور على أي شخص باعتباره الجاني لأنه كان ”وحدة نمطية”.

الخاتمة مرتكب جريمة الاحتيال الجديد – الذكاء الاصطناعي على الأبواب

نتائج ACFE 2024 واضحة: لقد تغيرت طبيعة الاحتيال. لم يعد الأمر يتعلق بموظف يأخذ المال من درج النقود؛ بل أصبح الأمر يتعلق بالتلاعب بالنظام. يمثل الذكاء الاصطناعي تهديدًا جديدًا، حيث يقوم بتوليد مستندات مزيفة وتكرار الهويات والتحرك بسرعات تفوق قدرة الإنسان على التحكم.

لا تزال المؤسسات تستعد لهذا التحول. وفي حين يرى الكثيرون أن الذكاء الاصطناعي ”أداة وقاية”، إلا أن المحتالين قد حولوه بالفعل إلى ”أداة إساءة استخدام”. اليوم، قد يُذكر الذكاء الاصطناعي في هوامش التقارير، ولكن قريباً جداً سيكون موضوع ملفات التحقيق.