يستغل مجرمو الإنترنت أدوات الذكاء الاصطناعي مثل ChatGPT لصياغة هجمات تصيد أكثر إقناعًا، مما يثير قلق خبراء الأمن السيبراني

إذا لاحظت ارتفاعًا كبيرًا في رسائل البريد الإلكتروني المشبوهة في العام الماضي أو نحو ذلك، فقد يرجع ذلك جزئيًا إلى أحد روبوتات الدردشة المفضلة لدينا والتي تعمل بتقنية الذكاء الاصطناعي - ChatGPT. أعلم أن الكثير منا قد أجرى محادثات حميمة وخاصة حيث تعرفنا على أنفسنا باستخدام ChatGPT، ولا نريد أن نصدق أن ChatGPT سيساعدنا في الاحتيال علينا.

وفقًا لشركة SlashNext للأمن السيبراني، يتم استخدام ChatGPT ومجموعات الذكاء الاصطناعي التابعة لها لنشر رسائل البريد الإلكتروني التصيدية بمعدل متسارع. يعتمد التقرير على خبرة الشركة في مجال التهديدات، وقد تم استطلاع آراء أكثر من ثلاثمائة متخصص في مجال الأمن السيبراني في أمريكا الشمالية. على وجه التحديد، يُزعم أن رسائل البريد الإلكتروني التصيدية الضارة زادت بنسبة 1,265% - على وجه التحديد التصيد الاحتيالي لبيانات الاعتماد، والتي ارتفعت بنسبة 967% - منذ الربع الرابع من عام 2022. يستهدف التصيد الاحتيالي لبيانات الاعتماد معلوماتك الشخصية مثل أسماء المستخدمين أو المعرفات أو كلمات المرور أو الدبابيس الشخصية عن طريق انتحال صفة شخص أو مجموعة أو مؤسسة موثوق بها من خلال رسائل البريد الإلكتروني أو قناة اتصال مماثلة.

تستخدم الجهات الفاعلة الخبيثة أدوات الذكاء الاصطناعي التوليدية، مثل ChatGPT، لإنشاء رسائل تصيد مصقولة وموجهة بشكل خاص. بالإضافة إلى التصيد الاحتيالي، تعد رسائل البريد الإلكتروني الخاصة بالعمل (BEC) نوعًا شائعًا آخر من عمليات الاحتيال عبر الإنترنت التي تهدف إلى الاحتيال على الشركات المالية. ويخلص التقرير إلى أن هذه التهديدات التي يغذيها الذكاء الاصطناعي تتصاعد بسرعة مذهلة، وتنمو بسرعة من حيث الحجم ومدى تعقيدها.

يشير التقرير إلى أن هجمات التصيد الاحتيالي بلغ متوسطها 31000 يوميًا، وأفاد ما يقرب من نصف المتخصصين في مجال الأمن السيبراني الذين شملهم الاستطلاع أنهم تلقوا هجوم BEC. عندما يتعلق الأمر بالتصيد الاحتيالي، أفاد 77% من هؤلاء المتخصصين أنهم تلقوا هجمات تصيد احتيالي.

الخبراء يزنون

صرح باتريك هار، الرئيس التنفيذي لشركة SlashNext، أن هذه النتائج "تعزز المخاوف بشأن استخدام الذكاء الاصطناعي التوليدي الذي يساهم في النمو الهائل للتصيد الاحتيالي". وأوضح أن تقنية الذكاء الاصطناعي المولدة تمكن مجرمي الإنترنت من زيادة سرعة تنفيذ الهجمات، مع زيادة تنوع هجماتهم أيضًا. يمكنهم إنتاج الآلاف من الهجمات المُصممة اجتماعيًا مع آلاف الاختلافات - وما عليك سوى الوقوع في فخ واحدة منها.

ويواصل هار توجيه أصابع الاتهام إلى ChatGPT، التي شهدت نموًا هائلاً في نهاية العام الماضي. ويفترض أن روبوتات الذكاء الاصطناعي التوليدية قد سهلت كثيرًا على المبتدئين الدخول في لعبة التصيد الاحتيالي والاحتيال، وأصبحت الآن أداة إضافية في ترسانة أولئك الأكثر مهارة وخبرة - والذين يمكنهم الآن توسيع نطاق هجماتهم واستهدافها بشكل أكبر. بسهولة. يمكن أن تساعد هذه الأدوات في إنشاء رسائل أكثر إقناعًا وذات صياغة مقنعة، والتي يأمل المحتالون أن تؤدي إلى تصيد الأشخاص على الفور.

أكد كريس ستيفن، مدير الأبحاث في Enterprise Management Associates، ذلك أثناء حديثه إلى CNBC قائلاً: "لقد ولت أيام "أمير نيجيريا"". وتابع قائلاً إن رسائل البريد الإلكتروني أصبحت الآن "مقنعة للغاية ومشروعة". يقوم الممثلون السيئون بتقليد الآخرين وانتحالهم بشكل مقنع من حيث اللهجة والأسلوب، أو حتى إرسال مراسلات ذات مظهر رسمي تبدو وكأنها من الوكالات الحكومية ومقدمي الخدمات المالية. ويمكنهم القيام بذلك بشكل أفضل من ذي قبل باستخدام أدوات الذكاء الاصطناعي لتحليل الكتابات والمعلومات العامة للأفراد أو المنظمات لتصميم رسائلهم، وجعل رسائل البريد الإلكتروني والاتصالات الخاصة بهم تبدو وكأنها حقيقية.

علاوة على ذلك، هناك أدلة على أن هذه الاستراتيجيات تحقق بالفعل عوائد للجهات الفاعلة السيئة. يشير هار إلى تقرير مكتب التحقيقات الفيدرالي عن جرائم الإنترنت، حيث يُزعم أن هجمات BEC كلفت الشركات حوالي 2.7 مليار دولار، إلى جانب خسائر بقيمة 52 مليون دولار بسبب أنواع أخرى من التصيد الاحتيالي. يعد الجزء الرئيسي مربحًا، ويتم تحفيز المحتالين بشكل أكبر لمضاعفة جهودهم في التصيد الاحتيالي وBEC.

ما سوف يستغرق لتخريب التهديدات

يعارض بعض الخبراء وعمالقة التكنولوجيا ذلك، حيث تعهدت أمازون، وجوجل، وميتا، ومايكروسوفت بإجراء اختبارات لمكافحة مخاطر الأمن السيبراني. تقوم الشركات أيضًا بتسخير الذكاء الاصطناعي بشكل دفاعي، حيث تستخدمه لتحسين أنظمة الكشف والمرشحات وما إلى ذلك. وأكد هار أن بحث SlashNext، مع ذلك، يؤكد أن هذا أمر مبرر تمامًا لأن مجرمي الإنترنت يستخدمون بالفعل أدوات مثل ChatGPT لتفعيل هذه الهجمات.

عثرت SlashNext على BEC معين في يوليو يستخدم ChatGPT، مصحوبًا بـ WormGPT. WormGPT هي أداة لجرائم الإنترنت تم الترويج لها على أنها "بديل القبعة السوداء لنماذج GPT، المصممة خصيصًا للأنشطة الضارة مثل إنشاء وإطلاق هجمات BEC"، وفقًا لهار. كما تم الإبلاغ عن انتشار روبوت محادثة خبيث آخر، وهو FraudGPT. يقول هار إنه تم الإعلان عن FraudGPT كأداة "حصرية" مصممة خصيصًا للمحتالين والمتسللين ومرسلي البريد العشوائي والأفراد المماثلين، وتتميز بقائمة واسعة من الميزات.

كان جزء من أبحاث SlashNext يدور حول تطوير "عمليات الهروب من السجن" للذكاء الاصطناعي، وهي عبارة عن هجمات مصممة ببراعة على روبوتات الدردشة المستندة إلى الذكاء الاصطناعي والتي عند إدخالها تتسبب في إزالة حواجز الأمان والشرعية الخاصة بروبوتات الدردشة المستندة إلى الذكاء الاصطناعي. يعد هذا أيضًا مجالًا رئيسيًا للتحقيق في العديد من المؤسسات البحثية ذات الصلة بالذكاء الاصطناعي.

كيف ينبغي للشركات والمستخدمين المضي قدما

إذا كنت تشعر أن هذا قد يشكل تهديدًا خطيرًا على المستوى المهني أو الشخصي، فأنت على حق - ولكن الأمر ليس ميئوسًا منه. ويقوم خبراء الأمن السيبراني بتكثيف الجهود وتبادل الأفكار حول طرق مواجهة هذه الهجمات والرد عليها. أحد الإجراءات التي تنفذها العديد من الشركات هو التعليم والتدريب المستمر للمستخدم النهائي لمعرفة ما إذا كان الموظفون والمستخدمون قد تم اكتشافهم بالفعل من خلال رسائل البريد الإلكتروني هذه.

إن الحجم المتزايد لرسائل البريد الإلكتروني المشبوهة والمستهدفة يعني أن التذكير هنا وهناك قد لا يكون كافيًا، وسيتعين على الشركات الآن أن تتدرب بشكل مثابر على نشر الوعي الأمني ​​بين المستخدمين. لا ينبغي أيضًا تذكير المستخدمين النهائيين فحسب، بل يجب تشجيعهم أيضًا على الإبلاغ عن رسائل البريد الإلكتروني التي تبدو احتيالية ومناقشة مخاوفهم المتعلقة بالأمان. ولا ينطبق هذا على الشركات والأمن على مستوى الشركة فحسب، بل ينطبق علينا كمستخدمين أفراد أيضًا. إذا أراد عمالقة التكنولوجيا منا أن نثق في خدمات البريد الإلكتروني الخاصة بهم لتلبية احتياجات البريد الإلكتروني الشخصية لدينا، فسيتعين عليهم الاستمرار في بناء دفاعاتهم بهذه الأنواع من الطرق.

بالإضافة إلى هذا التغيير على مستوى الثقافة في الشركات والشركات، يؤكد ستيفن أيضًا على أهمية أدوات تصفية البريد الإلكتروني التي يمكن أن تتضمن إمكانات الذكاء الاصطناعي وتساعد في منع الرسائل الضارة من الوصول إلى المستخدمين. إنها معركة دائمة تتطلب اختبارات وعمليات تدقيق منتظمة، نظرًا لأن التهديدات تتطور دائمًا، ومع تحسن قدرات برامج الذكاء الاصطناعي، فإن التهديدات التي تستخدمها تتطور أيضًا.

يتعين على الشركات تحسين أنظمتها الأمنية ولا يوجد حل واحد يمكنه معالجة جميع المخاطر التي تشكلها هجمات البريد الإلكتروني الناتجة عن الذكاء الاصطناعي بشكل كامل. ويوضح ستيفن أن استراتيجية الثقة المعدومة يمكن أن تساعد في سد فجوات السيطرة الناجمة عن الهجمات وتساعد في توفير الدفاع لمعظم المؤسسات. يجب أن يكون المستخدمون الفرديون أكثر انتباهاً لاحتمال التعرض للتصيد والخداع، لأنه قد ارتفع.

قد يكون من السهل الاستسلام للتشاؤم بشأن هذه الأنواع من القضايا، ولكن يمكننا أن نكون أكثر حذرًا بشأن ما نختار النقر عليه. خذ دقيقة إضافية، ثم أخرى، وتحقق من جميع المعلومات - يمكنك أيضًا البحث في عنوان البريد الإلكتروني الذي تلقيت منه رسالة بريد إلكتروني معينة ومعرفة ما إذا كان أي شخص آخر واجه مشكلات تتعلق به. إنه عالم مرآة صعب على الإنترنت، ومن المفيد بشكل متزايد أن تحافظ على ذكائك.