عمليات الاحتيال ChatGPT و AI التي يجب الانتباه إليها وتجنبها

منذ إطلاق ChatGPT في نوفمبر من العام الماضي ، ثبت أنه مفيد إلى ما لا نهاية ، حيث وجد العمال في جميع أنحاء العالم طرقًا مبتكرة لتطبيق التكنولوجيا كل يوم. ومع ذلك ، فهذه هي قوة أدوات الذكاء الاصطناعي التي يمكن استخدامها أيضًا في غايات خبيثة ، مثل كتابة نصوص البرامج الضارة ورسائل البريد الإلكتروني المخادعة.

إلى جانب استخدام الذكاء الاصطناعي لتنظيم عمليات الاحتيال ، خلال الأشهر الستة إلى الثمانية الماضية ، تم رصد المتسللين وهم يستفيدون من الموضوع الساخن لابتزاز الأشخاص من الأموال وسرقة معلوماتهم عبر فرص الاستثمار المزيفة وتطبيقات الاحتيال.

تعد عمليات الخداع بالذكاء الاصطناعي من بين أصعب الطرق لتحديدها ، ولا يستثمر الكثير من الأشخاص في أدوات مثل Surfshark antivirus ، التي تحذر المستخدمين عندما يكونون على وشك التوجه إلى مواقع ويب مشبوهة أو تنزيل تطبيق مشبوه. لذلك ، قمنا بتجميع هذا الدليل لجميع التكتيكات الشائعة التي لوحظت في البرية مؤخرًا. بشكل عام ، في هذه المقالة ، نغطي:

• عمليات الاحتيال على الذكاء الاصطناعي: ما مدى شيوعها؟
• عمليات الخداع بمساعدة الذكاء الاصطناعي
• عمليات الاحتيال في استنساخ الصوت باستخدام الذكاء الاصطناعي
• تطبيقات الدردشة وهمية
• مواقع محادثة وهمية
• عمليات الاحتيال على الاستثمار بالذكاء الاصطناعي
• عمليات الاحتيال لمنظمة العفو الدولية: إنهم سيزدادون سوءًا

عمليات الاحتيال على الذكاء الاصطناعي: ما هي ، وما مدى شيوعها؟

كما أشرنا في مقدمة هذه المقالة ، يمكن أن تشير عبارة "حيل الذكاء الاصطناعي" إلى نوعين مختلفين من عمليات الاحتيال ، والتي ظهرت أمثلة منها بانتظام خلال عام 2023.

في عمليات الاحتيال بمساعدة الذكاء الاصطناعي ، يساعد الذكاء الاصطناعي المحتال فعليًا على ارتكاب عملية الاحتيال ، مثل كتابة نص بريد إلكتروني للتصيد الاحتيالي. بشكل عام ، عمليات الاحتيال بالذكاء الاصطناعي ، يستفيد المخترق من شعبية وطبيعة روح العصر للذكاء الاصطناعي كموضوع لإثارة فضول أهداف فضولية ، مثل احتيال تطبيق ChatGPT المزيف.

رسم مؤشر كاليفورنيا DFPI زيادة في عمليات الاحتيال الاستثمارية في الذكاء الاصطناعي ، بينما لاحظت شركات الأمن السيبراني مثل McAfee زيادة طفيفة في عمليات الاحتيال في استنساخ الصوت باستخدام الذكاء الاصطناعي في الأشهر الأخيرة.

أدى الإصدار المتفجر من ChatGPT أيضًا إلى إنشاء موجة من المجالات الخبيثة ، والتي ستتم مناقشتها أيضًا في هذه المقالة.

في الآونة الأخيرة ، حذر المؤسس المشارك لشركة Apple ستيف وزنياك - أحد الموقعين مؤخرًا على رسالة تدعو إلى وقف تطوير الذكاء الاصطناعي - من أن الذكاء الاصطناعي سيجعل من الصعب اكتشاف عمليات الاحتيال ، ويسمح للجهات الخبيثة أن تبدو مقنعة بشكل متزايد. لقد حان عصر عمليات الاحتيال بمساعدة الذكاء الاصطناعي.

مثل الكثير من برامج الفدية كخدمة خفضت مستوى القدرة التقنية اللازمة لمهاجمة شركة ، فإن أدوات الذكاء الاصطناعي مثل ChatGPT تعني إلى حد كبير أن أي شخص يمكن أن يبدو مقنعًا ، لذلك من الناحية النظرية ، يمكن الآن لمجموعة ديموغرافية أكبر تنسيقها بفعالية.

عمليات الخداع بمساعدة الذكاء الاصطناعي

كانت خدع التصيد الاحتيالي موجودة منذ سنوات - سيرسل المحتالون رسائل بريد إلكتروني أو رسائل نصية متنكرين كشركة شرعية ، مثل Microsoft ، في محاولة لحثك على النقر فوق ارتباط ، مما يقودك إلى موقع ويب ضار.

من هناك ، يمكن لممثل التهديد إدخال برامج ضارة في جهازك أو سرقة المعلومات الشخصية مثل كلمة المرور. من الناحية التاريخية ، كانت إحدى أسهل الطرق لاكتشافها هي الأخطاء الإملائية والنحوية التي لن تقوم بها شركة مرموقة مثل Microsoft ببساطة في بريد إلكتروني رسمي لعملائها.

ومع ذلك ، في عام 2023 ، من خلال موجه بسيط ، يمكن لـ ChatGPT إنشاء نسخة نظيفة وسلسة لا تحتوي على أي أخطاء إملائية. وهذا يجعل التمييز بين المراسلات المشروعة وهجمات التصيد الاحتيالي أكثر صعوبة.

إذا طلبت صراحةً من ChatGPT إنشاء بريد إلكتروني بغرض التصيد الاحتيالي ، فإن برنامج الدردشة الآلي يرفض القيام بذلك. ومع ذلك ، فقد طلبنا من ChatGPT إنتاج نوعين مختلفين من رسائل البريد الإلكتروني التي يمكن استخدامها بشكل عملي كنموذج لخداع التصيد الاحتيالي ، ومن المدهش أنه يبدو أن هذه الأنواع من الطلبات لم يتم حظرها بموجب قواعد المحتوى الخاصة بها:

حماية نفسك من عمليات التصيد الاحتيالي باستخدام الذكاء الاصطناعي

إذا تلقيت بريدًا إلكترونيًا يبدو أنه من شركة شرعية ، لكنه يحاول إدخال إحساس بالإلحاح في عملية اتخاذ القرار (مثل مطالبتك بدفع غرامة ، أو تسجيل الدخول إلى حسابك لتجنب حذفه) ، تعامل مع بحذر شديد. هذا أسلوب تصيد نموذجي.

تذكر ، إذا كنت تعتقد أن البريد الإلكتروني هو على الأرجح حقيقي ، فيمكنك دائمًا فتح خط اتصال جديد مع الشخص أو الشركة.

على سبيل المثال ، إذا تلقيت رسالة بريد إلكتروني تبدو مريبة من البنك الذي تتعامل معه تفيد بأن حسابك قد تم الوصول إليه من قبل طرف ثالث غير مصرح له ، فلا ترد على البريد الإلكتروني - ما عليك سوى الاتصال بفريق خدمة العملاء بالبنك بنفسك ، باستخدام الرقم أو العنوان المدرج في موقعة على الإنترنت.

عمليات الاحتيال في استنساخ الصوت باستخدام الذكاء الاصطناعي

تعد عمليات الاحتيال AI Voice نوعًا من عمليات الاحتيال بمساعدة الذكاء الاصطناعي التي احتلت العناوين الرئيسية في الأشهر الأخيرة. وجد استطلاع عالمي أجرته شركة McAfee مؤخرًا أن 10٪ من المستجيبين قد تم بالفعل استهدافهم شخصيًا عن طريق عملية احتيال صوتية بالذكاء الاصطناعي. وذكر 15٪ آخرون أنهم يعرفون شخصًا ما تم استهدافه.

11٪ من الضحايا الأمريكيين الذين فقدوا أموالهم أثناء عمليات الاحتيال الخاصة باستنساخ الصوت باستخدام الذكاء الاصطناعي تم خداعهم بمبلغ يتراوح بين 5000 و 15000 دولار.

في عمليات الاحتيال الصوتية بالذكاء الاصطناعي ، يقوم الفاعلون الخبثاء بإلغاء البيانات الصوتية من حساب الوسائط الاجتماعية للهدف ، ثم تشغيلها من خلال تطبيق تحويل النص إلى كلام يمكنه إنشاء محتوى جديد بأسلوب الصوت الأصلي. يمكن الوصول إلى هذه الأنواع من التطبيقات عبر الإنترنت مجانًا ، ولها استخدامات مشروعة غير شائنة.

سينشئ المحتال بريدًا صوتيًا أو رسالة صوتية تصور هدفه في محنة وفي حاجة ماسة إلى المال. سيتم إرسال هذا بعد ذلك إلى أفراد عائلاتهم ، على أمل ألا يتمكنوا من التمييز بين صوت أحبائهم والنسخة التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

حماية نفسك من عمليات الاحتيال الصوتية باستخدام الذكاء الاصطناعي

تنصح لجنة التجارة الفيدرالية (FTC) المستهلكين بالبقاء هادئين إذا تلقوا مراسلات تزعم أنها من شخص عزيز في محنة ومحاولة الاتصال بالرقم الذي تلقوا المكالمة منه لتأكيد أنه حقيقي بالفعل.

إذا كنت تعتقد أنك في هذا الوضع ولا يمكنك الاتصال بالرقم ، فجرب رقم الهاتف العادي للشخص المعني. إذا لم تحصل على إجابة ، فحاول التحقق من مكان وجودهم عن طريق الاتصال بأشخاص قريبين منهم - وتحقق من تطبيقات مثل Find My Friends إذا كنت تستخدمها ، لمعرفة ما إذا كانوا في مكان آمن.

إذا لم تتمكن من التحقق من مكان وجودهم ، فمن الأهمية بمكان الاتصال بسلطات إنفاذ القانون على الفور. إذا كنت تعمل على أنها عملية احتيال ، فتأكد من إبلاغ FTC مباشرة.

الاحتيالات الاحتيالية ChatGPT التطبيق

تمامًا مثل أي جنون تقني رئيسي آخر ، إذا كان الناس يتحدثون عنه - والأهم من ذلك ، البحث عنه - فإن المحتالين سوف يستفيدون منه من أجل وسائل شائنة. ChatGPT هو مثال رئيسي على ذلك.

وجد تقرير حديث من Sophos عددًا كبيرًا من التطبيقات المجاورة لـ ChatGPT والتي أطلق عليها اسم "برنامج Fleeceware". توفر تطبيقات Fleeceware برنامجًا مجانيًا بوظائف محدودة ثم تقصف المستخدمين بالإعلانات داخل التطبيق حتى يقومون بالتسجيل للحصول على اشتراك باهظ الثمن.

وفقًا لشركة الأمن السيبراني ، "باستخدام مزيج من الإعلانات داخل وخارج متاجر التطبيقات والمراجعات الوهمية التي تتلاعب بأنظمة تصنيف المتاجر ، يمكن لمطوري هذه التطبيقات المضللة جذب مستخدمي الجهاز المطمئنين إلى تنزيلها".

ووفقًا لـ SensorTower ، فإن أحد تطبيقات ChatGPT المزيفة المسمى Genie ، والذي يقدم اشتراكات 7 دولارات في الأسبوع أو 70 دولارًا سنويًا ، حقق مليون دولار على مدار فترة شهرية. وحقق آخرون عشرات الآلاف من الجنيهات. آخر ، يسمى "Chat GBT" في متجر Android ، ورد اسمه على وجه التحديد في تقرير Sophos:

(صورة الائتمان: سوفوس)

وفقًا لشركة الأمن السيبراني ، فإن الميزات "الاحترافية" التي يدفع المستخدمون في نهاية المطاف مبلغًا ضخمًا مقابلها هي "في الأساس نفس" الإصدار المجاني. كما أفادوا أنه قبل إزالة التطبيق ، كان قسم المراجعات مليئًا "بالتعليقات الواردة من الأشخاص الذين نزّلوا التطبيق ووجدوا أنه لا يعمل - إما أنه عرض إعلانات فقط أو فشل في الرد على الأسئلة عند إلغاء القفل".

حماية نفسك من عمليات الاحتيال المزيفة لتطبيق ChatGPT

إن أبسط طريقة للتأكد من أنك لا تتحمل هذه الأنواع من رسوم الاشتراك - أو تنزيل برامج ضارة غير مرغوب فيها - هي ببساطة عدم تنزيل التطبيقات. يمكن لمستخدمي iPhone الآن تنزيل تطبيق ChatGPT الرسمي ، والذي تم إطلاقه مؤخرًا. سيكون من المثير للاهتمام معرفة ما إذا كان هذا يمثل زوال تطبيقات ChatGPT المزيفة التي تملأ متجر التطبيقات حاليًا.

بدلاً من ذلك ، يمكن لمستخدمي iOS و Android إضافة رابط ويب ChatGPT إلى شاشتهم الرئيسية ، وإذا كنت من مستخدمي iPhone ، فيمكنك إنشاء اختصار Siri الذي سينقلك مباشرة إلى ChatGPT على الويب. هناك فرق عملي بسيط بين اختصار الشاشة الرئيسية والتطبيق الأصلي في هذا السياق.

مواقع محادثة وهمية

إلى جانب تطبيقات ChatGPT المزيفة ، هناك أيضًا مجموعة من مواقع ChatGPT المزيفة ، والتي تستفيد من حجم البحث الضخم حول المصطلح.

في فبراير 2023 ، حدد مستخدم Twitter Alvosec أربعة مجالات كانت جميعها توزع البرامج الضارة تحت اسم متعلق بـ ChatGPT:

️ احذر من نطاقات #ChatGPT التي توزع البرامج الضارة

الدردشة- gpt-windows [.] com
chat-gpt-online-pc [.] com
chat-gpt-pc [.] عبر الإنترنت
chat-gpt [.] تشغيل @ OpenAI # cybersecurity #infosec pic.twitter.com/hOZIVGN4Wi

- ألفوسيك ️ (alvosec) 23 فبراير 2023

أشارت بعض التقارير إلى أن مواقع ChatGPT المزيفة تقدم chatbot الخاص بـ OpenAI كتطبيق Windows قابل للتنزيل ، بدلاً من تطبيق داخل المتصفح ، مما يسمح لها بتحميل البرامج الضارة على الأجهزة.

كيف تحمي نفسك من مواقع ChatGPT المزيفة

تذكر أن ChatGPT هو أحد منتجات OpenAI ، والطريقة الوحيدة للوصول إلى chatbot هي عبر تطبيق الهاتف المحمول ، أو من خلال المجال الخاص بهم على وجه التحديد. "ChatGPT [.] com" ، على سبيل المثال ، ليس له علاقة بـ ChatGPT الحقيقي والشرعي ، ولا يمكنك تنزيل ChatGPT كما لو كان عميلًا برمجيًا.

الغريب أن عنوان URL للصفحة المقصودة لتسجيل الدخول / تسجيل الدخول إلى ChatGPT الشرعي لا يحتوي حتى على كلمة "ChatGPT" بداخله: https://chat.openai.com/auth/login.

يمكنك أيضًا التسجيل عبر مدونة OpenAI (https://openai.com/blog/chatgpt) ، ولكن مرة أخرى ، هذا جزء من مجال OpenAI. إذا أرسل إليك شخص ما رابطًا إلى موقع ChatGPT لا يؤدي إلى أحد العناوين أعلاه ، فننصحك بعدم النقر عليه ، والانتقال إلى الموقع الشرعي عبر Google بدلاً من ذلك.

عمليات الاحتيال على الاستثمار بالذكاء الاصطناعي

مثل الكثير من العملات المشفرة ، يستفيد المحتالون من الضجيج حول الذكاء الاصطناعي - وكذلك التكنولوجيا نفسها - لخلق فرص استثمارية مزيفة تبدو حقيقية.

تم استخدام كل من "TeslaCoin" و "TruthGPT Coin" في عمليات الاحتيال ، والتخلص من ضجة وسائل الإعلام حول Elon Musk و ChatGPT وتصوير نفسها على أنها فرص استثمارية عصرية.

تدعي إدارة الحماية المالية والابتكار في كاليفورنيا أن شركة تدعى Max Wide Technologies أنشأت مديرًا تنفيذيًا مزيفًا تم إنشاؤه بواسطة الذكاء الاصطناعي وبرمجته بنص يشجع المقامرون على الاستثمار (في الصورة أدناه). أصدرت الشركة أمرًا بالكف والامتناع.

(رصيد الصورة: coinstats.app)

ذكرت مجلة Forbes أن شركة استثمارية أخرى ، Harvest Keeper - التي تقول DFPI إنها انهارت في مارس - استأجرت ممثلًا للتنكر في منصب الرئيس التنفيذي من أجل السيطرة على العملاء المتحمسين. يوضح هذا المدى الذي سيذهب إليه بعض المحتالين لضمان أن يكون صوتهم واقعيًا بدرجة كافية.

حماية نفسك من حيل الاستثمار بالذكاء الاصطناعي

إذا كان شخص ما لا تعرفه يتواصل معك مباشرةً من خلال فرص الاستثمار ، فتعامل مع نصائحه بحذر شديد. لا تميل فرص الاستثمار المجدية إلى الوقوع في أحضان الناس بهذه الطريقة.

إذا بدا الأمر جيدًا لدرجة يصعب تصديقها ، وقدم لك شخص ما عوائد مضمونة ، فلا تصدقها. لا يتم ضمان عوائد الاستثمارات أبدًا ورأس المال الخاص بك دائمًا في خطر.

إذا كنت شخصًا يستثمر بانتظام في الشركات ، فستعرف أهمية بذل العناية الواجبة قبل التخلي عن أموالك التي جنيتها بشق الأنفس. نوصي بتطبيق مستوى أعلى من التدقيق على استثمارات الذكاء الاصطناعي المحتملة ، مع الأخذ في الاعتبار الضجة حول المنتجات ذات الصلة وانتشار عمليات الاحتيال.

عمليات الاحتيال لمنظمة العفو الدولية: إنهم سيزدادون سوءًا

في عام 2022 ، خسر المستهلكون الأمريكيون 8.8 مليار دولار بسبب عمليات الاحتيال - ومن غير المرجح أن يكون عام 2023 مختلفًا. غالبًا ما ترتبط فترات عدم الاستقرار المالي بزيادة الاحتيال أيضًا ، وعلى الصعيد العالمي ، تعاني الكثير من البلدان.

يعد الذكاء الاصطناعي حاليًا منجم ذهب للمحتالين. الجميع يتحدث عن ذلك ، لكن القليل منهم على دراية بما هو ، والشركات من جميع الأشكال والأحجام تسرع منتجات الذكاء الاصطناعي إلى السوق.

في الوقت الحالي ، يجعل الضجيج حول الذكاء الاصطناعي الموضوع الأكثر قابلية للتنزيل والاستثمار والنقر على الإنترنت. يوفر الغطاء المثالي للمحتالين.

من المهم مواكبة أحدث عمليات الاحتيال التي تقوم بالجولات ، ومع وجود الذكاء الاصطناعي الذي يجعل من الصعب اكتشافها ، فإن هذا الأمر أكثر أهمية. تقوم FTC و FBI والوكالات الفيدرالية الأخرى بإصدار تحذيرات بانتظام ، لذا يُنصح بشدة بمتابعتها على وسائل التواصل الاجتماعي للحصول على آخر التحديثات.

ومع ذلك ، نوصي أيضًا بشراء VPN مع اكتشاف البرامج الضارة ، مثل NordVPN أو Surfshark . سيخفي كلاهما عنوان IP الخاص بك مثل VPN قياسي ، ولكنهما ينبهك أيضًا إلى مواقع الويب المشبوهة الكامنة في صفحات نتائج بحث Google. يعد تجهيز نفسك بتكنولوجيا كهذه جزءًا مهمًا من الحفاظ على سلامتك على الإنترنت.