عمليات الاحتيال في استنساخ الصوت باستخدام الذكاء الاصطناعي: تم استهداف 1 من كل 4 بالغين بالفعل

هل تعتقد أنه يمكنك التمييز بين البريد الصوتي من شخص تحبه والبريد الصوتي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؟ حسنًا ، إن المحتالين الذين يستخدمون تقنية استنساخ الصوت AI للاحتيال على الضحايا المطمئنين يأملون بالتأكيد أنك لا تستطيع - والآن ، أصبحوا أكثر نشاطًا الآن من أي وقت مضى.

وجدت دراسة استقصائية أجرتها شركة McAfee مؤخرًا أن ربع البالغين قد تم استهدافهم بالفعل من خلال عمليات الاحتيال الصوتية بالذكاء الاصطناعي ، حيث خسر الغالبية العظمى منهم الأموال التي حصلوا عليها بشق الأنفس نتيجة لذلك. وكشفت أيضًا أن غالبية البالغين يشاركون أصواتهم على منصات التواصل الاجتماعي وغيرها من المساحات على الإنترنت مرة واحدة على الأقل في الأسبوع - مما يمنح الجهات الفاعلة في التهديد بالضبط ما يحتاجون إليه لتنفيذ هذا النوع من الاحتيال مرارًا وتكرارًا.

لذا ، كيف تعمل خدع الاستنساخ الصوتي للذكاء الاصطناعي في الواقع ، وما مدى شيوعها ، وكيف يمكنك اكتشاف عملية احتيال استنساخ الصوت بالذكاء الاصطناعي؟ نلقي نظرة فاحصة.

• ما هو خداع الاستنساخ الصوتي باستخدام الذكاء الاصطناعي؟
• كيف يعمل AI Voice Cloning في الواقع
• ما مدى شيوع عمليات الاحتيال AI Voice Clone؟
• كيف تتحقق مما إذا كانت الرسالة عبارة عن عملية احتيال باستخدام الذكاء الاصطناعي لاستنساخ الصوت

ما هو خداع الاستنساخ الصوتي باستخدام الذكاء الاصطناعي؟

عملية احتيال استنساخ الصوت بالذكاء الاصطناعي هي أي عملية احتيال تستخدم ملفات صوتية تم إنشاؤها بشكل مصطنع لخداع الضحايا ليعتقدوا أن أحبائهم في خطر ، أو يحتاجون إلى مساعدة مالية عاجلة وقد اتصلوا بهم للحصول على المساعدة.

في عملية احتيال من هذا النوع ، يقوم المحتال بتشغيل مقطع من موضوع يتحدث - غالبًا ما يتم إزالته من وسائل التواصل الاجتماعي - من خلال مولد صوت AI. باستخدام التعلم الآلي ، سيحلل المولد إيقاع المقطع الأولي ونغمة ودرجة الصوت ، ثم يسمح للمحتال بإنتاج صوت أصلي فريد يحاكي صوت الأشخاص بشكل مثالي.

سيرسل المحتال بعد ذلك هذه التسجيلات إلى الأصدقاء وأقارب الموضوع عبر تطبيقات مثل WhatsApp ، على أمل ألا يتمكنوا من التمييز بين أحبائهم ونسخة صوتهم التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

كما هو شائع في عمليات الاحتيال الأخرى عبر الإنترنت ، سيحاول المحتال إدخال شعور بالإلحاح والضيق في مراسلاتهم ، من أجل دفع الهدف إلى التصرف بتهور أو عدم انتظام.

في إحدى الحالات الأخيرة ، حاول محتال صوت بالذكاء الاصطناعي إقناع أم في الولايات المتحدة بأن ابنتها قد اختطفت عن طريق استنساخ صوت الطفل.

بشكل مثير للقلق ، لن يجد المخادع الناشئ صعوبة في الكشف عن الملفات الصوتية التي سيحتاجها لاستهداف الضحية - في الواقع ، من المحتمل أن يكونوا مدللين للاختيار.

وجد استطلاع للرأي أجرته شركة McAfee في مايو 2023 وشمل أكثر من 7000 شخص من سبع دول مختلفة أن 53٪ من المشاركين في الاستطلاع قالوا إنهم يشاركون أصواتهم عبر الإنترنت مرة واحدة على الأقل في الأسبوع. في الهند ، كان هذا الرقم 86٪.

كيف يعمل استنساخ الصوت في الواقع

لا يمكن استنساخ صوت AI إلا باستخدام أداة AI تسمى مولد صوت AI. باختصار ، تقوم مولدات الصوت بالذكاء الاصطناعي بتحويل الملفات النصية إلى كلام (تسمى غالبًا أداة "تحويل النص إلى كلام" أو أداة "TTS").

تستخدم مولدات الصوت AI التعلم الآلي لتعليم أنفسهم التحدث بطرق محددة من خلال تحليل المعلومات من الملفات الصوتية للأشخاص الذين يتحدثون. تقوم المولدات بعد ذلك بتطبيق ما تعلموه لقراءة الملفات النصية التي قدمها المستخدمون وإنشاء محتوى صوتي أصلي.

تحتوي العديد من هذه المولدات على أصوات مخصصة يمكنك تحديدها لقراءة نصك ، بالإضافة إلى أصوات المشاهير للاختيار من بينها - لكن الآخرين سيسمحون لك بتسجيل صوتك وإنشاء محتوى صوتي لاحق.

تقدم أداة تحويل النص إلى كلام Descript.com وصفًا ذاتيًا "مولد صوت حديثًا يخلق استنساخًا شديد الواقعية لصوتك".

تتوفر الآن مولدات الصوت AI على نطاق واسع لجميع أنواع الأجهزة. تقدم هذه البرامج قيمة كبيرة للأشخاص الذين يجدون صعوبة في القراءة ، أو ببساطة يتعلمون بشكل أفضل عند الاستماع إلى الصوت بدلاً من قراءة الكلمة المكتوبة.

يتم استخدامها أيضًا من قبل شركات الإعلان التي ليس لديها ميزانية لتوظيف فنان صوتي باهظ الثمن لمحتواها التسويقي.

أدى النجاح والاستخدام الواسع النطاق لـ ChatGPT إلى تركيز متجدد على أدوات الذكاء الاصطناعي من جميع الأشكال والأحجام ، بما في ذلك تلك التي يمكن استخدامها لنسخ الصوت. على الرغم من استخداماتها النبيلة ، يوجد الآن نظام بيئي صغير من أدوات TTS AI التي يمكن ، للأسف ، إساءة استخدامها لتحقيق غايات شائنة ، بما في ذلك خداع الأشخاص.

ما مدى شيوع عمليات الاحتيال AI Voice Clone؟

في استطلاع McAfee الذي تم إصداره مؤخرًا ، وجد عملاق الأمن السيبراني أن 1 من كل 4 بالغين شملهم الاستطلاع قد تعرض لخداع صوتي بالذكاء الاصطناعي.

أفاد 77٪ من المستهدفين أنهم خسروا أموالاً بسبب عملية الاحتيال. أفادت McAfee أنه من بين 77٪ ، "خسر أكثر من الثلث أكثر من 1000 دولار ، بينما تم خداع 7٪ من بين 5000 و 15000 دولار."

كشف الاستطلاع أن الضحايا في الولايات المتحدة هم الأكثر خسارة. 11٪ من الضحايا الأمريكيين الذين فقدوا أموالهم من خلال عمليات الاحتيال الخاصة باستنساخ الصوت باستخدام الذكاء الاصطناعي خسروا ما بين 5000 إلى 15000 دولار.

كيف تتحقق مما إذا كانت الرسالة عبارة عن عملية احتيال AI Voice Clone

وجد استطلاع McAfee أيضًا أن 70٪ من الأشخاص قالوا إنهم "غير متأكدين" مما إذا كانوا قادرين على التمييز بين صوت الذكاء الاصطناعي والصوت البشري.

قال ما يقرب من ثلث المستطلعين الأمريكيين (28٪) إنهم لن يكونوا قادرين على التمييز بين البريد الصوتي الذي تركه "دجال اصطناعي" ، على حد تعبير مكافي ، وأحد أفراد أسرته.

تذكر أن المحتالين قد يكونون قادرين على تكرار صوت أحد أفراد أسرتك - ولكن التحكم في رقم الشخص المقرب لك أو حساب WhatsApp أصعب كثيرًا.

قد يكون من الصعب التصرف بهدوء عندما يبدو أن أحد أقاربك أو أصدقائك في محنة. ولكن مع تزايد انتشار عمليات الاحتيال الصوتي باستخدام الذكاء الاصطناعي ، فمن المهم أن تفعل ذلك. هناك بعض الدلائل على أن الرسالة الصوتية بالذكاء الاصطناعي قد تكون عملية احتيال:

• طريقة اتصال غير معتادة (مثل رقم غير معروف)
• طلبات فورية لمبالغ مالية كبيرة
• طلبات تحويل الأموال من خلال وسائل غير معتادة (مثل بطاقات الهدايا أو العملات المشفرة)
• مطالبة بعدم إخبار أي شخص بالمكالمة / الحادث

مع وضع ذلك في الاعتبار ، إليك ما تنصحك به لجنة التجارة الفيدرالية (FTC):

• اتصل بالرقم الذي ترك لك الرسالة للتحقق من هويته
• اتصل بأحبائك أو صديقك على رقمهم الشخصي
• مراسلة العائلة والأصدقاء المقربين للشخص المعني

إذا لم تتمكن من الاتصال ، فمن المهم أن تبلغ سلطات إنفاذ القانون على الفور. بالنسبة لأولئك منكم الذين لم يتم استهدافهم من قبل إحدى هذه الحيل ولكنهم يريدون التأكد من عدم وقوعهم ضحية لواحدة ، قم بإنشاء كلمة آمنة مع عائلتك وأصدقائك.

هذا رمز يعني أنه يمكنك أنت وأحبائك التعرف على أنفسكم لبعضكم البعض ، وهي واحدة من أفضل الطرق لضمان عدم الوقوع ضحية لعملية احتيال صوتية بواسطة الذكاء الاصطناعي. سيكون هذا مفيدًا بشكل خاص لأفراد الأسرة المسنين ، وإذا لم يتم تدوينه مطلقًا ، فيمكن أن يظل بسيطًا للغاية.

من المهم أيضًا مواكبة أحدث الأساليب والتقنيات والصيغ التي يستخدمها محتالو الصوت بالذكاء الاصطناعي لابتزاز الضحايا. إلى جانب توخي الحذر والتعامل مع المكالمات الواردة من أرقام مجهولة بحذر شديد ، غالبًا ما يكون إبقاء أذنك على الأرض هو أفضل شيء يمكنك القيام به.