قد يغرق البريد العشوائي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في بريدك الوارد قريبًا بعمليات الاحتيال

كل يوم ، تخنق الرسائل الواردة من الأمراء النيجيريين ، والباعة المتجولين للعقاقير الرائعة ، والمروجين للاستثمارات التي لا يمكن تفويتها ، صناديق البريد الإلكتروني.

يبدو أن التحسينات على عوامل تصفية البريد العشوائي تلهم تقنيات جديدة لاختراق وسائل الحماية.

الآن ، سباق التسلح بين مانعي البريد العشوائي ومرسلي البريد العشوائي على وشك التصعيد مع ظهور سلاح جديد: الذكاء الاصطناعي التوليدي.

مع التطورات الحديثة في الذكاء الاصطناعي التي اشتهرت بها ChatGPT ، يمكن لمرسلي البريد العشوائي الحصول على أدوات جديدة للتهرب من المرشحات وجذب انتباه الناس وإقناعهم بالنقر فوق المعلومات الشخصية أو شرائها أو التخلي عنها.

بصفتي مدير مختبر تطوير التفكير البشري والآلي في جامعة جنوب فلوريدا ، فقد بحثت في تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والتفكير البشري.

لقد درست كيف يمكن للذكاء الاصطناعي أن يتعلم التفضيلات الفردية للأفراد ومعتقداتهم ومراوغاتهم الشخصية.

يمكن استخدام هذا لفهم كيفية التفاعل مع الأشخاص بشكل أفضل أو مساعدتهم على التعلم أو تقديم اقتراحات مفيدة.

ولكن هذا يعني أيضًا أنه يجب عليك الاستعداد لبريد عشوائي أكثر ذكاءً يعرف نقاط ضعفك - ويمكن استخدامه ضدك.

البريد العشوائي ، البريد العشوائي ، البريد العشوائي

إذن ، ما هو البريد العشوائي؟ يتم تعريف البريد العشوائي على أنه رسائل بريد إلكتروني تجارية غير مرغوب فيها مرسلة من قبل كيان غير معروف. يمتد المصطلح أحيانًا إلى الرسائل النصية والرسائل المباشرة على وسائل التواصل الاجتماعي والمراجعات الوهمية على المنتجات.

يريد مرسلو الرسائل غير المرغوب فيها دفعك إلى اتخاذ إجراء: شراء شيء ما أو النقر فوق روابط التصيد الاحتيالي أو تثبيت برامج ضارة أو تغيير طرق العرض.

البريد العشوائي مربح. يمكن أن يربح انفجار واحد للبريد الإلكتروني 1000 دولار في بضع ساعات فقط ، ويكلف مرسلي البريد العشوائي بضعة دولارات فقط - باستثناء الإعداد الأولي. قد تولد حملة البريد الإلكتروني العشوائي عبر الإنترنت حوالي 7000 دولار في اليوم.

يرغب المعلنون الشرعيون أيضًا في حثك على اتخاذ إجراء - شراء منتجاتهم وإجراء استطلاعات الرأي والاشتراك في النشرات الإخبارية.

ومع ذلك ، في حين أن البريد الإلكتروني للمسوق قد يرتبط بموقع شركة على شبكة الإنترنت ويحتوي على خيار إلغاء الاشتراك وفقًا للوائح الفيدرالية ، فإن البريد الإلكتروني العشوائي قد لا يكون كذلك.

يفتقر مرسلو البريد العشوائي أيضًا إلى الوصول إلى القوائم البريدية التي اشترك فيها المستخدمون. بدلاً من ذلك ، يستخدم مرسلو البريد العشوائي استراتيجيات غير بديهية مثل عملية احتيال "الأمير النيجيري".

يدعي أمير نيجيري أنه يحتاج إلى مساعدتك لفتح مبلغ سخيف من المال ، ويعد بمكافأتك بلطف.

يرفض المواطنون الرقميون الأذكياء مثل هذه الدعوات على الفور ، لكن عبثية الطلب قد تختار في الواقع للسذاجة أو العمر المتقدم ، وتصفية أولئك الذين من المرجح أن يقعوا في عمليات الاحتيال.

ومع ذلك ، فإن التقدم في مجال الذكاء الاصطناعي يعني أن مرسلي البريد العشوائي قد لا يضطرون إلى الاعتماد على أساليب الضرب أو الخطأ هذه.

يمكن أن يسمح لهم الذكاء الاصطناعي باستهداف الأفراد وجعل رسائلهم أكثر إقناعًا بناءً على المعلومات التي يسهل الوصول إليها ، مثل منشورات وسائل التواصل الاجتماعي.

مستقبل البريد العشوائي

من المحتمل أنك سمعت عن التطورات في نماذج اللغات الكبيرة مثل ChatGPT.

المهمة التي تؤديها LLMs التوليدية بسيطة بشكل مخادع: بالنظر إلى تسلسل نصي ، توقع الرمز المميز - فكر في هذا كجزء من كلمة - يأتي بعد ذلك.

ثم توقع الرمز المميز الذي يأتي بعد ذلك. وهكذا ، مرارا وتكرارا.

بطريقة ما ، يبدو أن التدريب على هذه المهمة وحدها ، عند الانتهاء من نص كافٍ على LLM كبير بما يكفي ، كافٍ لإضفاء القدرة على هذه النماذج مع القدرة على الأداء الجيد بشكل مدهش في الكثير من المهام الأخرى.

ظهرت بالفعل طرق متعددة لاستخدام التكنولوجيا ، مما يُظهر قدرة التكنولوجيا على التكيف مع الأفراد والتعرف عليهم بسرعة.

على سبيل المثال ، يمكن لـ LLM كتابة رسائل بريد إلكتروني كاملة بأسلوب كتابتك ، مع إعطاء أمثلة قليلة فقط عن كيفية كتابتك. وهناك المثال الكلاسيكي - الآن أكثر من عقد من الزمان - لهدف اكتشف أن زبونًا كان حاملًا قبل أن يعرف والدها.

سيستفيد مرسلي البريد العشوائي والمسوقون على حدٍ سواء من القدرة على توقع المزيد عن الأفراد ذوي البيانات الأقل.

بالنظر إلى صفحتك على LinkedIn ، وعدد قليل من المنشورات ، وصورة ملف شخصي أو اثنتين ، قد يقوم مرسلو البريد العشوائي المدعومون من LLM بتخمينات دقيقة بشكل معقول حول ميولك السياسية أو حالتك الاجتماعية أو أولويات حياتك.

أظهر بحثنا أنه يمكن استخدام LLM للتنبؤ بالكلمة التي سيقولها الفرد بعد ذلك بدرجة من الدقة تفوق بكثير مناهج الذكاء الاصطناعي الأخرى في مهمة توليد الكلمات تسمى مهمة الطلاقة الدلالية.

أظهرنا أيضًا أن LLM يمكن أن تأخذ أنواعًا معينة من الأسئلة من اختبارات قدرات التفكير والتنبؤ بكيفية استجابة الناس لهذا السؤال.

يشير هذا إلى أن LLM لديها بالفعل بعض المعرفة حول شكل قدرة التفكير البشري النموذجية.

إذا تجاوز مرسلو الرسائل غير المرغوب فيها عوامل التصفية الأولية وجعلوك تقرأ بريدًا إلكترونيًا أو تنقر فوق ارتباط أو حتى تنخرط في محادثة ، فإن قدرتهم على تطبيق الإقناع المخصص تزداد بشكل كبير.

هنا مرة أخرى ، يمكن لـ LLMs تغيير اللعبة. تشير النتائج المبكرة إلى أنه يمكن استخدام LLM للمناقشة بشكل مقنع حول موضوعات تتراوح من السياسة إلى سياسة الصحة العامة.

جيد للرجل

ومع ذلك ، فإن الذكاء الاصطناعي لا يحبذ جانبًا أو آخرًا. يجب أن تستفيد عوامل تصفية البريد العشوائي أيضًا من تطورات الذكاء الاصطناعي للرسائل غير المرغوب فيها ، مما يسمح لها بإقامة حواجز جديدة أمام رسائل البريد الإلكتروني غير المرغوب فيها.

غالبًا ما يحاول مرسلو الرسائل غير المرغوب فيها خداع المرشحات بأحرف خاصة أو كلمات بها أخطاء إملائية أو نص مخفي ، معتمدين على نزوع الإنسان إلى مسامحة النصوص الصغيرة الشاذة - على سبيل المثال ، "c1ick h.ere n0w".

ولكن نظرًا لأن الذكاء الاصطناعي يتفهم الرسائل غير المرغوب فيها بشكل أفضل ، يمكن للفلاتر تحديد الرسائل غير المرغوب فيها وحظرها بشكل أفضل. وربما حتى تسمح بمرور البريد العشوائي المطلوب ، مثل البريد الإلكتروني التسويقي الذي اشتركت فيه صراحةً.

تخيل مرشحًا يتنبأ بما إذا كنت تريد قراءة بريد إلكتروني قبل قراءته.

على الرغم من المخاوف المتزايدة بشأن الذكاء الاصطناعي - كما يتضح من إيلون ماسك ، الرئيس التنفيذي لشركة Tesla و SpaceX و Twitter ، ومؤسس Apple Steve Wozniak وغيرهم من قادة التكنولوجيا الذين طالبوا بوقف تطوير الذكاء الاصطناعي - يمكن أن يأتي الكثير من الخير من التقدم في التكنولوجيا.

يمكن أن يساعدنا الذكاء الاصطناعي في فهم كيف يمكن للأطراف السيئة استغلال نقاط الضعف في التفكير البشري وتطوير طرق لمواجهة الأنشطة الحاقدة.

يمكن أن تؤدي جميع التقنيات الجديدة إلى الدهشة والخطر. يكمن الاختلاف في من ينشئ الأدوات ويتحكم فيها وكيفية استخدامها.

تم تحديث هذه المقالة للإشارة إلى أنه كان والد مراهق .

هل لديك أي أفكار حول هذا؟ اترك لنا سطرًا أدناه في التعليقات ، أو انقل المناقشة إلى Twitter أو Facebook.

توصيات المحررين:

• كيفية تغيير إعدادات البريد العشوائي في Gmail وتخصيص عامل التصفية
• كيفية تحديد رسائل WhatsApp غير المرغوب فيها ومنعها
• تعرضت صفحات Facebook التي تم التحقق منها للاختراق ونشر البرامج الضارة
• يريد قادة التكنولوجيا الضغط على زر الإيقاف المؤقت في تدريب الذكاء الاصطناعي

ملاحظة المحرر: كتب هذا المقال جون ليكاتو ، الأستاذ المساعد في علوم الكمبيوتر ومدير مختبر AMHR بجامعة جنوب فلوريدا وأعيد نشره من The Conversation بموجب ترخيص المشاع الإبداعي. اقرأ المقال الأصلي.