El spam generado por IA pronto puede inundar su bandeja de entrada con estafas

Todos los días, los mensajes de príncipes nigerianos, vendedores ambulantes de drogas maravillosas y promotores de inversiones imperdibles obstruyen las bandejas de entrada de los correos electrónicos.

Las mejoras en los filtros de spam solo parecen inspirar nuevas técnicas para romper las protecciones.

Ahora, la carrera armamentista entre los bloqueadores de spam y los remitentes de spam está a punto de intensificarse con la aparición de una nueva arma: la inteligencia artificial generativa.

Con los recientes avances en IA que ChatGPT hizo famosos, los spammers podrían tener nuevas herramientas para evadir los filtros, captar la atención de las personas y convencerlas de que hagan clic, compren o den información personal.

Como director del laboratorio de Razonamiento Humano y de Máquinas Avanzados en la Universidad del Sur de Florida, investigo la intersección de la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano.

He estudiado cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto se puede usar para comprender mejor cómo interactuar con las personas, ayudarlas a aprender o proporcionar sugerencias útiles.

Pero esto también significa que debe prepararse para un spam más inteligente que conoce sus puntos débiles y puede usarlos en su contra.

Correo no deseado, correo no deseado, correo no deseado

Entonces, ¿qué es el spam? El spam se define como correos electrónicos comerciales no solicitados enviados por una entidad desconocida. El término a veces se extiende a mensajes de texto, mensajes directos en las redes sociales y reseñas falsas sobre productos.

Los spammers quieren empujarlo hacia la acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar vistas.

El spam es rentable. Una explosión de correo electrónico puede generar $ 1,000 en solo unas pocas horas, lo que le cuesta a los spammers solo unos pocos dólares, sin incluir la configuración inicial. Una campaña de spam farmacéutico en línea podría generar alrededor de $ 7,000 por día.

Los anunciantes legítimos también quieren empujarlo a la acción: comprar sus productos, realizar sus encuestas y suscribirse a boletines.

Aún así, mientras que un correo electrónico de un vendedor puede tener un enlace al sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con las regulaciones federales, es posible que un correo electrónico no deseado no lo haga.

Los spammers tampoco tienen acceso a las listas de correo a las que se suscribieron los usuarios. En cambio, los spammers utilizan estrategias contrarias a la intuición, como la estafa del “príncipe nigeriano”.

Un príncipe nigeriano afirma que necesita tu ayuda para desbloquear una cantidad absurda de dinero y promete recompensarte muy bien.

Los nativos digitales inteligentes descartan de inmediato tales súplicas, pero lo absurdo de la solicitud en realidad puede seleccionar por ingenuidad o edad avanzada, filtrando a los que tienen más probabilidades de caer en las estafas.

Sin embargo, los avances en IA significan que los spammers podrían no tener que depender de tales enfoques impredecibles.

La IA podría permitirles dirigirse a individuos y hacer que sus mensajes sean más persuasivos en función de información de fácil acceso, como publicaciones en redes sociales.

Futuro del correo no deseado

Es probable que haya oído hablar de los avances en modelos generativos de lenguajes grandes como ChatGPT.

La tarea que realizan estos LLM generativos es engañosamente simple: dada una secuencia de texto, predecir qué token (piense en esto como parte de una palabra) viene a continuación.

Luego, prediga qué token viene después de eso. Y así sucesivamente, una y otra vez.

De alguna manera, el entrenamiento solo en esa tarea, cuando se realiza con suficiente texto en un LLM lo suficientemente grande, parece ser suficiente para dotar a estos modelos de la capacidad de desempeñarse sorprendentemente bien en muchas otras tareas.

Ya han surgido múltiples formas de usar la tecnología, lo que demuestra la capacidad de la tecnología para adaptarse y aprender sobre las personas rápidamente.

Por ejemplo, los LLM pueden escribir correos electrónicos completos en su estilo de escritura, con solo algunos ejemplos de cómo escribe. Y está el ejemplo clásico, que ya tiene más de una década, de Target descubriendo que una clienta estaba embarazada antes de que su padre lo supiera.

Tanto los spammers como los vendedores se beneficiarían de poder predecir más sobre las personas con menos datos.

Dada su página de LinkedIn, algunas publicaciones y una imagen de perfil o dos, los spammers armados con LLM pueden hacer conjeturas razonablemente precisas sobre sus inclinaciones políticas, estado civil o prioridades de vida.

Nuestra investigación mostró que los LLM podrían usarse para predecir qué palabra dirá un individuo a continuación con un grado de precisión que supera con creces otros enfoques de IA en una tarea de generación de palabras llamada tarea de fluidez semántica.

También mostramos que los LLM pueden tomar ciertos tipos de preguntas de las pruebas de habilidades de razonamiento y predecir cómo responderá la gente a esa pregunta.

Esto sugiere que los LLM ya tienen cierto conocimiento de cómo es la capacidad de razonamiento humano típica.

Si los spammers superan los filtros iniciales y logran que lea un correo electrónico, haga clic en un enlace o incluso participe en una conversación, su capacidad para aplicar la persuasión personalizada aumenta drásticamente.

Aquí nuevamente, los LLM pueden cambiar el juego. Los primeros resultados sugieren que los LLM se pueden usar para argumentar de manera persuasiva sobre temas que van desde la política hasta la política de salud pública.

Bueno para el ganso

AI, sin embargo, no favorece a un lado o al otro. Los filtros de spam también deberían beneficiarse de los avances en spam de la IA, lo que les permitiría erigir nuevas barreras contra los correos electrónicos no deseados.

Los spammers a menudo intentan engañar a los filtros con caracteres especiales, palabras mal escritas o texto oculto, confiando en la propensión humana a perdonar pequeñas anomalías en el texto, por ejemplo, "haga clic aquí ahora".

Pero a medida que AI comprende mejor los mensajes de spam, los filtros podrían identificar y bloquear mejor el spam no deseado. Y tal vez incluso dejar pasar el spam deseado, como el correo electrónico de marketing en el que se ha registrado explícitamente.

Imagine un filtro que prediga si desea leer un correo electrónico incluso antes de leerlo.

A pesar de las crecientes preocupaciones sobre la IA, como lo demuestran Elon Musk, CEO de Tesla, SpaceX y Twitter, el fundador de Apple, Steve Wozniak, y otros líderes tecnológicos que piden una pausa en el desarrollo de la IA, los avances en la tecnología podrían generar muchas cosas buenas.

La IA puede ayudarnos a comprender cómo los malos actores pueden explotar las debilidades en el razonamiento humano y desarrollar formas de contrarrestar las actividades malévolas.

Todas las nuevas tecnologías pueden resultar tanto en asombro como en peligro. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan.

Este artículo se actualizó para indicar que se trataba del padre de una adolescente .

¿Tiene alguna idea sobre esto? Envíenos una línea a continuación en los comentarios, o lleve la discusión a nuestro Twitter o Facebook.

Recomendaciones de los editores:

• Cómo cambiar la configuración de spam de Gmail y personalizar el filtro
• Cómo identificar y prevenir el spam de WhatsApp
• Las páginas verificadas de Facebook fueron pirateadas y propagaron malware
• Los líderes tecnológicos quieren presionar el botón de pausa en el entrenamiento de IA

Nota del editor: este artículo fue escrito por John Licato , profesor asistente de informática y director de AMHR Lab, University of South Florida y republicado de The Conversation bajo una licencia Creative Commons. Lea el artículo original.