Qu'est-ce que l'AI Slop et pourquoi est-il partout sur votre page Facebook ?

Qu'ont en commun une tête de bébé greffée sur une palette de tacos, un crocodile à moitié formé de mousse et un enfant à la barbe fournie ? Deux choses : aucun d’entre eux n’existe, et votre grand-mère les a probablement tous parcourus sur son compte Facebook ce matin.

Les images génératives d’IA sont partout autour de nous. Il existe désormais un terme pour décrire le pire du pire : le slop de l'IA.

Voici pourquoi l'IA slop a pris le contrôle d'Internet, pourquoi Facebook en particulier a le plus gros problème avec les images absurdes et pourquoi tant de gens en sont mécontents.

Alors, qu’est-ce que l’IA Slop ?

Le terme « AI slop » fait largement référence aux images créées avec un outil d’IA générative gratuit, souvent le Bing AI Image Creator facilement accessible. Le slop a tendance à venir avec un style trop éclairé et trop finement détaillé qui donne souvent une image créée par l'IA. Pire encore, elle présente toujours des dimensions déformées ou des tailles incroyablement disproportionnées qui sont un signe évident que l'image n'a pas été créée par un humain.

C'est peu d'effort. C'est de mauvaise qualité. Il s’agit de la dernière réincarnation des publicités pop-up louches ou du courrier indésirable physique qui l’ont précédé.

Le type exact d'image d'IA à faible consommation d'énergie que vous trouverez sur des sites comme Facebook peut varier, mais certains thèmes ont tendance à émerger, comme les animaux, les bébés et les types d'aliments courants. De nombreuses images mettront en scène Jésus-Christ lui-même, peut-être dans le cadre d'un appel implicite à prouver sa piété à travers les likes sur Facebook. D’autres images pourraient inclure un visage de Jésus « caché ».

Encore Jésus. Mais cette fois avec des tortues. Vous devriez vraiment faire examiner ce bras, madame. pic.twitter.com/YPRo6qZpcd

– Kerstin 🌿 (@kxs839) 14 mai 2024

Il est intéressant de noter que le slop de l’IA a presque à lui seul mis fin à la crainte d’ escroqueries incroyablement réalistes et de deepfake plongeant le monde dans le chaos : le slop de l’IA est loin d’être réaliste, et nous sommes toujours dans le chaos à cause de cela. Il s’avère que l’IA n’a jamais eu besoin d’être aussi convaincante.

Pourquoi AI Slop est-il énorme sur Facebook ?

La démographie des utilisateurs de Facebook est vieillissante : les 45-65 ans constituent la tranche d'utilisateurs actifs mensuels qui connaît la croissance la plus rapide par âge. Ils sont peut-être moins préparés que les jeunes générations à l’émergence soudaine d’images réalistes qui ne sont pas réelles.

Cependant, ce n’est pas la vraie raison pour laquelle Facebook est la principale porcherie dans laquelle se retrouvent les déchets d’IA. Il s’avère que Meta paie essentiellement des gens pour publier des déchets d’IA sur sa plate-forme.

Selon une enquête menée par 404 Media, le « Creator Program Bonus » de Facebook rémunère les participants pour les publications virales. Les influenceurs de partout, notamment en Inde, aux Philippines et au Vietnam, se tournent vers des outils d'IA générative (principalement Bing AI Image Creator) pour diffuser des publications potentiellement virales afin d'en tirer profit.

C'est suffisamment populaire pour que certains influenceurs qui publient des slops créent même des cours sur YouTube ou Telegram, expliquant comment créer des images IA et faire passer le message encore plus loin. Les invites sont copiées-collées ou traduites en anglais , toutes axées sur les meilleurs sujets pour engager le public américain – ce qui pourrait expliquer pourquoi Jésus, les pizzas et les hamburgers sont des sujets fréquents.

Mettez tout cela ensemble, et vous obtenez une recette pour un contenu incroyablement étrange et rebutant qui continue de retenir juste assez d'attention pour que Facebook débourse un peu d'argent pour en encourager encore plus.

Cela va également au-delà des images. La musique générée par l’IA s’empare de Spotify de la même manière.

Qu'est-ce qu'il y a de si mauvais avec AI Slop ?

La désinformation et la confusion sont ici le plus gros problème. Il est certainement vrai que les slops de l’IA ne sont pas exactement conçus pour résister à un examen minutieux. Mais non seulement la plupart des gens examinent rarement tout ce qu’ils voient en ligne, mais ils ne devraient pas non plus avoir à le faire.

En fin de compte, le manque de modération et de réglementation constitue le problème le plus important. Les plateformes sociales géantes comme Facebook ont ​​admis qu'elles étaient trop grandes pour modérer leur contenu pendant des années et des années. Ironiquement, l'algorithme de Facebook – un type d'IA différent des outils génératifs créant ces images – ne peut pas gérer la modération. En 2017, ils ont tenté de résoudre le problème en embauchant 3 000 rédacteurs . Huit ans plus tard, ils échouent toujours dans leur travail.

Une autre raison importante pour laquelle tant de gens sont mécontents de la négligence de l’IA est le caractère apparemment inéluctable du contenu généré par l’IA aujourd’hui. Google ajoute désormais les résultats de l'IA à la plupart des recherches, sans option de page de paramètres pour la désactiver. Oui, les utilisateurs peuvent s’en débarrasser en ajoutant « -ai » à la fin de leur recherche, mais cette astuce peu connue n’est guère une solution de désinscription raisonnable.

Le goût humain de base est une autre bonne raison de prendre position contre la saleté de l’IA. Je veux dire, regarde ça :

Je ne sais pas ce qui se passe ici, mais j'en ai peur. Source : discussions

Les inconvénients de l’IA générative vont au-delà du Slop

Le slop de l'IA est peut-être la pire forme d'IA, mais aucun outil d'IA générative n'a encore surmonté une poignée de signaux d'alarme sérieux, de son impact élevé sur l'environnement aux problèmes de droits d'auteur que les principaux dirigeants de l'IA espèrent toujours balayer sous le tapis. .

Impact environnemental

Les estimations de la quantité d'électricité utilisée par l'IA varient considérablement, mais il existe un consensus général selon lequel c'est beaucoup : un article d'Atlantic indique qu'une recherche ChatGPT pourrait être égale en puissance à dix recherches Google non IA, tandis qu'un autre rapport traitant du propre programme d'IA de Google le dit. utilise suffisamment d'électricité en une seule seconde pour recharger sept voitures électriques .

Une seule recherche Google AI utilise la même électricité dont une ampoule LED de votre maison a besoin pour brûler pendant une heure complète. C'est bouleversant d'entendre que toutes vos recherches Google sont désormais alimentées par l'IA, sans interrupteur « off ». C'est particulièrement bouleversant lorsque votre dernière recherche sur Google était « quand le changement climatique provoquera-t-il l'effondrement de la société ? »

Violations potentielles du droit d’auteur et de la propriété intellectuelle

L’IA générative a besoin d’énormes quantités de données pour s’entraîner, et les plus grands modèles auraient parcouru Internet pour récupérer des œuvres d’art, des livres et des vidéos YouTube. Aucune de ces propriétés intellectuelles n'est reconnue ou compensée, bien qu'elle soit sans doute reproduite via un type d'algorithme de compression avec perte.

Certes, les questions entourant la nature du droit de la propriété intellectuelle restent encore sans réponse. Comme le dit la Harvard Business Review, « la violation des droits d’auteur, des brevets et des marques s’applique-t-elle aux créations d’IA ? Est-il clair à qui appartient le contenu que les plateformes d’IA générative créent pour vous ou pour vos clients ? »

Une chose semble cependant difficile à nier : les modèles d’IA générative bâtissent leur valeur sur le travail caché de millions de créatifs non rémunérés .

Mauvaises décisions commerciales

Enfin, une autre grande raison de remettre en question l’IA est l’utilité de cet outil pour convaincre les dirigeants et les actionnaires qu’ils peuvent adapter l’IA afin de licencier leur main-d’œuvre sans aucun inconvénient.

Ce serait logique si l’IA pouvait réellement remplacer les humains. Cependant, la perspective la moins médiatisée sur l’IA est que l’IA générative peut offrir des avantages utiles et tangibles, mais sans bouleverser l’industrie , en particulier lorsqu’il s’agit d’analyses prédictives entreprises en sachant que l’IA est loin d’être parfaitement précise.

En revanche, l’utilisation aveugle de l’IA conduit à des échecs très médiatisés, comme une récente bande-annonce de film contenant de fausses déclarations générées par l’IA.

Les licenciements provoqués par l’IA entraîneront un relâchement du marché du travail et aggraveront également la situation de l’entreprise. Mais la plupart des dirigeants n’écouteront pas cette logique : nous savons depuis des décennies que les licenciements ne font pas grimper les cours des actions, et cela ne les a pas non plus arrêtés.

Le monde plus vaste de Slop

Slop n'est pas seulement une IA. Tout produit qui fait le strict minimum peut être médiocre, et le choix est vaste.

Le terme a été utilisé pour désigner des films Netflix médiocres, clairement réalisés avec juste assez de soin pour que les téléspectateurs puissent les regarder depuis un deuxième écran, mais pas assez pour les rendre réellement bons.

Vous pouvez également appliquer le terme aux vêtements et bibelots Temu très bon marché. Ces produits ne dureront pas longtemps, mais ils sont abordables. Signe le plus évident que la vente de bibelots bon marché est de plus en plus populaire, Amazon se lance dans le secteur des magasins à bas prix pour concurrencer Temu. Selon un nouveau scoop de The Information , Amazon oblige les commerçants à vendre des articles avec des plafonds de prix élevés, allant de 20 $ pour les canapés à 8 $ pour les bijoux.

Vous voulez lutter contre la slop-valanche ? Économisez votre attention et votre argent pour les expériences et les produits qui offrent plus que le minimum. Pour la plupart d’entre nous, cela pourrait commencer par planifier comment passer moins de temps sur les réseaux sociaux.