O que é AI Slop e por que está em toda a sua página do Facebook?

O que uma cabeça de bebê enxertada em uma paleta de tacos, um crocodilo meio formado de musgo e uma criança com barba cheia têm em comum? Duas coisas: nenhum deles existe, e sua avó provavelmente passou por todos eles em sua conta do Facebook esta manhã.

Imagens generativas de IA estão ao nosso redor. Agora, existe um termo para descrever o pior dos piores: desperdício de IA.

Veja por que a IA tomou conta da Internet, por que o Facebook, em particular, tem o maior problema com as imagens absurdas e por que tantas pessoas estão chateadas com isso.

Então, o que é AI Slop?

O termo “resíduos de IA” refere-se em grande parte a imagens criadas com uma ferramenta de IA generativa gratuita, geralmente o Bing AI Image Creator, de fácil acesso. A sujeira tende a vir com o estilo com iluminação forte e detalhes excessivamente detalhados que muitas vezes revelam uma imagem criada por IA. Pior ainda, sempre apresenta dimensões distorcidas ou tamanhos impossivelmente desproporcionais que são um sinal óbvio de que a imagem não foi criada por um ser humano.

É pouco esforço. É de baixa qualidade. É a mais recente reencarnação dos anúncios pop-up desprezíveis ou do lixo eletrônico físico que veio antes disso.

O tipo exato de imagem de IA de baixo consumo de energia que você encontrará em sites como o Facebook pode variar, mas certos temas tendem a surgir, como animais, bebês e tipos comuns de alimentos. Muitas imagens apresentarão o próprio Jesus Cristo, talvez como parte de um apelo implícito para provar a piedade de alguém através de curtidas no Facebook. Outras imagens podem incluir um rosto “oculto” de Jesus.

Jesus novamente. Mas desta vez com tartarugas. Você realmente deveria verificar esse braço, senhora. pic.twitter.com/YPRo6qZpcd

-Kerstin 🌿 (@kxs839) 14 de maio de 2024

Curiosamente, o desperdício de IA quase sozinho acabou com o medo de golpes deepfake incrivelmente realistas que mergulharam o mundo no caos: o desperdício de IA está longe de ser realista, e ainda estamos no caos por causa disso. Afinal, a IA nunca precisou ser tão convincente.

Por que o AI Slop é enorme no Facebook?

A demografia de usuários do Facebook está envelhecendo : pessoas de 45 a 65 anos são o grupo de usuários ativos mensais que mais cresce quando divididos por idade. Eles podem estar menos preparados do que as gerações mais jovens para o surgimento repentino de imagens realistas que não são reais.

No entanto, essa não é a verdadeira razão pela qual o Facebook é o principal chiqueiro onde o lixo de IA acaba. Acontece que a Meta está essencialmente pagando pessoas para postar lixo de IA em sua plataforma.

De acordo com uma investigação da 404 Media, o “Bônus do Programa para Criadores” do Facebook paga os participantes por postagens virais. Influenciadores em locais como Índia, Filipinas e Vietnã estão recorrendo a ferramentas generativas de IA (principalmente Bing AI Image Creator) para publicar postagens potencialmente virais e lucrar.

Isso é popular o suficiente para que alguns influenciadores de postagens estejam até criando cursos no YouTube ou Telegram, abordando como criar imagens de IA e espalhando a palavra ainda mais. As solicitações são copiadas e coladas ou traduzidas para o inglês , todas focando nos tópicos mais esperados para envolver o público dos EUA - o que pode explicar por que Jesus, pizzas e hambúrgueres são assuntos frequentes.

Junte tudo isso e você terá uma receita para um conteúdo incrivelmente estranho e desanimador que continua recebendo atenção suficiente para que o Facebook desembolse um pouco de dinheiro para encorajá-lo ainda mais.

Ele também vai além das imagens. A música gerada por IA está dominando o Spotify de maneira semelhante.

O que há de tão ruim no AI Slop?

A desinformação e a confusão são o maior problema aqui. Certamente é verdade que o lixo da IA ​​não foi projetado exatamente para resistir ao escrutínio. Mas não só a maioria das pessoas raramente examina tudo o que vê online, como também não deveria fazê-lo.

Em última análise, a falta de moderação e regulamentação é o problema maior. Plataformas sociais gigantes como o Facebook admitiram que são grandes demais para moderar seu conteúdo durante anos e anos. Ironicamente, o próprio algoritmo do Facebook – um tipo de IA diferente das ferramentas geradoras que criam essas imagens – não consegue lidar com a moderação. Em 2017, tentaram resolver o problema contratando 3.000 editores . Oito anos depois, eles ainda estão fracassando no trabalho.

Outra grande razão pela qual tantas pessoas estão chateadas com o desperdício de IA é a aparentemente inescapável do conteúdo gerado por IA hoje. O Google agora adiciona resultados de IA à maioria das pesquisas, sem opção na página de configurações para desativá-lo. Sim, os usuários podem se livrar dele adicionando “-ai” ao final da pesquisa, mas esse truque pouco conhecido dificilmente é uma solução razoável de exclusão.

O gosto humano básico é outro bom motivo para se posicionar contra os desleixos da IA. Quer dizer, olhe isso:

Não sei o que está acontecendo aqui, mas estou com medo disso. Fonte: Tópicos

As desvantagens da IA ​​generativa vão além do desperdício

O desperdício de IA pode muito bem ser a pior forma de IA, mas qualquer ferramenta de IA generativa ainda não superou um punhado de sérios sinais de alerta, desde seu alto impacto no meio ambiente até as preocupações com direitos autorais que os principais líderes de IA ainda esperam varrer para debaixo do tapete. .

Impacto Ambiental

As estimativas de quanta eletricidade a IA usa variam amplamente, mas há um consenso geral de que é muita: um artigo da Atlantic diz que uma pesquisa no ChatGPT pode ter poder igual a dez pesquisas sem IA no Google, enquanto outro relatório discutindo o próprio programa de IA do Google diz que usa eletricidade suficiente em um único segundo para carregar sete carros elétricos .

Apenas uma pesquisa de IA do Google usa a mesma eletricidade que uma lâmpada LED em sua casa precisa para queimar por uma hora inteira. É perturbador saber que todas as suas pesquisas no Google agora são alimentadas por IA, sem botão para “desligar”. É particularmente perturbador quando a sua última pesquisa no Google foi “quando é que as alterações climáticas causarão o colapso social?”

Potenciais violações de direitos autorais e IP

A IA generativa precisa de enormes quantidades de dados para treinar, e os maiores modelos supostamente vasculharam a Internet em busca de arte, livros e vídeos do YouTube. Nenhuma dessas propriedades intelectuais é reconhecida ou compensada, apesar de ser reproduzida através de um tipo de algoritmo de compressão com perdas.

É verdade que as questões que rodeiam a natureza da lei de propriedade intelectual ainda não foram respondidas. Como afirma a Harvard Business Review, “a violação de direitos autorais, patentes e marcas registradas se aplica às criações de IA? Está claro quem é o proprietário do conteúdo que as plataformas generativas de IA criam para você ou seus clientes?”

Porém, uma coisa parece difícil de negar: os modelos de IA generativa constroem seu valor com base no trabalho oculto de milhões de criativos não remunerados .

Más decisões de negócios

Finalmente, outra grande razão para questionar a IA é a utilidade da ferramenta para convencer executivos e acionistas de que podem adaptar a IA para despedir a sua força de trabalho humana sem quaisquer desvantagens.

Isso seria lógico, se a IA realmente pudesse substituir os humanos. No entanto, a perspectiva não alardeada sobre a IA é que a IA generativa pode oferecer benefícios úteis e tangíveis, mas não que abalam a indústria , especialmente quando se trata de análises preditivas realizadas com o conhecimento de que a IA está longe de ser perfeitamente precisa.

Em contraste, o uso indiscriminado de IA leva a falhas de alto perfil, como o trailer de um filme recente que incluía declarações falsas geradas por IA.

As demissões impulsionadas pela IA levarão a um mercado de trabalho mais frouxo e também piorarão a empresa. Mas a maioria dos executivos não dá ouvidos a essa lógica – na verdade, sabemos há décadas que as demissões não aumentam os preços das ações, e isso também não os impediu.

O mundo mais amplo da sujeira

Slop não é apenas IA. Qualquer produto que faça o mínimo absoluto pode ser desleixado e há muito por onde escolher.

O termo tem sido usado para se referir a filmes medianos da Netflix, claramente feitos com cuidado suficiente para manter os espectadores assistindo em uma segunda tela, mas não o suficiente para torná-los realmente bons.

Você também pode aplicar o termo a roupas e bugigangas Temu super baratas. Esses produtos não duram muito, mas são fáceis de gastar. No sinal mais óbvio de que a venda de bugigangas baratas é cada vez mais popular, a Amazon está migrando para a loja de preços baixos para competir com a Temu. De acordo com um novo furo do The Information , a Amazon está forçando os comerciantes a vender itens com limites de preços exorbitantes, de limites de US$ 20 para sofás a limites de US$ 8 para joias.

Quer combater a valanche? Economize atenção e dinheiro para experiências e produtos que oferecem mais do que o mínimo. Para a maioria de nós, isso pode começar com o planejamento de como passar menos tempo nas redes sociais.