ChatGPT enviará os usuários a uma página de votação quando questionados sobre a eleição

A OpenAI revelou seus planos para garantir que o ChatGPT não se transforme em uma influência perturbadora nas eleições que estão ocorrendo em todo o mundo este ano, inclusive nos EUA e no Reino Unido.

Uma das medidas que a empresa está tomando para garantir que os usuários dos EUA recebam informações legítimas sobre votação é direcioná-los para um site de votação “autorizado” chamado CanIVote.Org, onde os usuários podem encontrar informações relacionadas a procedimentos eleitorais, locais de votação, bem como votação antecipada e ausente.

A startup também anunciou uma série de outros esclarecimentos e mudanças importantes relacionados ao conteúdo político e à prevenção de abusos em suas plataformas, que continuam sendo as ferramentas de IA mais populares utilizadas pelas empresas .

ChatGPT para direcionar os usuários à página que contém informações de votação

“Nos Estados Unidos, estamos trabalhando com a Associação Nacional de Secretários de Estado (NASS), a mais antiga organização profissional apartidária do país para funcionários públicos”, revelou a OpenAI em uma postagem de blog esta semana.

Como parte de sua abordagem às eleições de 2024 nos EUA, o ChatGPT enviará os usuários diretamente ao CanIVote.org, quando forem feitas certas perguntas sobre questões de votação.

CanIVote.org é uma página da web onde todos os eleitores elegíveis dos EUA podem descobrir seu status de registro eleitoral, a localização do local de votação mais próximo e informações sobre o que constitui uma identificação válida para votar.

Também há informações relacionadas ao voto ausente e antecipado disponíveis no site, por meio de links para autoridades eleitorais estaduais.

Se este tipo de acção tiver sucesso nos EUA, diz a OpenAI, então repetirão a abordagem noutras regiões durante os ciclos eleitorais.

Outras medidas que o ChatGPT está tomando durante o ano eleitoral

Além de direcionar os eleitores a fontes legítimas de informações eleitorais, há várias outras etapas que a OpenAI afirma que serão tomadas para garantir que o ChatGPT não seja utilizado indevidamente durante o ano eleitoral.

Por exemplo, você não poderá criar um GPT (um chatbot personalizado) que imite uma figura ou instituição política e depois fingir que fala em nome dela. “Aplicativos” que tentam dissuadir as pessoas de participar também estão fora do menu.

“Trabalhamos para antecipar e prevenir abusos relevantes – como “ deepfakes ” enganosos, operações de influência em escala ou chatbots que se fazem passar por candidatos”, afirma Open AI.

“Antes de lançar novos sistemas, nós os formamos em equipe, envolvemos usuários e parceiros externos para obter feedback e criamos mitigações de segurança para reduzir o potencial de danos”, acrescenta a empresa.

Em termos de geração de imagens, no início deste ano, o ChatGPT está implementando as credenciais digitais da Coalition for Content Provenance and Authenticity – que envolve anexar um marcador criptográfico a todas as imagens geradas usando DALL-E .

A OpenAI também afirma ter visto alguns resultados “promissores” de um novo classificador de proveniência que a empresa está experimentando. A tecnologia foi projetada para detectar se uma imagem foi criada com DALL-E, mesmo que tenha sido modificada de alguma forma.

O ChatGPT será uma influência boa ou ruim nas eleições?

O ChatGPT é amplamente utilizado por empresas nos Estados Unidos e espera-se que o chatbot responda de forma convincente a uma avalanche de questões políticas e jurídicas à medida que as eleições se aproximam.

Embora a perspectiva de o ChatGPT – bem como outras ferramentas de IA – ser utilizado para espalhar desinformação tenha sido amplamente discutida, se o ChatGPT terá especificamente um impacto particularmente negativo nas eleições está longe de ser claro.

É claro que existe o risco de o ChatGPT fornecer informações políticas incorretas de forma não intencional – embora a OpenAI pareça estar abordando essa possibilidade de frente com sua abordagem.

Na verdade, os planos para direcionar os eleitores para um site com informações eleitorais legítimas - e garantir que o ChatGPT não deturpe os processos democráticos - sugeririam, pelo menos superficialmente, que a OpenAI pode ter imposto regulamentações mais rígidas a si mesma do que muitos dos outros canais que usamos para obter informações, onde a desinformação muitas vezes se agrava.

A desinformação – bem como outros conteúdos políticos persuasivos – já flui rapidamente através de sites de redes sociais , motores de busca e até mesmo alguns canais de comunicação social tradicionais a um ritmo acelerado.

Além do mais, a OpenAI não gerencia milhões de usuários que produzem um fluxo interminável de conteúdo gerado por humanos, como sites de mídia social , e não há considerações equivalentes da Primeira Emenda. A saída do ChatGPT não é “descontrolada” da mesma forma, nem é protegida.

Em teoria, a OpenAI poderia até impor uma regra de “não política” se realmente quisesse. Esse tipo de princípio amplo já está sendo aplicado às GPTs, que não podem ser feitas para imitar figuras ou instituições.

A ameaça que a IA representa para as eleições democráticas a nível interno – e é uma ameaça muito real – é mais provável que venha de ferramentas de IA generativas que não estão sob o mesmo nível de pressão pública para divulgar a sua “abordagem” para as eleições que terão lugar em 2024 , ou de alguém que criou uma ferramenta de IA maliciosa e, portanto, não implementará nenhuma proteção.

É claro que os intervenientes estatais já estão a utilizar ferramentas de IA para espalhar desinformação, e esta é provavelmente a forma mais provável de vermos a IA ser utilizada para perturbar os processos democráticos, se os últimos anos de interferência eleitoral servirem para continuar.

Também é importante lembrar que este é um sistema de IA que continua a nos surpreender e continua a provar ser falível e aberto à manipulação. E assim que a OpenAI faz alguma alteração no ChatGPT, há um exército de pessoas esperando para levá-lo aos seus limites lógicos. Uma série de eleições cria simplesmente uma motivação política adicional para o fazer.

Aconteça o que acontecer, a forma como o ChatGPT e outras ferramentas de IA estão a ser utilizadas pelos eleitores será uma história que dominará as manchetes ao longo do ano.