Até sites usam ChatGPT! Mas motivo preocupa especialistas

Ao menos quase 50 sites de spam usam chatbots de IA (inteligência artificial) – por exemplo, o ChatGPT, da OpenAI – ​​para gerar notas de notícias e postagens de blog em “fazendas” de conteúdo on-line. Ideia é atrair um pouco de receita de anúncios com cliques de usuários perdidos pela web. Informações são de um relatório publicado pela News Guard, organização que avalia confiabilidade de sites de notícias.

Leia mais:

ChatGPT espião? Samsung barra IA para funcionáriosInteligência Artificial aumentará a desigualdade no mundo, alerta economistaEUA 2024: como será a primeira eleição com ChatGPT?

Os sites, que muitas vezes não divulgam propriedade ou controle, produzem um grande volume de conteúdo relacionado a uma variedade de tópicos, incluindo política, saúde, entretenimento, finanças e tecnologia. Alguns publicam centenas de artigos por dia. Parte do conteúdo apresenta narrativas falsas. Quase todo o conteúdo apresenta linguagem branda e frases repetitivas, marcas da inteligência artificial.

Trecho do relatório da News Guard

Nova realidade graças ao ChatGPT

Disponibilidade ampla de ferramentas como ChatGPT impulsionou surgimento de “fazendas” de conteúdo (Imagem: Adobe Stock)

Especialistas alertam há anos que tais “fazendas” de conteúdo gerado por IA logo se tornarão comuns. Mas disponibilidade ampla de ferramentas como o ChatGPT, da OpenAI, tornou esses avisos realidade. Segundo a NewsGuard, os 49 sites citados no relatório “parecem ser quase inteiramente escritos por software de inteligência artificial”.

Esses sites geralmente têm nomes genéricos (por exemplo: Biz Breaking News e Market News Reports) e são recheados de publicidade programática que é comprada e vendida automaticamente. Eles atribuem notícias a autores genéricos ou falsos – e muito do conteúdo parece ser resumos ou reescritas textos publicados em sites maiores, como CNN.

A maioria dos sites não espalha desinformação, informou a NewsGuard. Mas alguns publicam mentiras, sim. Por exemplo, no começo de abril, um site chamado Celebrities Deaths publicou uma nota informando que o presidente dos EUA, Joe Biden, havia morrido.

Esse texto sobre Biden podia enganar leitores por um momento, embora logo em seguida se revelasse falso. Isso porque o segundo parágrafo trazia uma mensagem de erro do chatbot solicitado a criar o texto, evidentemente copiado e colado no site sem ter passado por revisão.

“Sinto muito, não posso concluir este prompt, pois vai contra a política de caso de uso da OpenAI sobre a geração de conteúdo enganoso. Não é ético fabricar notícias sobre a morte de alguém, especialmente alguém tão proeminente quanto um presidente”, dizia o trecho da nota.

Erros

Erros não revisados do ChatGPT ajudaram na localização de sites de spam automatizados (Imagem: Reprodução/Harvard Gazette)

A NewsGuard explicou que usou esse tipo de erro para encontrar os sites citados em seu relatório. Isso porque pesquisar frases como “Como um modelo de linguagem IA” geralmente revela onde chatbots estão sendo usados ​​para gerar avaliações falsas e outros conteúdos de texto baratos. Organização também usou outras ferramentas de detecção, por exemplo o GPTZero (embora seja importante destacar que essas ferramentas nem sempre são confiáveis).

Noah Giansiracusa, professor associado de ciência de dados que escreve sobre notícias falsas, disse à Bloomberg que criadores de tais sites estavam experimentando “para descobrir o que é eficaz” e continuariam a gerar “fazendas” de conteúdo devido aos baixos custos de produção. “Antes, era um esquema de baixa remuneração. Mas pelo menos não era de graça ”, acrescentou.

Ao mesmo tempo, como observou Giansiracusa, muitos meios de comunicação já estabelecidos também estão experimentando uso de IA para reduzir custos de produção de conteúdo – às vezes com resultados indesejáveis. Por exemplo, quando o site CNET começou a usar IA para ajudar a escrever postagens, revisão encontrou erros em mais da metade das notas publicadas.

Com informações de News Guard e Bloomberg

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!

O post Até sites usam ChatGPT! Mas motivo preocupa especialistas apareceu primeiro em Olhar Digital.