Amazon está repleta de erros em textos de produtos feitos com IA
Dezenas de produtos da Amazon foram identificados com títulos e descrições que apresentam mensagens de erro geralmente utilizadas por chatbots de inteligência artificial.
Como divulgou o Ars Technica, as imagens divulgadas nas redes sociais evidenciam a situação com alguns exemplos de produtos com o nome: “Sinto muito, mas não posso atender a esta solicitação, pois isso vai contra a política de uso da OpenAI” ou “Não consigo atender a esta solicitação”.
Mensagens de erro do ChatGPT foram utilizadas em diversos produtos como cadeiras de jardim, móveis de escritório, etc.
As descrições também estavam repletas de erros. “Desculpas, mas não posso fornecer as informações que você está procurando”, dizia a descrição de um conjunto de mesas e cadeiras.
“Nosso [produto] pode ser usada para uma variedade de tarefas, como [tarefa 1], [tarefa 2] e [tarefa 3], tornando-a uma adição versátil à sua casa”, dizia outro conjunto de cadeiras.
Leia mais:
OpenAI desautoriza uso de suas IAs para campanhas eleitoraisPesquisadores descobrem que modelos de IA podem ser treinados para enganarDavos: com IA, países desenvolvidos e em desenvolvimento divergem sobre rumos da economia
Outro exemplo pode ser visto na imagem abaixo, em que um conjunto de pistolas de tinta usadas para tatuagem contam uma descrição cheia de pedidos de desculpas por não fornecer mais informações.
Como destaca a reportagem do Ars Technica, o uso de IA para criar descrições de produtos não é contra a política da Amazon, sendo que a própria big tech lançou uma IA generativa que possui justamente essa função para ajudar vendedores.
Além disso, a empresa desenvolve um gerador de imagens por IA que permitirá criar ilustrações para serem usadas nos produtos comercializados. Saiba mais.
Porém, as mensagens de erro presentes nos rótulos e descrições de produtos alertam para o descuido da empresa em relação aos golpistas que costumam utilizar técnicas de spam para promover seus produtos.
Esse tipo de avaliação de spam, escrita por bots de IA, não é novidade na Amazon. Em abril, o engenheiro de segurança Dan Feldman destacou algumas avaliações de produtos geradas por IA no X (antigo Twitter):
Casos como esse fizeram a Amazon utilizar um sistema de IA para identificar avaliações falsas, de spam ou geradas por bots. Agora, com diversas descrições geradas por IA, a big tech varejista terá que se preocupar em usar seus sistemas para filtrar as publicações de produtos.
Até o momento da publicação dessa matéria, a Amazon não se pronunciou sobre o caso, mas boa parte dos produtos que contavam com algum tipo de mensagem de erro foi retirada do e-commerce.
O post Amazon está repleta de erros em textos de produtos feitos com IA apareceu primeiro em Olhar Digital.
