Em março deste ano, enquanto planejava uma viagem à França, Amy Kolsky, viajante internacional experiente, que vive no condado de Bucks, na Pensilvânia, acessou a Amazon.com e digitou alguns termos de busca: viagem, guia, França. Os títulos de algumas marcas confiáveis apareceram nos primeiros resultados: Rick Steves, Fodor’s, Lonely Planet. Além desses, também estava presente o bem cotado “France Travel Guide”, de Mike Steves, renomado escritor de viagens, conforme indicado em sua página da Amazon.
“Fui imediatamente atraída por todas aquelas avaliações incríveis”, disse Kolsky, de 53 anos, referindo-se ao que viu na época: elogios universais e mais de cem avaliações cinco estrelas. Além das prometidas dicas de itinerários e recomendações de moradores locais, o preço do guia também chamou sua atenção: US$ 16,99, comparado aos US$ 25,49 do livro de Rick Steves sobre a França. Ela rapidamente encomendou uma cópia, impressa pelo serviço sob demanda da Amazon.
Mas, quando o livro chegou, Kolsky se decepcionou com as descrições vagas, o texto repetitivo e a falta de itinerários. “Parecia que o autor tinha simplesmente copiado e colado informações da Wikipédia”, comentou ela, que devolveu o livro e o avaliou negativamente, com apenas uma estrela.
Embora não soubesse disso na época, Kolsky havia sido vítima de uma nova forma de golpe: guias de viagem de baixa qualidade, que parecem ter sido compilados com a ajuda da inteligência artificial (IA) generativa, autopublicados e impulsionados por avaliações falsas. Esse fenômeno tem proliferado na Amazon nos últimos meses.
Esses livros são o resultado de uma mistura de ferramentas modernas: aplicativos de IA capazes de criar textos e imagens falsas, sites com uma imensa variedade de fotos e gráficos; plataformas de autopublicação, como a Kindle Direct Publishing, da Amazon, com poucas salvaguardas contra o uso de IA; e a possibilidade de solicitar, comprar e publicar avaliações on-line falsas, o que vai contra as políticas da Amazon e poderá em breve se sujeitar a uma regulamentação mais rigorosa por parte da Comissão Federal de Comércio.
O uso combinado dessas ferramentas permite que os livros figurem entre os principais resultados de busca da Amazon e, às vezes, obtenham o endosso da própria Amazon, como “1º lugar entre os guias de viagem ao Alasca”.
Uma busca recente na Amazon com a frase “Guia de Viagem a Paris 2023”, por exemplo, produziu dezenas de guias com exatamente o mesmo título. Um deles, supostamente escrito por Stuart Hartley, se gaba de ser “Tudo que você precisar saber antes de planeja uma viagem a Paris”, assim mesmo, com erros de gramática. O livro não fornece mais informações sobre o autor ou a editora. Também não contém imagens nem mapas, embora muitos de seus concorrentes tenham arte e fotografias facilmente rastreáveis em bancos de imagens. Mais de dez guias atribuídos a Stuart Hartley surgiram na Amazon nos últimos meses, todos com o mesmo padrão de design e linguagem promocional.
O “The New York Times” identificou livros semelhantes em uma ampla gama de tópicos, como culinária, programação, jardinagem, negócios, artesanato, medicina, religião e matemática, bem como livros de autoajuda e romances, entre muitas outras categorias.
A Amazon se recusou a fornecer mais detalhes sobre esses casos. Em um comunicado enviado por e-mail, a porta-voz da empresa, Lindsay Hamilton, escreveu que a Amazon constantemente avalia tecnologias emergentes. “Todos os editores da loja devem seguir nossas diretrizes de conteúdo. Investimos tempo e recursos consideráveis para garantir que as diretrizes sejam cumpridas e remover os livros que não estiverem dentro do padrão.”
O “Times” analisou 35 trechos do livro de Mike Steves com a ajuda de um detector de IA da Originality.ai. Esse mecanismo, conforme explicou o fundador da empresa, Jonathan Gillham, analisa milhões de registros criados por IA e milhões de outros criados por humanos, e aprende a reconhecer as diferenças entre eles.
O detector atribui uma pontuação de zero a cem, com base na probabilidade de o conteúdo ter sido gerado por IA. Todos os 35 trechos obtiveram uma pontuação perfeita de cem, indicando que quase certamente foram produzidos por IA. A empresa afirma que a versão de seu detector utilizada pelo “Times” é capaz de identificar mais de 99 por cento das passagens de IA, com um índice de erro de identificação de texto humano como IA em menos de 1,6 por cento dos testes.
O “Times” identificou e testou 64 outros guias com formato semelhante, a maioria com pelo menos 50 avaliações na Amazon, e os resultados foram surpreendentemente consistentes. Dos 190 parágrafos testados com o Originality.ai, 166 obtiveram cem pontos, enquanto apenas 12 obtiveram menos de 75. Em comparação, as pontuações de trechos de marcas renomadas de guias de viagem, como Rick Steves, Fodor’s, Frommer’s e Lonely Planet, foram quase todas abaixo de dez, indicando que há pouca probabilidade de terem sido gerados por IA.
Amazon, IA e marcas de viagem confiáveis
Embora o aumento do crowdsourcing em sites como o Tripadvisor e o Yelp (além dos sites de viagens on-line gratuitos e os blogs e dicas de influenciadores do TikTok e do Instagram) tenha reduzido a demanda por guias impressos e suas versões em e-book, estes ainda vendem bastante. Em um dia recente de julho, nove dos 50 principais livros de viagem na Amazon, categoria que abrange ficção, não ficção, memórias e mapas, eram guias europeus do autor Rick Steves.
Contatado em Estocolmo por volta da meia-noite, depois de um dia inteiro de pesquisas para o guia da Escandinávia de sua série, Rick Steves disse que não tinha ouvido falar do livro de Mike Steves e não pareceu preocupado com a possível ameaça da IA generativa. “Não consigo imaginar fazer isso sem gastar a sola dos sapatos. É preciso visitar o lugar, conversar com as pessoas, explorar”, afirmou Steves, que tinha acabado de visitar um restaurante com tema viking e um concorrente com tema medieval, e determinou que o restaurante viking era muito superior.
Steves contou que passa cerca de 50 dias por ano percorrendo a Europa, e ressaltou que sua equipe passa outros 300 dias atualizando seus cerca de 20 guias, bem como outros produtos correlatos.
Mas Pauline Frommer, diretora editorial da série de guias Frommer’s e autora de um popular guia de Nova York, está preocupada com o impacto dos guias falsos em suas vendas. Ela disse que passa três meses por ano testando restaurantes e trabalhando em outras atualizações anuais para seu guia, e ganhando o peso que está tentando eliminar. “Imaginar que alguém pensa que pode simplesmente vasculhar a internet e publicar lixo aleatório é incrivelmente desanimador”, lamentou.
A Amazon não tem regras explícitas que proíbam conteúdo gerado predominantemente por IA, mas oferece diretrizes para o conteúdo de livros, incluindo títulos, capas e descrições: “Os livros à venda na Amazon devem proporcionar uma experiência positiva ao cliente. Não permitimos descrições que pretendam enganá-lo ou que não representem com precisão o conteúdo do livro. Também não permitimos conteúdo que seja tipicamente decepcionante para o cliente.”
Gillham, cuja empresa é sediada em Ontário, destacou que boa parte de seus clientes são produtores de conteúdo que buscam identificar contribuições redigidas por inteligência artificial. “Em um mundo de conteúdo gerado por IA, vai ser cada vez mais necessário atestar a verdadeira autoria das obras”, opinou.
Identificar os verdadeiros autores desses guias pode ser impossível. Por exemplo, não há nenhum vestígio de que Mike Steves, o “renomado escritor de viagens”, tenha publicado “artigos em várias revistas e sites de viagens”, como afirma sua biografia na Amazon. Na verdade, o “Times” não conseguiu encontrar nenhum registro da existência de tal escritor, embora tenha feito uma busca exaustiva por registros públicos. (O jornal descobriu que tanto sua foto quanto sua biografia foram provavelmente geradas por IA.)
Gillham enfatizou a importância da responsabilização nesse contexto, argumentando que comprar um guia insatisfatório é um desperdício de dinheiro, mas comprar um guia que incentive os leitores a visitar lugares inseguros é perigoso e problemático.
O “Times” encontrou diversos casos em que omissões preocupantes e informações desatualizadas poderiam induzir os viajantes ao erro. Um guia sobre Moscou publicado em julho sob a autoria de Rebecca R. Lim (supostamente “uma figura respeitada no setor de viagens”, cuja foto de perfil na Amazon também aparece em um site chamado “Tudo sobre o ácido hialurônico”, ao lado do nome Ana Burguillos), não menciona a atual guerra entre a Rússia e a Ucrânia, nem inclui informações atualizadas sobre segurança (o Departamento de Estado dos EUA aconselha o cidadão norte-americano a não viajar à Rússia). Da mesma forma, um guia publicado em maio sobre Lviv, na Ucrânia, também não menciona o conflito e incentiva o leitor a “arrumar as malas e se preparar para uma aventura inesquecível em um dos destinos mais cativantes do Leste Europeu”.
Avaliações falsas
A Amazon adota uma política de combate à manipulação das avaliações dos clientes, embora uma análise criteriosa feita pelo “Times” tenha constatado que muitas das avaliações de cinco estrelas deixadas nos guias de baixa qualidade eram extremamente genéricas ou sem sentido. A Fakespot, extensão de navegador que identifica avaliações consideradas “enganosas”, classificando produtos com notas que variam de A a F, atribuiu a muitos desses guias uma pontuação D ou F.
Algumas avaliações são curiosamente imprecisas. “Este guia foi espetacular. Poder escolher a estação do ano para saber de que clima gostamos mais, sabendo que o idioma deles é o inglês”, escreveu um usuário chamado Muñeca sobre o guia da França, de Mike Steves. (O guia mal menciona o clima e informa claramente que a língua da França é o francês.)
A maioria das avaliações questionáveis e elogiosas sobre esses guias mambembes se origina de “compras verificadas”, embora a definição de “compra verificada” da Amazon possa incluir leitores que baixaram o livro gratuitamente. “Essas avaliações estão iludindo as pessoas, levando-as a desperdiçar dinheiro e desviando-as dos guias de viagem legítimos”, protestou Frommer.
Hamilton, a porta-voz da Amazon, assegurou que a empresa não tolera avaliações falsas: “Temos políticas claras que proíbem o abuso das avaliações. Suspendemos, banimos e tomamos medidas legais contra aqueles que violam essas políticas e removemos avaliações que não são autênticas.” A Amazon não informou se alguma medida específica foi tomada contra os produtores do livro de Mike Steves e de outros livros semelhantes. Durante a produção desta matéria, algumas das avaliações suspeitas foram retiradas de diversos livros analisados pelo “Times” e alguns títulos foram removidos da plataforma. A Amazon disse que, em 2022, bloqueou mais de 200 milhões de avaliações suspeitas de ser falsas.
Mas, mesmo quando a Amazon remove as avaliações, as classificações de cinco estrelas podem permanecer no ar, embora sem os comentários. De acordo com uma análise da Fakespot, a Amazon removeu 217 resenhas do “Guia de Viagem à Espanha 2023”, de Adam Neal, na última quinta-feira. Ainda assim, o livro obteve uma classificação de 4,4 estrelas, principalmente porque 24 dos 27 avaliadores que não deixaram uma resenha escrita concederam cinco estrelas ao livro. “Acho que o guia que li não pode ser o mesmo que todos estão avaliando tão bem”, escreveu uma consumidora chamada Sarie, que deu ao livro apenas uma estrela.
Muitos dos guias também incluem “revisões editoriais”, aparentemente sem supervisão da Amazon. Alguns são particularmente ousados, como o “Paris Travel Guide 2023”, da Dreamscape Voyages, que inclui avaliações falsas de publicações de renome, como a revista Afar (“Prepare-se para se surpreender”) e a Condé Nast Traveler (“Seu melhor companheiro para desvendar a verdadeira essência da Cidade das Luzes”). Ambas as publicações negaram ter analisado o livro.
‘É preciso ir a campo’
Os especialistas em inteligência artificial geralmente concordam que a IA generativa pode ser útil para os autores, desde que seja usada para aprimorar o próprio conhecimento. Darby Rollins, fundador da The AI Author, empresa que ajuda indivíduos e empresas a utilizar a IA generativa para melhorar seu fluxo de trabalho e expandir seus negócios, considerou os guias atuais “básicos demais”.
Mas, segundo ele, é possível produzir guias de qualidade com a ajuda da IA: “A inteligência artificial vai ampliar, aprimorar e aprofundar suas habilidades existentes. Se você já é um bom escritor e um especialista em viagens na Europa, a IA pode agregar experiências, perspectivas e percepções à sua obra. Você vai poder usar a IA para organizar seus pensamentos e criar mais rapidamente.”
O verdadeiro Steves se mostra cético em relação às vantagens da IA: “Não sei nada sobre o futuro da inteligência artificial. Só entendo o que constitui um bom guia de viagem: é preciso ir a campo para escrever um.”
Kolsky, a viajante que se sentiu enganada pelo livro de Mike Steves, concordou. Depois de devolver sua compra inicial, ela optou por uma marca confiável: “Acabei comprando o guia de Rick Steves.”
(Susan Beachy contribuiu para a pesquisa.)
c. 2023 The New York Times Company