Fake da Inteligência Artificial trará apocalipse da informação

Os futurologistas há muito alertam sobre o “Textpocalypse” – uma situação em que a Web será inundada com textos gerados por IA e estes serão usados ​​para treinar uma nova IA para gerar ainda mais texto. Parece que o futuro está quase aqui.

Agora pesquisadores da NewsGuard identificaram quase 50 sites preenchidos por ferramentas de IA que publicam informações imprecisas ou absolutamente falsas. O verdadeiro problema, porém, não é a informação falsa em si, mas o fato de tais sites se disfarçarem de veículos de notícias, assumindo nomes genéricos como Daily Business Post e se passando por um player de confiança no mercado de mídia.

Por exemplo, um site polêmico relatando as “mortes” de celebridades publicou um artigo em 2 de abril afirmando que POTUS Joe Biden havia “falecido pacificamente durante o sono”, com Kamala Harris sucedendo o cargo. O artigo foi removido porque sua imprecisão era muito óbvia, mas um cache do texto pode ser encontrado.

A esmagadora maioria desses sites nada mais são do que fazendas de conteúdo alimentadas por IA; eles geram textos de baixa qualidade, preenchidos com palavras-chave para atrair receitas publicitárias.

A maioria dessas fazendas de conteúdo gera lucros baixos a zero. No entanto, uma boa parte deles exibe anúncios programáticos – o que significa que a IA compra e vende espaço para publicidade automaticamente – e isso significa que o proprietário desses sites obtém uma fonte de renda passiva. Além disso, algumas empresas praticam “postagem de convidados”, o que significa que pagam dinheiro a essas fazendas de conteúdo para mencionar seu nome, a fim de melhorar sua classificação de pesquisa.

Gordon Crovitz – um proeminente jornalista americano e especialista em Big Tech – disse que “usar modelos de IA conhecidos por inventar fatos para produzir o que apenas parecem sites de notícias é fraude disfarçada de jornalismo”.

Os pesquisadores também estão preocupados com o fato de que essas ferramentas de geração de conteúdo estão se tornando virtualmente gratuitas. Noah Giansiracusa, professor associado de ciência de dados e matemática na Bentley University, foi citado na mídia como tendo dito que notícias falsas para anúncios costumavam ser “ um esquema mal pago ” e os perpetradores tinham que investir pelo menos alguns recursos para cometer este crime – pelo menos, para pagar um salário regular aos desistentes das escolas de mídia . Agora tudo o que eles precisam é de um computador conectado à Internet.