Conheça a história de vida, morte e renascimento de um site de notícias gerado por inteligência artificial

Jornalistas eram orientados pelo CEO da empresa, o empresário Gurbaksh Chahala, a usar um chatbot de IA para reescrever artigos de outros veículos de notícias

37
Dave Fanning, DJ e apresentador de talk-show irlandês, teve o nome citado por engano em uma notícia publicada pelo BNN — Foto: Paulo Nunes dos Santos/The New York Times

A notícia foi publicada no MSN.com: “Proeminente radialista irlandês enfrenta julgamento por suposto abuso sexual”. E, no topo da matéria, havia uma foto de Dave Fanning. O problema era que Fanning, um DJ irlandês e apresentador de talk show famoso por ter descoberto a banda de rock U2, não era o radialista em questão.

— Não dá para acreditar na quantidade de pessoas que entraram em contato — disse Fanning, que chamou o erro de “ultrajante”.

A notícia falsa, visível por horas na página inicial para qualquer pessoa na Irlanda que usasse o Microsoft Edge como navegador, foi o resultado de um erro de inteligência artificial.

Um veículo de notícias chamado BNN Breaking usou um chatbot de IA para parafrasear um artigo de outro site de notícias, de acordo com um funcionário do BNN. O robô envolveu Fanning na história ao incluir uma foto de uma “proeminente emissora irlandesa”. A história foi então publicada pelo MSN, um portal de propriedade da Microsoft.

A história foi excluída da internet um dia depois, mas o dano à reputação de Fanning não foi tão facilmente desfeito, disse ele em um processo por difamação movido na Irlanda contra a Microsoft e a BNN Breaking.

A ação de Fanning é apenas uma das muitas queixas contra o BNN, um site com sede em Hong Kong que publicou inúmeras fake news durante seu curto período de vida on-line como resultado do que pareciam ser erros generativos de IA.

A BNN foi desativada em abril. A empresa e seu fundador não responderam várias solicitações de comentários. Por sua vez, a Microsoft não fez comentários sobre o caso de difamação de Fanning, mas a empresa disse que havia encerrado seu contrato de licenciamento com a BNN.

Durante os dois anos em que a BNN esteve ativa, ela tinha a aparência de um serviço de notícias legítimo, alegando ter uma lista mundial de jornalistas “experientes” e 10 milhões de visitantes mensais. Sites de notícias conceituados como The Washington Post, Politico e The Guardian, criaram links para as matérias da BNN. O Google News também as exibia com frequência.

Um olhar mais atento, no entanto, teria evidenciado que os jornalistas individuais da BNN publicavam longas histórias várias vezes por minuto, escrevendo em prosa genérica familiar a qualquer pessoa que tenha mexido no chatbot de IA, o .

A facilidade com que o site e seus erros entraram no ecossistema de notícias legítimas destaca uma preocupação crescente: o conteúdo gerado por IA está alterando, e muitas vezes envenenando, o fornecimento de informações on-line.

Freelancers mal remunerados e algoritmos produziram grande parte do conteúdo de notícias falsas, valorizando a velocidade e o volume em detrimento da precisão de informações.

Agora, dizem os especialistas, a IA pode turbinar a ameaça, roubando facilmente o trabalho dos jornalistas e permitindo que as falsificações cheias de erros circulem ainda mais amplamente.

O resultado é uma espiral alimentada por máquinas que pode acabar com o jornalismo sustentável e confiável. Mesmo que as histórias geradas por IA sejam geralmente mal construídas, elas ainda podem superar seu material de origem nos mecanismos de pesquisa e nas plataformas sociais, que geralmente usam IA para ajudar a posicionar o conteúdo.

Identidades reais, usadas pela IA

“Você deveria ter vergonha de si mesmo”, escreveu uma pessoa em um e-mail para Kasturi Chakraborty, um jornalista da Índia cuja assinatura estava na matéria da BNN com a foto de Fanning.

Chakraborty trabalhou para a BNN Breaking por seis meses, com dezenas de outros jornalistas, principalmente freelancers com experiência limitada, baseados em países como Paquistão, Egito e Nigéria, onde o salário de cerca de US$ 1.000 por mês era atraente. Eles trabalhavam remotamente, comunicando-se via WhatsApp e Google Hangouts.

Mas o BNN Breaking não era um veículo de jornalismo tradicional. Embora os jornalistas pudessem ocasionalmente fazer reportagens e escrever artigos originais, eles eram solicitados a usar principalmente uma ferramenta de IA generativa para compor histórias, disseram Chakraborty e Hemin Bakir, um jornalista baseado no Iraque que trabalhou para a BNN por quase um ano.

Eles disseram que enviaram artigos de outros veículos de notícias para a ferramenta de IA generativa a fim de criar versões para a BNN publicar.

Bakir, que agora trabalha em uma rede chamada Rudaw, disse que estava cético em relação a essa abordagem, mas que o fundador da BNN, o empresário Gurbaksh Chahal, a descreveu como “uma revolução no setor de jornalismo”.

O posicionamento de Chahal tinha peso entre seus funcionários por causa de sua riqueza e de seu histórico impressionante de empreendedor, disseram eles.

Mas Chahal também tinha um passado criminoso. Em 2013, ele atacou sua namorada na época e foi acusado de bater e chutá-la mais de 100 vezes, gerando uma atenção significativa da mídia porque foi gravado por uma câmera de vídeo instalada por ele mesmo em seu quarto.

No entanto, a gravação foi considerada inadmissível por um juiz, pois a polícia a havia apreendido sem um mandado. Chahal se declarou culpado de agressão, foi condenado a prestar serviços comunitários e perdeu seu cargo de CEO da RadiumOne, uma empresa de marketing on-line.

Após uma condenação envolvendo outro incidente de violência doméstica com uma parceira diferente em 2016, ele cumpriu seis meses de prisão.

Chahal, hoje com 41 anos, acabou se mudando para Hong Kong, onde fundou a BNN Breaking em 2022. No LinkedIn, ele se descreveu como o fundador da ePiphany AI, um modelo de aprendizado de idiomas de grande porte que, segundo ele, era superior ao ChatGPT. Essa era a ferramenta que a BNN usava para gerar suas histórias, de acordo com ex-funcionários.

Resistência dos jornalistas

No início, os funcionários eram solicitados a colocar artigos de outros sites de notícias na ferramenta para que ela pudesse reescrevê-los e, em seguida, “validar” manualmente os resultados, verificando se havia erros, disse Bakir.

As matérias geradas por IA que não eram verificadas por uma pessoa recebiam um título genérico de BNN Newsroom ou BNN Reporter. Mas, no final, a ferramenta estava produzindo muito mais matérias do que a equipe podia “validar”.

Os funcionários não queriam que suas assinaturas aparecessem em histórias geradas exclusivamente por IA, mas Chahal insistiu nisso. Logo, a ferramenta atribuiu aleatoriamente seus nomes às matérias.

Wall Street Journal:

A situação passou dos limites para alguns funcionários da BNN, de acordo com capturas de tela de conversas do WhatsApp analisadas pelo Times, nas quais eles disseram a Chahal que estavam recebendo reclamações sobre matérias que eles não sabiam que tinham sido publicadas com seus nomes.

— Isso manchou nossa reputação — afirmou Chakraborty.

Inúmeros erros

Durante o ano passado, a BNN acumulou inúmeras reclamações sobre fatos errados, citações falsas de especialistas e roubo de conteúdo e fotos de outros sites de notícias sem crédito ou compensação.

A história com a foto de Fanning, que Chakraborty disse ter sido gerada por IA com o nome dele atribuído aleatoriamente, foi publicada porque as notícias sobre o julgamento de um radialista irlandês acusado de má conduta sexual estavam em alta.

‘Monocultura’ na internet, direitos autorais, desinformação:

O nome do radialista não foi mencionado no artigo original porque uma ordem de mordaça proíbe a mídia de citar o nome da pessoa em sua cobertura — então a IA presumivelmente combinou o texto com uma foto genérica de um “proeminente radialista irlandês”.

Os advogados de Fanning na Meagher Solicitors, uma empresa irlandesa, entraram em contato com a BNN e nunca receberam uma resposta, embora a história tenha sido excluída. Em janeiro, ele entrou com um processo por difamação contra a BNN e a Microsoft no Tribunal Superior da Irlanda.

A BNN respondeu publicando naquele mês uma história sobre Fanning que o acusava de “táticas desesperadas em um processo judicial de agitação de dinheiro”.

Dinheiro, um motivador de peso

O apelo do uso da IA para notícias é claramente um só: dinheiro.

A crescente popularidade da publicidade programática —- que usa algoritmos para colocar anúncios automaticamente na internet — permite que os sites de notícias com IA gerem receita com a produção em massa de conteúdo clickbait de baixa qualidade, disse Sander van der Linden, especialista em notícias falsas da Universidade de Cambridge. Clickbait é uma tática enganosa para gerar tráfego online com títulos sensacionalistas ou falsos.

Muitos públicos já têm dificuldades para discernir o material gerado por máquinas das reportagens produzidas por jornalistas humanos, disse van der Linden:

— Isso terá um impacto negativo sobre as notícias confiáveis.

Em março, o Google lançou uma atualização para “reduzir o conteúdo não original nos resultados de pesquisa”, visando sites com conteúdo “spammy”, seja ele produzido por “automação, humanos ou uma combinação”, de acordo com uma postagem no blog da empresa. Logo depois, as matérias da BNN pararam de aparecer nos resultados de pesquisa.

A BNN parou de publicar matérias no início de abril e excluiu seu conteúdo. Os visitantes do site agora encontram o BNNGPT, um chatbot de IA que, quando perguntado, diz que foi criado usando modelos de código aberto.

Chahal disse a Bakir para se concentrar na verificação das matérias que tinham um número significativo de leitores, como as republicadas pelo MSN.com.

A página ‘Sobre nós’ do TrimFeed tinha o mesmo conjunto de valores que a do BNN Breaking, prometendo “um cenário de mídia livre de distorções”.

Na terça-feira, depois que um repórter informou a Chahal que este artigo do NYT seria publicado em breve, o TrimFeed também foi fechado.

Artigo anteriorVendas de veículos zero quilômetro despencaram 64% em maio no Rio Grande do Sul
Próximo artigo“O Brasil das oportunidades é muito maior do que o Brasil das dificuldades” – Ferreirinha sobre as novas economias que virão com a IA