Desinformação cresce com falsificação de conteúdo gerado por IA

Os Repórteres Sem Fronteiras (RSF) alertaram hoje para o aumento da desinformação, através de transmissões de rádio falsas geradas com ajuda de inteligência artificial (IA), como aconteceu recentemente com a Rádio França Internacional (RFI).

“Deepfakes’ de jornalistas ou simples vozes sintéticas, a IA é usada para usurpar marcas de media, símbolos de confiança para manipular os cidadãos”, lê-se na nota informativa da organização, que acrescenta estar preocupada com esta “tendência crescente de desinformação, que nenhuma barreira técnica ou legal pode conter atualmente”.

Os “deepfakes” são conteúdos multimédia falsos, mas de aparência autêntica, resultantes da manipulação informática de sons e/ou imagens.

A organização sem fins lucrativos (ONG) menciona o caso da rádio francesa RFI, vítima de um roubo de identidade fabricado com IA, em maio.

“Por mais de cinco minutos, vozes falsas debatem num vídeo, marcado com o logótipo da RFI, a possível candidatura do oponente Maurice Kamto nas eleições presidenciais em Camarões (…) o diálogo é trabalhoso, o tom grosseiramente robótico e o formato inconsistente com os padrões editoriais da rádio”, refere a ONG.

Contudo, esta não é a primeira vez que este tipo de conteúdo falsificado tenta fazer-se passar por meios de comunicação social.

Em abril, na República Democrática do Congo (RDC), um programa de notícias de rádio falso utilizou as vozes de dois jornalistas franceses para dar substância e, suposta, credibilidade ao aparente conteúdo noticioso.

Neste caso, “o conteúdo não parecia ser gerado por IA e foi retransmitido via WhastApp, YouTube, TikTok e Facebook, acumulando mais de 100.000 visualizações”.

Para o responsável pela área de tecnologia e jornalismo dos RSF, Vincent Berthier, “esse conteúdo envenena o debate público, abrindo caminho para a era da dúvida permanente e corrói ainda mais a confiança nos media. As plataformas e ferramentas de IA generativa devem integrar medidas concretas para rastrear conteúdo e autenticá-lo, a fim de saber se é a produção de um media, se é gerada por IA ou se essa informação não está disponível”, afirmou.

Neste sentido, a organização alertou ainda para a necessidade dos meios de comunicação adotarem tecnologias para autenticar o seu conteúdo, de forma a combater a falsificação de informação e alcançar um maior transparência nas plataformas.