A desinformação e a pseudociência

ANTONIO CARLOS LUA

As eleições municipais de 2024 entraram na pauta política nacional. Em comum – além dos eventos democráticos – está a preocupação com as ‘Deepfakes’, prática criminosa que consiste no uso da tecnologia de inteligência artificial para manipular ou produzir imagens credíveis de situações que nunca aconteceram, trocando o rosto de pessoas em vídeos, sincronizando movimentos labiais, expressões e demais detalhes, com resultados impressionantes e bem convincentes.

Ao invés de depender de edição manual, o criminoso, por meio da ‘Deepfake’, precisa apenas de uma fonte para reconhecer o modelo do rosto da “vítima”, mapear a estrutura da cabeça destino e fazer a sobreposição. 

Por mais que o foco do ‘Deepfake’ seja a troca de rosto em vídeos, engana-se quem pensa que a prática se restringe a isso. A técnica também é utilizada para a manipulação de áudios, onde podem ser criadas gravações que simulam a voz de determinada pessoa, facilmente compartilhável em mensageiros como o WhatsApp.

Com os avanços tecnológicos, o método criminoso – que traz riscos para a democracia e para o pleito eleitoral – tem se tornado cada vez mais sofisticado. Na prática, as ‘Deepfakes’ utilizam técnicas similares aos efeitos especiais usados em produções de Hollywood, onde se insere digitalmente uma pessoa que originalmente não faz parte do contexto. 

A técnica mais usada é a chamada “troca de cabeças”, que utiliza uma “pessoa-origem” e insere a imagem na “pessoa-destino”. Assim, com o uso de softwares que usam algoritmos de inteligência artificial é possível transferir o rosto da “pessoa-origem” para o corpo da “pessoa-destino” de forma que pareça que a “pessoa-origem” realmente faz parte do vídeo.

Essa técnica – que foi utilizada pelo diretor James Cameron no filme recorde de bilheteria ‘Avatar’, em 2009, dando vida aos gigantes azuis do mundo de Pandora – usa um mecanismo de aprendizado de máquina, dentro das técnicas de inteligência artificial, para fazer essa máquina criar imagens que nunca existiram, de forma barata e rápida. 

A popularização das ‘Deepfakes’ vem ocorrendo desde 2017, quando rostos de celebridades começaram a ser utilizados em filmes pornográficos. Mas não demorou muito até esse fenômeno chegar na política.

Com as ‘Deepfakes’, criminosos podem fazer você falar o que quiserem, colocar você em qualquer lugar do mundo. O pior. Não precisam de você. Podem criar as pessoas que quiserem com as características e pensamentos que bem entenderem, em

combinações de algoritmos, geradas a partir de técnicas da inteligência artificial. A prática tem avançado a passos largos no Brasil e na velocidade atual das redes sociais e do WhatsApp mina a reputação de figuras públicas, em vídeos extremamente realistas, que colocam as vítimas em situações constrangedoras e inusitadas, servindo perigosamente para a desinformação política.

As ‘Deepfakes’ representam a mais nova ameaça à cybersegurança, sem que ainda se saiba como combatê-los. Não há regulação, normatização, legislação ética sobre a sua má utilização com os geradores de textos falsos, imagens falsas, vídeos falsos, clonagem não só de vozes, mas também de pessoas.

Ao mesmo tempo em que a tecnologia evolui para facilitar nossas vidas, trazendo facilidades e soluções interessantes para a evolução humana, ela também é utilizada por criminosos para modernizar seus ataques e fazer novas vítimas com consequências irreversíveis no primeiro momento. Há tempos estamos lidamos com a desinformação em diversos níveis.

Agora, com a evolução dos meios tecnológicos de comunicação, enfrentamos desafios desconhecidos, que causam grande impacto em nossas vidas. Ainda que conceber pessoas digitalmente não seja uma novidade, uma vez que técnicas como essa são amplamente utilizadas na indústria cinematográfica, sua aplicação fora dos estúdios tem desdobramentos dramáticos, ao se fazer uso de tecnologia no âmbito da política para fragilizar os processos democráticos.

Com quantidade de fotos disponíveis nas redes sociais, qualquer pessoa pode se tornar vítima. Os criminosos só precisam das fotos para treinar seus algoritmos quando quiserem usá-las para roubar identidade, chantagear ou divulgar notícias negativas sobre políticos ou pessoas famosas ou influentes.

A verdade é que vivemos hoje um perigo real, com a criação de mundos paralelos, com máquinas potentes, hardwares, guiados por mentes com domínio tecnológico nos apresentando vídeos tão perfeitos sem que possamos perceber sua falsificação, manipulando o sentimento coletivo.

Vivemos num mundo dispótico, onde prevalece a desinformação e a pseudociência, levando ao emburrecimento e à celebração da ignorância, com as redes sociais levando centenas de milhões de pessoas a se informar apenas por meio das Fake News sem nenhuma preocupação de confronto com os fatos da realidade.

A civilização baseada na investigação científica e na busca da verdade – desde o Renascimento, nos Séculos XV e XVI, e o Iluminismo, nos séculos XVIII e XIX – está seriamente ameaçada.