O  caos (des)informacional e deepfakes à luz da democracia

A ascensão das tecnologias digitais trouxe um novo patamar de disseminação de informações. Se por um lado a internet, os smartphones e as redes sociais facilitaram a troca de conhecimentos e a colaboração global, por outro, abriram caminho para a proliferação de desinformação e deepfakes, ameaçando diretamente os fundamentos das democracias modernas.

Até pouco tempo, o ecossistema da informação evoluía de forma comedida, permitindo à sociedade uma adaptação gradual aos avanços tecnológicos. Logo veio a comunicação por meio da imprensa e o surgimento da fotografia.

Contudo, com o avanço da internet, a humanidade transformou o ambiente da informação em algo integrado. O mundo nunca esteve tão interligado, tanto do ponto de vista físico quanto virtual. Nunca o mundo esteve tão interconectado. Hoje, pessoas e informações circulam a uma velocidade impressionante, com uma arquitetura tecnológica que propicia um fluxo livre de dados para aqueles com acesso à internet.

Revolução tecnológica e caos (des)informacional

Ao longo dos últimos anos, o mundo testemunhou uma das mais significativas revoluções tecnológicas de sua história. A chegada das redes sociais e a popularização da internet transformaram a forma como as informações circulam, tornando o fluxo de dados extraordinariamente rápido e muitas vezes desregulado. Esse cenário deu origem a um ambiente informacional caracterizado por um excesso de dados e pela desordem comunicativa, comumente referida como “caos informacional”.

O compartilhamento de notícias falsas é facilitado por plataformas digitais que promovem conteúdos emocionais e polarizadores, gerando um ciclo de desinformação que afeta decisões políticas e sociais. Essa dinâmica impacta diretamente o sistema democrático, minando o discernimento dos cidadãos e contribuindo para uma crescente polarização.

A revolução tecnológica das últimas décadas transformou profundamente a sociedade, conectando o mundo e ampliando o acesso à informação. Esse avanço trouxe benefícios como colaborações globais, essenciais no combate ao coronavírus, mas também desafios, como a rápida disseminação da desinformação. A internet horizontalizou a comunicação, permitindo novas formas de participação política e modificando o papel da mídia tradicional. Hoje, informações políticas fluem de diversas fontes nas redes sociais, com uma capacidade de difusão sem precedentes.

A dinâmica social e política mudou, com os cidadãos assumindo papéis ativos ao consumir, processar e compartilhar informações, muitas vezes falsas. A internet aparenta horizontalizar a comunicação, mas fenômenos mostram a dificuldade de ser ouvido em meio ao excesso de vozes. As redes sociais ampliam essa dinâmica, operando em bolhas onde informações falsas são propagadas por contas automatizadas e perfis enganosos. Esse cenário sustenta a desinformação e impacta diretamente a reputação de pessoas, incluindo políticos e autoridades públicas.

Desinformação, fake news, deepfakes como ferramenta de manipulação política e criminal

As deepfakes, tecnologias de manipulação audiovisual que simulam com precisão imagens e vozes humanas, representam um desafio ainda maior no cenário da desinformação. Inicialmente usadas em conteúdos pornográficos não consensuais, essas ferramentas evoluíram para o uso político, com potencial de desestabilizar eleições e campanhas.

O espaço digital tornou-se uma poderosa ferramenta para interação social e expressão de opiniões individuais. Contudo, também proporcionou um tipo de anonimato, ainda que temporário, que representa sérios riscos do ponto de vista social. Esse anonimato é frequentemente explorado por meio de perfis falsos, usados para espalhar discursos de ódio, praticar crimes variados e divulgar informações falsas.

O fenômeno das fake news destaca-se pela rápida disseminação e pela maior capacidade de influência em comparação com conteúdos verdadeiros e inofensivos. Essas mensagens afetam profundamente o psicológico das pessoas. Isso ocorre porque as transformações nos estilos de vida implicaram adaptações no comportamento humano e nos processos neurológicos, ajustando-se ao volume de dados e às múltiplas possibilidades trazidas pelas novas dinâmicas sociais.

Segundo o professor Van Raemdonck, essas transformações geram uma sequência constante e ininterrupta de estímulos, já que as redes sociais hoje permitem uma navegação sem fim, impactando diretamente o sistema dopaminérgico das pessoas.

As fake news ativam áreas emocionais das pessoas, o que faz com que o compartilhamento, mesmo incorreto, se torne uma prática recorrente devido ao desejo de pertencimento. Isso se dá porque as redes sociais intensificam o sentimento de comunidade, permitindo não apenas a interação com círculos próximos, mas também com grupos que compartilham ideais e valores semelhantes.

Segundo Claire Wardle, a desinformação é a disseminação de conteúdos maliciosos, impulsionados pela vontade de pertencimento. Essa interação reflete a estrutura das plataformas, que incentivam comportamentos específicos para garantir visibilidade.

O crescimento das redes sociais que permitem o compartilhamento público de imagens facilita o uso de aplicativos de falsificação, utilizando fotografias de qualquer pessoa obtidas em plataformas como Instagram ou Facebook.

Infelizmente, os casos de deepfakes pornográficos têm se tornado alarmantemente comuns. As mulheres são os maiores alvos de fenômenos como a pornografia de vingança e as mídias falsas pornográficas, reflexo de uma sociedade que perpetua a misoginia e o machismo, exigindo delas padrões morais desproporcionais e frequentemente injustos.

Nessas circunstâncias, o objetivo é degradar a reputação das mulheres, especialmente em um contexto político já marcado por hostilidade ao protagonismo feminino. Por isso, cresce a preocupação com o impacto das deepfakes na esfera política. Decerto, a desinformação se espalha amplamente, assassinando reputação perante a opinião pública. O grande desafio está na reversão desse velocidade, pois é muito mais simples propagar uma notícia falsa do que combate-la.

Responsabilização e os impactos sociopolíticos das deepfakes

O impacto das deepfakes na democracia vai além da questão eleitoral. Elas contribuem para um ambiente de incerteza, distorcem narrativas políticas e minam a confiança nas instituições. A manipulação audiovisual pode influenciar eleitores de forma irreversível, especialmente em contextos polarizados, onde desinformações de última hora podem mudar o curso de uma eleição.

Poucos lugares do mundo têm regulação em vigor acerca dos usos de inteligência artificial, da utilização no campo político e da criação de materiais como deepfakes.

No campo jurídico, o Tribunal Superior Eleitoral (TSE) estabeleceu regras inéditas para o uso de inteligência artificial nas campanhas eleitorais de 2024. Entre as normas, destaca-se a proibição do uso de deepfakes e a obrigatoriedade de rotular conteúdos criados ou alterados por IA como “conteúdo sintético multimídia”.

Além disso, as plataformas digitais também devem desempenhar um papel central no combate à desinformação, com medidas como a remoção de conteúdos falsos e a aplicação de critérios mais transparentes para a promoção de informações. Contudo, o desafio permanece: como responsabilizar juridicamente indivíduos e organizações que financiam e disseminam essas campanhas maliciosas?

Uma das contribuições possíveis para o problema das deepfakes inclui a credibilidade dos veículos de informação e o letramento ou a alfabetização digital como fator central para discernir conteúdos falsos e verdadeiros, principalmente para julgar o tipo de manchetes publicadas online. Esse letramento deve ser multifacetado, para que os indivíduos tenham melhor conhecimento digital para discernir sobre o que consomem online, mas também para apurar a capacidade crítica diante de qualquer conteúdo noticioso.

Conclusão

A desinformação e as deepfakes configuram ameaças relevantes à democracia contemporânea, afetando diretamente a formação da opinião pública e a integridade dos processos eleitorais. Enfrentar esses desafios exige uma ação coordenada entre governos, plataformas digitais, sociedade civil e sistemas jurídicos, de forma a criar respostas eficazes e adaptadas à complexidade do fenômeno.

O cenário de desordem informacional revela impactos amplos no âmbito eleitoral e criminal, demandando medidas proativas e dinâmicas para mitigar seus danos. Fortalecer a legislação, desenvolver tecnologias de detecção de deepfakes e promover a conscientização pública sobre a credibilidade das informações são passos essenciais para acompanhar a evolução tecnológica e proteger os valores democráticos.

____________________
Referências

LESSIG, Lawrence. Code and other laws of cyberspace. New York: Basic Books, 1999.

SIRLIN, Nathaniel et al. Digital literacy is associated with more discerning accuracy judgments but not sharing intentions. HKS Misinformation Review. Disponível em: https://misinforeview.hks.harvard.edu/article/digital-literacy-is-associated-with-more-discerning-accuracy-judgments-but-not-sharing-intentions/.

VAN RAEMDONCK, Nathalie; MEYER, Trisha. Why disinformation is here to stay. A socio-technical analysis of disinformation as a hybrid treat. In: LONARDO, L. (ed.). Adressing Hybrid Threats: European Law and Policies.

WARDLE, Claire. Fake news. It’s complicated. First Draw News. Disponível em: https://firstdraftnews.org/articles/fake-news-complicated/.

WARDLE, Claire; DERAKHSHAN, Hosseion. Information disorder: toward an interdisciplinary framework for research and policymaking. Strasbourg: Council of Europe, 2017.