Para a pesquisadora em democracia digital da Democracy Reporting International Beatriz Saab, a tecnologia se preocupa com seu potencial de automação, distribuição personalizada de conteúdo e produção a baixo custo. Isso ganha espaço em um país marcado por diferenças sociais como o Brasil.
Por Gustavo Queiroz
Para especialistas, vídeos manipulados são exemplos de como a inteligência artificial pode ser usada para prejudicar candidatos, tendo em vista o baixo custo e a capacidade de disseminar notícias falsas e discurso de ódio.
Em dezembro, oito meses antes do início da campanha eleitoral e um dia após uma manifestação de professores contra a prefeitura de Manaus, um suposto áudio mencionado ao prefeito da capital amazonense, David Almeida (Avante), obteve rápida atração em aplicativos de mensagem. O conteúdo, carregado de insultos contra profissionais da educação, era falso, mas imitava a voz de Almeida e poderia enganar um usuário desavisado das redes sociais.
O caso culminou em uma operação de busca e apreensão da Polícia Federal (PF) contra três empresas de publicidade suspeitas de usar inteligência artificial (IA) para produzir difusão eleitoral. Este foi um dos primeiros usos de deepfake para distribuir desinformação com impacto neste pleito – um problema que pode inundar os tribunais durante a campanha e ganhar protagonismo nas eleições municipais.
Levantamento feito pela DW encontrou ao menos outras sete acusações de uso de inteligência artificial com objetivos eleitorais que já estão na Justiça antes mesmo da largada oficial das campanhas. As decisões inauguram o entendimento dos tribunais sobre o tema e servem como tabela para o período eleitoral, que começa em 16 de agosto.
Maringá, no norte do Paraná, por exemplo, também esteve exposto a conteúdos falsos. Um áudio que circulou nas redes sociais simulou a voz do prefeito Silvio Barros (Progressistas) em que ele concluiu abriria mão de concorrente ao pleito neste ano. A Justiça concedeu liminar para que o WhatsApp, aplicativo da empresa Meta, identificasse o primeiro responsável por divulgar o conteúdo, mas a empresa disse que não é possível rastrear a mensagem.
Caso parecido aconteceu na cidade da Costa Rica, no Mato Grosso do Sul, onde circulou um vídeo manipulado, no qual o atual prefeito, Cleverson Alves dos Santos (PP), teria comparado a população de cachorros. A Justiça determinou multa de R$ 10 mil por compartilhamento do conteúdo. Na opinião do juiz eleitoral Francisco Soliman, casos como este contaminaram a percepção dos participantes.
“Embora estejamos longe das eleições, a dúvida não há de que a utilização de conteúdos deste estirpe, compartilhados irresponsavelmente em grupos de Whatsapp, (…) alcançam um número significativo de pessoas, e como tal, podem atrapalhar a regularidade do futuro processo eleitoral ”, escreveu na decisão.
Já em Guarulhos, na região metropolitana de São Paulo, um vídeo compartilhado pelo prefeito Guti (PSD) mostrou um coro de vozes entoando o grito “fora PT”, com imagens de uma multidão criada por meio de inteligência artificial. Para o juiz eleitoral Gilberto Costa, o uso de vídeos artificiais foi evidente, mas o prefeito falhou ao não indicar que se tratava de um conteúdo manipulado. A publicação precisou ser removida.
Em nota, a prefeitura afirmou que o vídeo se tratava de um meme que circulou à época e que o vídeo não mencionava candidatos da oposição. Também disse que o atual prefeito não será candidato.
Outros dois casos envolveram IA e campanha eleitoral tramitam em São Paulo e um em Pernambuco.
Nova resolução embasa decisões
O julgamento sobre este tipo de conteúdo foi possível graças a uma resolução do Tribunal Superior Eleitoral (TSE) deste ano, a primeira sobre o tema no Brasil, que proíbe o uso de deepfakes , como vídeos e áudios manipulados por IA. A Corte também restringiu o uso de robôs para simular diálogos com os candidatos e obrigou os candidatos a informarem se há conteúdos gerados artificialmente nas propagandas eleitorais.
Em nota, os Tribunais Regionais Eleitorais informaram ainda que, caso um candidato use deepfake , poderá ter o registro ou o mandato cassado. Em março, a Justiça Eleitoral criou o Centro Integrado de Enfrentamento à Desinformação e Defesa da Democracia, que auxiliará na utilização da inteligência artificial durante o pleito.
O centro reúne iniciativas de diversas instituições para combater a desinformação no período eleitoral, bem como discursos de ódio e antidemocráticos. A unidade poderá receber notificações e solicitar exceções das plataformas de redes sociais sobre determinados conteúdos.
Problema generalizado
O problema é mundial. Na Eslováquia, dois dias antes do início da eleição presidencial em 2023, um áudio manipulado de um dos candidatos à eleição viralizou. Na gravação, o político apresentou discussão sobre como fraudar o resultado da eleição. Na Moldávia, vídeos manipulados do presidente cfalando mal dos cidadãos e anunciando uma falsa renúncia também circularam.
Nas eleições para o Parlamento Europeu , a inteligência generativa foi usada para criar imagens artificiais de imigrantes invadindo edifícios dos escritórios da União Europeia. Segundo o jornal britânico The Guardian , na Alemanha, especialistas derrubaram uma campanha de desinformação pró-Rússia que usava bots e contas falsas no X. Na eleição indiana de junho deste ano, publicações na imprensa local indicam que até 50 milhões de dólares foram investidos pelos partidos em conteúdo gerado por inteligência artificial.
Até o final de 2024, 40% da população mundial terá ido às urnas . Nas dimensões continentais, o Brasil entra nesta conta em um cenário particular, dada a dificuldade de fiscalização em uma eleição que abrange 5.570 municípios. Somente nas eleições municipais de 2020, foram inscritos 517 mil candidatos. Para especialistas ouvidos pela DW, estes casos dão a todos os impostos pela IA no país.
Discurso de ódio e escalada da desinformação são desafios
Para a pesquisadora em democracia digital da Democracy Reporting International Beatriz Saab, a tecnologia se preocupa com seu potencial de automação, distribuição personalizada de conteúdo e produção a baixo custo. Isso ganha espaço em um país marcado por diferenças sociais como o Brasil.
“Pode haver um aumento do uso de inteligência artificial durante as eleições legislativas. O Brasil tem um contexto muito específico, a população brasileira utiliza muito as redes sociais para o consumo da informação. Então existe uma dificuldade em relação ao controle”, disse à DW .
Um estudo da Democracy Reporting International acorda os principais riscos que o mau uso da inteligência artificial pode trazer para a democracia brasileira. Além da produção de deepfakes e de conteúdo falso, o medo é que o IA seja usado também para divulgar discursos de ódio ou escalar a distribuição de anúncios políticos desinformativos. Isso porque, muitas vezes, o objetivo de um áudio falso, por exemplo, não é o de ser uma imitação perfeita da realidade, mas o de gerar confusão.
Segundo o texto, a IA pode aprimorar, por exemplo, a personalização das mensagens de campanha, permitindo uma comunicação direcionada em termos demográficos.
“Além disso, tecnologias de IA como deepfakes ou a geração de conteúdo automatizado podem ser usadas para criar conteúdo audiovisual enganoso ou integralmente fabricado, apresentando desafios importantes para a veracidade da informação”, escrevem as pesquisadoras.
Responsabilidade das plataformas
No centro desta discussão estão as plataformas digitais, já que a maior parte desses conteúdos circula em aplicativos como WhatsApp, Facebook, Instagram e X.
A resolução publicada pelo TSE neste ano considera que as empresas podem ser consideradas responsáveis se falharem em resolver conteúdos considerados de risco durante as eleições. O Google decidiu proibir a veiculação de anúncios políticos após a decisão do TSE.
Um estudo publicado neste ano pela FGV Direito Rio, por exemplo, revelou falhas das plataformas para moderar anúncios, aceitando conteúdos que escapam das Políticas de Conteúdo. Os pesquisadores procuraram, por exemplo, subir publicidade em português contendo discurso de ódio para veiculação no YouTube, além de subdividir sem restrições anúncios com desinformação sobre o processo eleitoral.
“A gente também consegue enxergar um risco muito alto do uso da inteligência artificial para produzir esse conteúdo e para colocar em anúncios que terão um impacto político e que não necessariamente serão classificados como políticos pela plataforma”, explica Saab. “Como você observa esse tipo de conteúdo para falar se é desinformativo ou não, violento ou não? Vai existir essa dificuldade de fiscalizar localmente o que está acontecendo”, completa.
Procurado, o Google não respondeu até a publicação desta reportagem. Em nota à imprensa divulgada à época, a empresa informou que combina inteligência artificial e revisores humanos para aplicar políticas e que, todos os anos, bilhões de anúncios são bloqueados antes de serem exibidos.
IA abaixa o custo e desmobiliza os participantes
Estudos conduzidos pela política científica Nara Pavão, da Universidade Federal de Pernambuco, indicam que o efeito da desinformação nas eleições depende de sua predisposição. Em ambientes políticos polarizados, as notícias falsas provocam mais mobilização do que persuasão.
“O impacto da desinformação vai depender muito do nível de polarização e do nível de conhecimento que os participantes têm sobre os candidatos. Em municípios muito pequenos, desconhecidos, a informação pode ter esse efeito.”
Isso acontece porque quando há alta polarização, como as disputas nacionais no Brasil são desenhadas, o eleitor muda de ideia em relação a um candidato, explica Pavão. Nesse caso, o eleitor buscará informações que confirmem aquilo que já pensa sobre um candidato conhecido.
Já em um cenário de menor polarização, o eleitor precisa consumir mais informações para tomar uma decisão, o que aumenta a capacidade de desinformação para persuadir o voto. “As fake news desmobilizam o eleitor, fazem com que ele tenha menos disposição para se engajar politicamente a favor do seu candidato, sendo esse candidato vítima de uma notícia falsa”, afirma.
É nesse contexto que a inteligência artificial se torna um risco. “Peças de desinformação sempre existem. O que a inteligência artificial faz é popularizar. Ela torna a produção desses conteúdos sintéticos menos custosos.”
Siga o Agenda Capital no Instagram>https://www.instagram.com/agendacapitaloficial
Com Deutsche Welle
