O caso envolve um vídeo com personalidades como Taylor Swift na campanha de Evandro Leitão à prefeitura de Fortaleza em 2024.
Por Redação, com CartaCapital – de Brasília
O Tribunal Superior Eleitoral decidiu, por unanimidade, rejeitar um recurso do prefeito de Fortaleza (CE), Evandro Leitão (PT), e manter uma multa de R$ 15 mil por uso de deepfake na campanha eleitoral de 2024.
A condenação resultou da publicação de um vídeo nas redes sociais com a imagem de figuras como Barack Obama, Taylor Swift, Tom Cruise e Cristiano Ronaldo.
Os personagens apareciam com declarações produzidas por inteligência artificial a fim de simular apoio à candidatura petista, com a pronúncia da expressão closed with Leitão.
O TSE entendeu que a adulteração de conteúdo digital com finalidade eleitoral é suficiente para caracterizar a irregularidade, independentemente de se comprovar potencial para induzir o eleitor a erro.
A condenação se baseia em uma resolução do TSE a proibir o uso de conteúdo sintético em áudio ou vídeo, gerado ou manipulado digitalmente, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia.
A Corte publicou o acórdão em 8 de maio.
IA
O Superior Tribunal de Justiça informou que investigará tentativas de fraude processual por meio da chamada prompt injection — ou injeção de comando. Trata-se de uma artimanha para inserir comandos ocultos em documentos, com o objetivo de enganar modelos de inteligência artificial.
A Corte sustenta que seu sistema de IA generativa, o STJ Logos, já é capaz de impedir essas tentativas. Segundo o presidente Herman Benjamin, porém, o tribunal começará a certificar os casos nos autos, a fim de permitir a aplicação de sanções processuais aos envolvidos.
A presidência do STJ também decidiu pela abertura de um inquérito policial e de um procedimento administrativo sobre o tema, com depoimentos de advogados, para responsabilização criminal e correcional.
A prompt injection busca enganar os modelos de IA a partir da inserção de comandos em documentos comuns, como petições ou recursos.
Como a IA processa os textos para entender seu contexto e responder a comandos (prompts), um usuário pode utilizar instruções maliciosas para forçar o sistema a ignorar regras de análise e favorecer uma das partes, por exemplo.
