” Veja, a utilização da inteligência artificial, o mecanismo, por si só, não é maléfico. Quem deturpa isso é o ser humano ao usar a inteligência artificial, seja para deturpar áudio, seja para deturpar vídeo”, afirmou Alexandre de Moraes.
Na última terça-feira (27), o TSE estabeleceu regras sobre o assunto para as eleições deste ano, como:
- exigência de rótulos de identificação de conteúdo sintético multimídia;
- restrição ao uso de chatbots e avatares para intermediar a comunicação da campanha (conforme o TSE, as ferramentas não poderão simular interlocução com pessoa candidata ou outra pessoa real);
- “vedação absoluta” de uso de deep fake.
Segundo Moraes, a regulamentação realizada pela Corte eleitoral determina que qualquer propaganda ou mensagem no período eleitoral que use inteligência artificial obrigatoriamente deve ter um selo indicando que houve manipulação do conteúdo.
“Quem usar a inteligência artificial para deturpar mensagens e não avisar o eleitor terá seu registro cassado. Se já tiver mandato, será cassado o mandato”, explicou o ministro, que está em Buenos Aires, capital da Argentina, participando de um seminário.
Em sua opinião, o TSE agiu corretamente, pelo da aplicação de multa não ser suficiente no caso.
“Alguém usa a inteligência artificial para deturpar todo o conteúdo, a palavra do seu adversário, ganha a eleição e depois vai ser só multado? Não, vai ser multado e vai perder o mandato.”
O que diz a resolução do TSE?
A Corte Eleitoral determinou que uso irregular da inteligência artificial poderá levar à cassação do candidato. O uso do chamado ‘deep fake’ será proibido. A ferramenta é uma das preocupações da Justiça Eleitoral pelo potencial de desequilibrar as eleições. Com a tecnologia, é possível, por exemplo, substituir o rosto de pessoas em vídeos ou simular falas, com o mesmo tom de voz e com a sincronização com o movimento dos lábios.
Segundo o TSE, o deep fake é o “conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”.
A proibição é para uso com fins de prejudicar ou favorecer candidaturas. A utilização irregular da IA poderá ser enquadrada como uso indevido dos meios de comunicação, o que pode levar à cassação do mandato ou do registro de candidatura.
As propostas de resolução foram apresentadas pela ministra Cármen Lúcia. A magistrada é a atual vice-presidente do TSE e será a presidente do tribunal nas eleições municipais de 2024, quando serão escolhidos prefeitos e vereadores.
