O Tribunal Superior Eleitoral (TSE) reforçou a proibição do uso de deepfakes durante as campanhas eleitorais, um tema que ganha cada vez mais relevância em um mundo onde a inteligência artificial (IA) evolui a passos largos. Recentemente, especialistas da OpenAI e da Meta alertaram sobre a crescente dificuldade em distinguir vídeos e áudios falsificados por IA de conteúdos autênticos, um cenário que pode impactar não apenas as eleições, mas também o sistema judicial nos Estados Unidos.
Durante uma reunião em Boston, o Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA abordou os desafios apresentados por essas tecnologias. Há três anos, o comitê discute como lidar com o potencial de falsificações em processos judiciais, preocupando-se com a verificação da autenticidade de provas que possam ter sido manipuladas por IA. De acordo com Shira Anderson, consultora de políticas da OpenAI, as imagens geradas por IA estão se tornando cada vez mais refinadas, dificultando a identificação de suas origens. “Não acredito que haja, no futuro, uma maneira científica de detectá-las”, afirmou.
Embora a preocupação com deepfakes esteja crescendo, o uso real dessas tecnologias nos tribunais ainda é limitado. Dados de uma pesquisa recente mostraram que, de 931 juízes consultados, apenas 15 lidaram com casos em que a autenticidade de provas foi contestada devido a suspeitas de serem deepfakes. O juiz federal Jesse Furman, que preside o comitê, ressaltou que, apesar dos temores acadêmicos, a incidência de casos desse tipo permanece baixa.
Entretanto, especialistas alertam que a situação pode mudar rapidamente, já que a capacidade de criar conteúdos falsos com aparência autêntica está se democratizando. Devin Norder, da Meta, destacou que a produção de deepfakes pode ser realizada com facilidade e baixo custo, tornando a questão ainda mais preocupante. As empresas estão se mobilizando para desenvolver ferramentas que ajudem a verificar a autenticidade de conteúdos, mas a solução ainda parece distante.
Em resposta a esses desafios, novas legislações na Califórnia e na União Europeia estão sendo implementadas, exigindo o uso de marcas d’água em conteúdos gerados por IA, como uma forma de sinalizar sua origem. No entanto, Anderson alertou que não existe um método universal para garantir a identificação correta dessas marcas, o que deixa a verificação sujeita a limitações. A sensação é de que, embora os esforços estejam sendo feitos, a tecnologia continuará avançando mais rapidamente do que as soluções para combatê-la.
Crédito da imagem: Foto: Pixabay — aiworldexplore (pixabay)
