O Tribunal Superior Eleitoral (TSE) reafirmou sua posição contra o uso de deepfakes nas campanhas eleitorais, mas estabelece que, para que um conteúdo digital seja considerado ilícito, é necessário que ele seja enganoso de forma realista. Essa decisão surge em um contexto de crescente preocupação com as tecnologias de inteligência artificial, que têm tornado a criação de vídeos e áudios falsificados cada vez mais sofisticada e difícil de detectar.
Durante uma reunião em Boston, especialistas da OpenAI e da Meta alertaram que a evolução da IA generativa tem elevado o nível de dificuldade na distinção entre conteúdos autênticos e falsificados. A tecnologia, que permite a produção de mídias a partir de comandos simples, levanta um desafio significativo para a verificação de provas em tribunais, especialmente nos Estados Unidos.
O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que se debruça sobre essa questão há três anos, discute estratégias para garantir que materiais gerados por IA atendam aos mesmos critérios rigorosos de confiabilidade que são exigidos de provas convencionais. Apesar da gravidade do tema, a prática ainda é incipiente nos tribunais americanos, com poucos casos registrados até o momento.
O juiz Jesse Furman, que preside o comitê, ressalta que, embora existam muitas previsões acadêmicas sobre a futura prevalência de deepfakes nos tribunais, a realidade atual ainda apresenta um cenário relativamente calmo. Somente 15 dos 931 juízes que participaram de uma pesquisa relataram ter lidado com casos em que a validade de uma prova foi questionada por suspeitas de que era um deepfake.
Entretanto, especialistas do setor e do governo afirmam que o risco é palpável e que, à medida que a tecnologia avança, a identificação de provas fabricadas se tornará cada vez mais complexa. Devin Norder, da Meta, destacou que os modelos de IA mais recentes produzem conteúdos que podem ser indistinguíveis dos originais, tanto para humanos quanto para sistemas de detecção, além de serem gerados de forma rápida e com custos reduzidos.
Para mitigar esses riscos, novas legislações na Califórnia e na União Europeia estão implementando a exigência de marcas d’água em conteúdos digitais, que visam indicar a origem e facilitar a identificação de materiais falsificados. No entanto, Shira Anderson, da OpenAI, advertiu que não existe um método universal que garanta a identificação precisa de todas as marcas ou a veracidade do conteúdo visual, reforçando a ideia de que a luta contra deepfakes é um campo em constante evolução e repleto de desafios.
Crédito da imagem: Foto: Pixabay — PublicDomainPictures (pixabay)
