O Tribunal Superior Eleitoral (TSE) reafirmou a proibição do uso de deepfakes nas campanhas eleitorais, mas trouxe à tona uma discussão crucial: a necessidade de um padrão de realismo para que essas produções sejam consideradas ilícitas. Especialistas em tecnologia, como os da OpenAI e da Meta, alertaram para o avanço acelerado da inteligência artificial, que torna cada vez mais desafiador distinguir conteúdos falsificados de mídias autênticas.
Durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, os especialistas destacaram a complexidade que os deepfakes representam, principalmente em processos judiciais. Shira Anderson, consultora da OpenAI, afirmou que as imagens geradas por IA estão se tornando tão sofisticadas que, no futuro, pode não haver métodos científicos eficazes para detectá-las.
Os debates iniciados em 2023 visam estabelecer diretrizes sobre como verificar a autenticidade de materiais suspeitos de serem deepfakes. Embora a preocupação com esse fenômeno seja crescente, o uso de deepfakes nos tribunais americanos ainda é limitado. Um levantamento realizado pelo Centro Federal do Judiciário revelou que apenas 15 dos 931 juízes consultados se depararam com casos onde a autenticidade das provas foi contestada por suspeitas de manipulação por IA.
O juiz federal Jesse Furman, que preside o comitê, observou que, apesar das previsões de que os tribunais enfrentarão uma onda de casos envolvendo deepfakes, a realidade ainda não refletiu esse cenário. Contudo, especialistas apontam que o risco é real e crescente, com a dificuldade de identificação de provas fabricadas se tornando uma preocupação legítima.
Devin Norder, da Meta, ressaltou que os conteúdos gerados por IA avançada podem ser quase indistinguíveis das produções genuínas. Além disso, a produção desses materiais requer investimentos mínimos de tempo e recursos. Para mitigar esses riscos, OpenAI e Meta estão desenvolvendo ferramentas para autenticar conteúdos, mas as limitações permanecem.
Em resposta a essa crescente preocupação, novas legislações na Califórnia e na União Europeia passaram a exigir a utilização de marcas-d’água para identificar e rastrear a origem de conteúdos gerados por IA. Apesar disso, Anderson alertou que não há um método infalível para garantir a identificação correta de todas as marcas, uma vez que cada empresa aplica sistemas distintos. “Acredito que essa situação continuará a evoluir, mas a prova de falhas ainda é uma utopia”, concluiu.
Crédito da imagem: Foto: Pixabay — dangquangn (pixabay)
