Deepfakes e IA: A Nova Fronteira da Violência contra Mulheres
A ascensão da inteligência artificial (IA) trouxe avanços significativos em diversos setores. Contudo, seu uso indevido tem revelado facetas alarmantes, especialmente no que tange à violência digital contra mulheres. Uma manifestação particularmente nociva é a criação de deepfakes, que são mídias falsificadas utilizando IA para falsear rostos em corpos ou alterar falas em vídeos, tornando difícil distinguir entre o real e o fabricado.
O deepfake, técnica de IA, inicialmente desenvolvida para aprimorar efeitos visuais na indústria do entretenimento, rapidamente foi cooptada para fins maliciosos. Mulheres, especialmente aquelas em posições públicas como políticas, jornalistas e ativistas, tornaram-se alvos frequentes dessa tecnologia. O objetivo é claro: descredibilizar, humilhar e silenciar vozes femininas por meio da disseminação de conteúdos difamatórios, sobretudo sexuais.
A preocupação com conteúdos falseados na internet cresce, à medida em que se observa que as notícias consideradas falsas são mais facilmente disseminadas na internet que as verdadeiras. Um estudo realizado pelo Instituto de Tecnologia de Massachusetts (MIT) ao analisar postagens realizadas na rede social Twitter (atual X) entre 2006 e 2017, verificou que os conteúdos falsos têm 70% mais chances de serem compartilhados do que os verdadeiros e possuem um alcance muito maior. Enquanto os conteúdos verdadeiros em geral chegam a 1.000 pessoas, as principais mensagens falsas são lidas por até 100.000 pessoas. Dessa forma, os deepfakes podem ser grandes aliadas para a desinformação e, portanto, representam grande preocupação na dimensão social da liberdade de expressão e descredibilização de pessoas e instituições.
Um exemplo emblemático ocorreu no México, onde a senadora Andrea Chávez foi vítima de uma imagem falsificada de conteúdo sexual criada com IA. Este incidente destacou a urgência de regulamentar ferramentas de IA para prevenir a violência digital contra mulheres e garantir justiça às vítimas.
No Brasil, a deputada federal Tabata Amaral teve suas imagens manipuladas e fotografias falsas geradas por IA, que circularam nas redes sociais e mostravam a candidata à Prefeitura de São Paulo, em poses sensuais.
Na Coreia do Sul, mulheres têm enfrentado uma epidemia de crimes digitais, com registro de 297 casos de crimes sexuais envolvendo deepfakes investigados nos primeiros oito meses de 2024, a maioria envolvendo adolescentes, representando um aumento significativo em relação aos anos anteriores. Esses crimes têm levado muitas mulheres a se retirarem das redes sociais, evidenciando o impacto devastador na liberdade e na participação feminina no espaço digital.
As consequências para as vítimas de deepfakes - pessoas públicas ou não - são devastadoras. O dano emocional é profundo, afetando a saúde mental e a reputação social das mulheres envolvidas. Muitas enfrentam ansiedade, depressão e, em casos extremos, afastamento de suas atividades profissionais ou sociais devido ao estigma associado ao conteúdo falseado.
A IA, embora traga benefícios significativos e promova eficiência em diversos setores, apresenta riscos quando utilizada de forma indevida. Dentre esses riscos, portanto, destaca-se o potencial de amplificação das formas de violência de gênero no ambiente digital. Os deepfakes representam uma ameaça real e crescente à integridade, dignidade e segurança das mulheres, nesse sentido. É imperativo, portanto, que a promoção de um ambiente de colaboração multissetorial que contemple membros da sociedade civil, legisladores, plataformas digitais, entidades do terceiro setor e educadores e gere esforços mútuos para combater essa forma de violência, garantindo o desenvolvimento de politicas públicas e regulamentações que assegurem uma implementação ética da IA, mitigando seus impactos negativos e promovendo um ambiente digital que promova concomitantemente a inovação tecnológica, responsabilidade ética e proteção aos direitos humanos.
*Christine Albani é advogada e especialista em Direito Digital
*Os artigos reproduzidos neste espaço não representam, necessariamente, a opinião do Bahia Notícias