Durante o Fórum da Internet no Brasil, em Salvador, lançamos a primeira edição de “Enfrentando Deepfakes”. Desde então, mais desafios se apresentarem e uma nova edição revista e ampliada é necessária. Este trabalho foi construído a partir de colaborações da Rede Negra de Direitos Digitais e Tecnologias, formada por mais de 80 pesquisadores negros do Brasil, e a Coalizão Tecnopolíticas Pan-Amazônicas.

UMA SEGUNDA EDIÇÃO

Hoje enfrentamos coletivamente novos desafios diante das deepfakes. Talvez o alerta mais estridente do que estava por vir tenha sido feito há quase uma década, quando um vídeo de menos de 90 segundos exibia o ex-presidente estadunidense Barack Obama criticando o primeiro mandato de Donald Trump e alertava sobre os desafios da política — ao final, revelava-se, como um conteúdo sintético, produzido pelo diretor de “Corra!”, Jordan Peele.

Através de serviço de Inteligência Artificial Generativa (IAGen), o Grok AI, milhares de usuários da plataforma X puderam exercer violência sexual ao criar deepnudes a partir de fotos reais, sem nenhum controle. Nos últimos anos, testemunhamos como as big techs vêm esgarçando os limites do que é aceitável ou não, testando a capacidade de regulação dos estados nacionais, consumindo a autonomia das comunidades ao redor do mundo e dissolvendo conceitos como soberania.

Nossas práticas coletivas envolvem reconhecer e rejeitar o colonialismo interno. As concentrações regionais que levam a falsas universalizações prejudicam a pluralidade e a diversidade epistêmica que caracterizam o país.

Em reação à reprodução de dinâmicas coloniais internas no Brasil, as autoras e autores aqui são provenientes de diferentes setores e de todas as regiões do país. Dessa forma, 2/3 das pessoas autoras são do Norte e Nordeste do país a partir de estados como Acre, Bahia, Ceará, Rondônia, Rio Grande do Norte, Pará e Pernambuco.

O problema das deepfakes, como a pessoa leitora poderá notar ao longo dos 30 capítulos, não se trata de avanços técnicos que permitiram alcançar a fidelidade fotográfica das simulações, mas sim as premissas e objetivos de quem concentra poder.

ENFRENTANDO DEEPFAKES

A ordem dos capítulos é deliberada para agrupar reflexões e propostas que se conectam em tema, disciplina ou problema. Do capítulo 01 ao 08, autoras tratam do papel das relações de gênero e do machismo no estabelecimento deste panorama distópico que observamos em torno de deepnudes e modos de objetificação das mulheres. Do capítulo 09 ao 12 o foco está no combate ao racismo algorítmico e alternativas de resistência. Os capítulos 14 e 15 tratam da idade a partir de seus dois extremos: infância e idosidade, incluindo uma autora nonagenária. Os capítulos 16 e 17 se debruçam sobre a conexão entre IAGen, golpes e o nocivo mercado de apostas. Finalmente, do capítulo 18 em diante, temos diferentes olhares políticos, jurídicos e sociais sobre as ameaças à integridade informacional, em especial seus impactos à democracia e às eleições.

1. ARMAS DE GÊNERO, por Ana Gabriela Ferreira
2. RETRATOS DA OBJETIFICAÇÃO DE MULHERES NEGRAS, por Fernanda Rodrigues
3. NÃO ERA EU, MAS ERA MEU CORPO, por Luize Ribeiro e Jeiel de Santana Barbosa
4. A CASA DO MACHISMO EM ALTA RESOLUÇÃO, por Wilson Guilherme
5. A CULTURA DA MISOGINIA, por Luana Batista
6. MANDACARU FULORA CONTRA CSAM, Nirvana Lima
7. UM HIATO DE GÊNERO NA IA, Tarcizio Silva
8. O CONTROLE DE NOSSOS CORPOS E O DIREITO DE IMAGEM, por Mariana Lopes
9. AS ESCOLAS E O ENSINO, por Gustavo Souza
10. PRETUGUÊS: O ALGORITMO DO FUTURO, por Juliane Cintra
11. RACISMO RECREATIVO DE HOJE, por Glenda Dantas
12. AQUILOMBAMENTO DIGITAL À LUZ DO PENSAR NAGÔ, por Boni Sobrinho
13. CIBER-RESISTÊNCIA NEGRA E AMOR POLÍTICO, por Gabriela de Almeida
14. CULTURA DE ENTRETENIMENTO INFANTIL, por Diego Abreu
15. POR UMA ÓTICA NONAGENÁRIA, por Arnaldo Santana, Luana B. e Eurides de Santana
16. MONETIZAÇÃO: QUANTO VALE OU É POR QUILO?, por Johanna Monagreda
17. A DEEPFAKE DE CONSUMO, UMA TENDÊNCIA, por Terezinha Brito
18. DEEPFAKES E BETS NO COLAPSO DA VERDADE, por Lucio Gimenes
19. EFEITOS E ESTRATÉGIAS DE MITIGAÇÃO, por Júlia Caldeira
20. ENTRE A PREVENÇÃO E A DETECÇÃO, por Lauro Accioly
21. MUITO ALÉM DE UM VÍDEO FALSO, por Ana Camelo
22. ELEIÇÕES NA ERA SINTÉTICA, por Tainá Junquilho
23. A BANALIZAÇÃO DO SINTÉTICO, por Laura Pereira
24. A IMPLOSÃO DA CONFIANÇA NO QUE VEMOS E OUVIMOS, por Germano Neto
25. UMA FACA DE DOIS GUMES, por Carol Magalhães
26. IMPACTOS NA COMUNICAÇÃO POLÍTICA, por Mariana Brasil
27. A MEMÓRIA PÓSTUMA, por Igor Silva
28. CONTROLE POLÍTICO-SOCIAL, por Bianca Galvão Marques
29. ASCENSÃO DO FALSO, por Thiago Moraes
30. MOÇA DO TÁXI, por Thiane Neves

CONTRIBUA COM A DESVELAR

A Desvelar oferece olhares afrodiaspóricos sobre tecnologias, bem como, promove pesquisa aplicada e avaliação de políticas públicas. O livro “Enfrentando Deepfakes” é parte deste esforço. Queremos garantir que a publicação chegue aos tomadores de decisão e impacte as discussões regulação da inteligência artificial no Brasil e no Sul Global.

Com apenas R$25, você pode contribuir com a Desvelar para um futuro com controle social e democrático da tecnologia, seus imaginários e políticas. O QR Code não funciona para você? A chave pix para doações é 4b1f833f-f4a0-4738-8504-b5a4d45ef48b.

Este trabalho é feito para garantir que ativistas, pesquisadores e tecnologistas de grupos historicamente vulnerabilizados superem barreiras discriminatórias à participação nos espaços de decisão, formulação e desenvolvimento de tecnologias.