Em maio de 2025, a Secretaria de Políticas Digitais da Secretaria de Comunicação Social da Presidência da República institui Grupo de Trabalho (GT) encarregado de “identificar riscos e impactos da produção e disseminação de conteúdo sintético do tipo deepfakes aos direitos fundamentais e à proteção do patrimônio dos cidadãos e ao erário público”, “realizar estudos técnicos acerca das possíveis medidas adotadas quanto ao fenômeno de produção e disseminação de deepfakes no Brasil e no exterior”, e “recomendar diretrizes para a construção de políticas para contornar possíveis impactos danosos”.
O relatório, fruto do GT sobre deepfakes, contou com a participação de Tarcizio Silva, Coordenador de Produção de Conhecimento e Incidência na Desvelar, e Fernanda Rodrigues, ambos autores do livro “Enfrentando Deepfakes“, que integraram o grupo como especialistas. O GT concentrou “esforços especificamente em desenvolver recomendações que pudessem ser incorporadas ao” projeto de lei 2338/2023, o Marco Legal da Inteligência Artificial, que atualmente está em discussão na Câmara dos Deputados. A redação do PL 2338/2023, anteriormente aprovada pelo Senado Federal, não continha dispositivos específicos para lidar com o fenômeno das deepfakes, que mimetizam a realidade a ponto de ser impossível para a maioria das pessoa identificar sua fonte sintética.
Ao referenciar o trabalho de pesquisadoras que colaboram com a Desvelar, o relatório apresenta “uma discussão das problemáticas, indicação e posicionamento do Grupo de Trabalho e a proposta final adotada pela Secretaria de Políticas Digitais, a partir das discussões realizadas, em diálogo com os demais ministérios envolvidos na avaliação da matéria, bem como com a Casa Civil e a Secretaria de Relações Institucionais da Presidência da República”.
Conheça as autoras
Glenda Dantas é baiana e graduada em Comunicação Social pela UFBA. Ela é mestranda em Comunicação e Culturas Contemporâneas e alumni da Escola Governança da Internet do Brasil. Mulher negra do nordeste do Brasil, ela é jornalista e pesquisadora no Aláfia Lab, com trajetória em estudos de tecnologias digitais, raça, gênero e ativismos digitais.
O relatório da Presidência da República destaca o artigo “Racismo recreativo de hoje“, de Glenda Dantas. Ao mencionar o racismo no Brasil, o documento aponta como a produção de deepfakes contra pessoas racializadas pode reforçar estereótipos negativos. Assim conteúdos racistas podem ser produzidos em larga escala, com aparência de veracidade e grande capacidade disseminação.
O relatório cita o artigo da pesquisadora ao destacar como “o uso de deepfakes tem sido operacionalizado sobretudo contra personalidades que se posicionam contra o racismo, a exemplo do uso da tecnologia contra o jogar Vini Junior”. Em seu trabalho, Glenda argumentara que:
“No Brasil circulam memes racistas envolvendo jogadores de futebol. Com o aumento da visibilidade de Vinicius Jr. tanto como atleta de destaque quanto como símbolo na luta contra o racismo, especialmente após os inúmeros episódios de violência racial sofridos durante partidas na Europa, sua imagem passou a ser amplamente explorada nas redes sociais, inclusive de forma ofensiva.”
Enquanto membra do GT, o trabalho da Doutoranda em Ciência, Tecnologia e Novas Fronteiras do Direito na Universidade Federal de Minas Gerais (UFMG), Fernanda Rodrigues também é mencionado pelo relatório. O debate é centrado a partir das mulheres e violência de gênero no contexto político-eleitoral, bem como, a preponderância de deepnudes contra pessoas do gênero feminino, que supera 90%. O documento cita o artigo “Retratos da objetificação de mulheres negras“.
Com base nos achados da pesquisadora, o documento argumenta que “o anúncio de ferramentas de geração de deepnudes é prática comum em buscadores, fragilizando sobre mulheres de grupos minorizados”. Através das lentes do feminismo negro, Fernanda documenta que:
“Ao visitar alguns desses sites, há sugestões de prompts para que os usuários possam explorar melhor o sistema de IA. Foi possível encontrar, por exemplo, frases como ‘Uma mulher de pele negra em lingerie de renda com um lago como fundo, tranças, e ancas largas’ — a IA fará o resto! A tua imagem ideal está a poucos passos de distância”, ressaltando percepções estereotipadas e sexualizadas sobre mulheres negras”
Por fim, ao discutir a violência política contra mulheres, é afirmado através do relatório que “são numerosos os casos de uso de IA generativa para produzir materiais que atacam diretamente candidatas mulheres e jornalistas, o que intimidá-las e afastá-las da vida pública e política”, quando menciona-se o artigo de Laura Pereira.
Em “A banalização do sintético“, a pesquisadora argumenta que:
“ao menos cinco casos de deepnudes foram reportados no Brasil no 1º turno das eleições de 2024 […]. Nesses materiais, não estava em cheque o alcance do nível de qualidade técnica para gerar veracidade, embora esse convencimento sempre possa ocorrer, mas a própria atribuição da difamação que é característica da circulação não consensual de imagens íntimas de mulheres, verdadeiras ou fabricadas”
Além das autoras acima, outras 27 pessoas pesquisadoras escreveram sobre temas diversos relacionados à inteligência artificial, conteúdos sintéticos e deepfakes. Você pode conhecer o conteúdo completo através do site da Desvelar, que oferece olhares afrodiaspóricos sobre tecnologias, bem como, promove pesquisa aplicada e avaliação de políticas públicas.
Acesse o relatório completo
O relatório completo está disponível na página da Secretaria de Políticas Digitais e consolida algumas posições do Governo Federal acerca do tema. Exemplo disso é a decisão de pautar a inserção de conceito específico no PL 2338/2023. Como o conceito de conteúdo sintético é mais amplo e abarcaria as deepfakes, o relatório defende “não incluir novo inciso com definição de deepfakes”. Esta posição foi “escolhida pela Secretaria de Políticas Digitais para orientar sua posição nos diálogos interministeriais porque implicaria em menor interferência em texto já aprovado no Senado Federal”.
Ao tratar da proteção de pessoas naturais, o relatório defende que ao “gerar conteúdo sintético que se assemelhe a imagem de pessoa, o desenvolvedor deve incluir no identificador informação sobre o consentimento da pessoa, de seus herdeiros ou sucessores para a geração da imagem”, exceto quando o “conteúdo sintético for gerado para fins de sátira ou paródia ou para finalidades críticas ou humorísticas”.
Especificamente nos casos de deepnudes, “a Secretaria de Políticas Digitais considera importante que, para a geração de conteúdo sintético que retrate pessoa natural em cenas de nudez ou de atos sexuais, os desenvolvedores de aplicações devam exigir ainda, o consentimento, livre, expresso e informado da pessoa retratada, bem como a identificação do responsável legal pelo conteúdo gerado e garantir a possibilidade de revogação do consentimento, nos termos do regulamento”.
Deixe um comentário