EMAILS PARLAMENTARES (É SÓ COPIAR):
dep.luisacanziani@camara.leg.br, dep.adrianaventura@camara.leg.br, dep.reginaldolopes@camara.leg.br, dep.gustavogayer@camara.leg.br, dep.aguinaldoribeiro@camara.leg.br, dep.biakicis@camara.leg.br, dep.camilajara@camara.leg.br, dep.jandirafeghali@camara.leg.br, dep.zecadirceu@camara.leg.br, dep.erikahilton@camara.leg.br, dep.fernandamelchionna@camara.leg.br, dep.luiziannelins@camara.leg.br , dep.luiziannelins@camara.leg.br, dep.lucasramos@camara.leg.br, pl2338@desvelar.org, dep.vitorlippi@camara.leg.br
SUGESTÃO DE TÍTULO:
Melhoria e aprovação do PL 2338 contra o racismo algorítmico
CORPO DO EMAIL (copie para seu email e preencha com seu nome e outras informações que desejar):
Prezadas/os parlamentares da Comissão Especial de Inteligência Artificial,
Me chamo ____________________ e sou uma pessoa pesquisadora atualmente no VI Colóquio Raça e Interseccionalidade e I Seminário Internacional do INCT Antirracismo. Como cidadã/o brasileira/o e eleitor/a, envio este email para demandar que o PL 2338 seja aprovado com mecanismos de defesa sobre o racismo algorítmico, que prejudica minorias étnico-raciais no Brasil.
A discriminação racial algorítmica tem sido identificada e denunciada há mais de dez anos em torno do mundo nas mas diversas áreas: segurança pública, saúde, educação, crédito, comunicação e mais. O Brasil, signatário da Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância e referência global em políticas antidiscriminatórias deve agir contra o problema e o aspecto legislativo está em suas mãos.
As recomendações a seguir são essenciais e são baseadas ou replicam recomendações presentes na literatura científica, em recomendações das Nações Unidas, na Convenção Interamericana contra o Racismo e de entidades como Desvelar, Associação Brasileira de ONGS, Coalizão Tecnopoliticas Pan-Amazônicas, Coalizão Direitos na Rede e Comitê de Tecnologia da Marcha das Mulheres Negras:
- Atenção devida ao combate e à pesquisa sobre discriminação racial em todas suas formas: o enfrentamento ao racismo algorítmico deve ser o cerne do processo regulatório. A atual versão do PL 2338 está desalinhada, portanto, às prerrogativas estabelecidas na Convenção Interamericana contra o Racismo, considerando que desidrata mecanismos de controle social sobre os sistemas algorítmicos em um panorama internacional que já reconhece os danos do racismo algorítmico;
- Participação social e de grupos impactados em todo o ciclo de vida das I.A.de alto risco: mecanismos efetivos de controle social são a base de uma governança democrática;
- Revisão do artigo que estabelece que o “agente de IA poderá realizar avaliação preliminar para determinar o grau de risco do sistema” — atividade considerada apenas como indicadora de boas práticas. Assim, o projeto de lei coloca de forma facultativa e sob responsabilidade do próprio agente desenvolvedor a avaliação do nível de risco da tecnologia, abrindo a possibilidade de descumprimento de obrigações posteriores. A avaliação preliminar deve ser obrigatória, transparente e participativa;
- Os mecanismos de avaliação, contestação e reparação devem observar as tecnologias de forma sistêmica e, portanto, a linguagem do projeto de lei deve evitar ressalvas que fragilizam a responsabilização dos agentes. Um exemplo é o trecho de artigo que estabelece a obrigação de “medidas para mitigar e prevenir vieses discriminatórios” apenas “quando o risco à discriminação decorrer da aplicação do sistema de IA”. a ressalva pode isentar impactos que não restrinjam a possibilidade apenas à decisão de aplicação, mas se relacionem a outras etapas do ciclo de vida, como estabelecimento de objetivos, construção dos modelos, escolha de dados ou negligências ligadas a estes fatores ainda antes da aplicação;
- Retirada do trecho ““os direitos previstos nesta Seção serão implementados considerando o estado da arte do desenvolvimento tecnológico” e equivalentes. Considerando implementações de risco alto ou superior, deve ser aceitável apenas que sistemas capazes de escrutínio para o exercício do direito à revisão sejam disponibilizados à sociedade;
- Inclusão explícita das Organizações da Sociedade Civil no Sistema Nacional de Regulação e Governança da Inteligência Artificial (SIA) e no Conselho de Cooperação Regulatória Permanente (CRIA), assim como multidisciplinaridade no Comitê de Especialistas e Cientistas de Inteligência Artifical (CECIA);
- Inclusão de mecanismos de ações afirmativas para justiça tecnológica no trabalho. Estabelecer mecanismos para acesso real a empregos no setor tecnológico, com condições de trabalho justas e o fim do racismo estrutural em empresas, universidades, serviços públicos e em todos os espaços onde se define o rumo da tecnologia;
- Reconhecimento de que a Amazônia brasileira é predominantemente indígena e negra, cujos movimentos contribuem significativamente para as lutas e para conquistas de direitos, sendo a comunicação um direito inquestionável, violar este direito e manter a po pulação amazônica alijada das decisões sobre as políticas e direitos digitais, é mais um forte indício de racismo ambiental;
- Explicitar o direito de decidir sobre o uso de tecnologias que impactam nossos territórios e ecossistemas. As comunidades afetadas devem ser protagonistas nos debates sobre infraestrutura digital, impactos ambientais, riscos e vulnerabilidades climáticas, assim como desenvolvimento tecnológico;
- Estabelecer na regulação de I.A. parâmetros mais rigorosos de transparência e auditabilidade através de compras públicas. O Sistema Nacional de Regulação e Governança de Inteligência Artificial deve possuir, entre suas atribuições, garantir que a contratação de sistemas de I.A. por entes públicos atinja níveis excelentes de transparência e gere informações contínuas sobre impactos e mitigação de possíveis danos diretos ou especulativos;
- Adoção da abordagem de confiança zero na formulação e avaliações de propostas legislativas, reconhecendo que os serviços das big tech tornaram-se quase sinônimo de racismo algorítmico devido a convergência de práticas de colonialismo, exploração e acumulação que se interseccionam com opressões de raça, gênero, território, classe e outras;
- Inclusão das seguintes implementações na categoria de riscos inaceitáveis, portanto proibidas: a) sistemas de identificação biométrica à distância, incluindo reconhecimento facial e similares; b) sistemas de reconhecimento de emoções ou personalidade; c) sistemas preditivos na segurança pública e privada, incluindo policiamento preditivo ou similares; d) armas autônomas ou semi-autônomas.
Documentos – Relatoria Especial das Nações Unidas sobre Formas Contemporâneas de Racismo
ACHIUME, E. Tendayi. Racial discrimination and emerging digital technologies: a human rights analysis. United Nations Office of the High Commissioner for Human Rights. https://undocs. org/en/A/HRC/44/57, 2020.
ASHWINI, K. P. Report of the Special Rapporteur on contemporary forms of racism, racial discrimination, xenophobia and related intolerance, A/HRC/56/68, 2024.
Bibliografia Acadêmica Brasileira sobre Racismo Algorítmico
A lista de trabalhos abaixo é produção de ponta de pesquisadoras/es brasileira/os, publicados tanto em português quanto inglês. A lista não é exaustiva, há ainda mais pesquisas sobre o tema, devido à relevância do problema. São trabalhos multidisciplinares do Direito, Computação, Engenharia, Comunicação, Linguística, Sociologia e outras áreas.
ALVES, M.; SILVA, F.; LOPES, M. A questão negra na regulação das plataformas digitais: uma análise da consulta realizada pelo CGI.br. Revista poliTICs, 40, 2025.
ARAÚJO, Júlio. Necroalgoritmização: notas para definir o racismo algorítmico. Campinas-SP: Mercado de Letras, 2025.
ARAÚJO, Júlio. Instâncias textuais do racismo algorítmico. Redis: Revista de Estudos do Discurso, n. 17, p. 18-57, 2025.
ARAÚJO, Taiwô Prudêncio. Racismo algorítmico e seu impacto em influenciadores digitais negros no Instagram, Twitter e TikTok. 2022.
ARYAN, Fardin; VALENÇA, Lucas; DE SOUZA SANTOS, Ronnie. Exploring Fairness Debt Through Evidence from Studies on Algorithmic Discrimination. In: 2025 IEEE/ACM International Conference on Technical Debt (TechDebt). IEEE, 2025. p. 34-39.
BARROS, Luana; CHAVES, Levy; AVILA, Sandra. Assessing the generalizability of deep neural networks-based models for black skin lesions. In: Iberoamerican Congress on Pattern Recognition. Cham: Springer Nature Switzerland, 2023. p. 1-14.
BEZERRA, Arthur Coelho; DA COSTA, Camila Mattos. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em revista, v. 18, n. 2, p. e6043, 2022.
BONIL, Gustavo et al. Yet another algorithmic bias: A discursive analysis of large language models reinforcing dominant discourses on gender and race. arXiv preprint arXiv:2508.10304, 2025.
BONIL, Gustavo et al. Clustering discourses: Racial biases in short stories about women generated by large language models. arXiv preprint arXiv:2509.02834, 2025.
BOTELHO, Jessica; GOMES, Allan. Carta de Recomendações para Políticas Digitais na Amazônia. Coalizão Tecnopolíticas Pan-Amazônicas. Disponível em: https://cpa.org.br/wp-content/uploads/2024/05/Carta-de-Recomendacoes-para-Politicas-Digitais-na-Amazonia.pdf
CARRERA, Fernanda; CARVALHO, Denise. Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia (São Paulo), p. 99-114, 2020.
CINTRA, J.; SOUZA, G.; SILVA, T. iFood e o racismo algorítmico… dos outros. Le Monde Diplomatique Brasil, 10 Set. 2025.
COLÓQUIO Raça e Interseccionalidade. Caderno de Resumos. INCT Antirracismo. UNESP, Franca, 2026.
COSTA, Ramon Silva; KREMER, Bianca. Inteligência artificial e discriminação: desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial. Revista Brasileira de Direitos Fundamentais & Justiça, v. 16, n. 1, 2022.
DE MELO, Gustavo Boudoux. A intersecção entre o processo de colonialidade digital, racismo algorítmico e o capitalismo informacional nas plataformas e redes sociais. Direito & TI, v. 1, n. 22, p. 1-14, 2026.
DO AMARAL, Augusto Jobim; MARTINS, Fernanda; ELESBÃO, Ana Clara. Racismo algorítmico: uma análise da branquitude nos bancos de imagens digitais. Pensar-Revista de Ciências Jurídicas, v. 26, n. 4, 2021.
FÉLIX, Maria Alice Silva Santos. O racismo algorítmico como expressão do colonialismo digital:: extração de dados, controle da informação e trabalho no capitalismo de plataforma. Cadernos NAUI, v. 14, n. 27, p. 222-247, 2025.
FERRAZ, Mariolinda Rosa Romera. Racismo algorítmico: a inteligência artificial e a (in) visibilização dos povos indígenas. Revista Linguagem em Foco, v. 17, n. 3, p. 268-290, 2025.
JACQUES, Janderson Pereira. Onde estão as pessoas negras na for you?: racismo algorítmico e a disputa por visibilidade no TikTok. 2025.
KREMER, Bianca. Racismo algorítmico. Racismo algorítmico. CECEC, 2023.
LIMA, Dulcilei C.; OLIVEIRA, Taís. Negras in tech: Apropriação de tecnologias por mulheres negras como estratégias de resistência. Cadernos pagu, p. e205906, 2020.
LIMA, Bruna Dias Fernandes. Racismo algorítmico: o enviesamento tecnológico e o impacto aos direitos fundamentais no Brasil. 2022.
LIMA, Brunno Ewerton de Magalhães; LIMA, Carla Fernanda de. Racismo algorítmico: vivências e percepções de influenciadores(as) digitais negros(as). Revista África e Africanidades, ano 16, ed. 47-48, ago./nov. 2023.
LIPPOLD, Walter; FAUSTINO, Deivison. Colonialismo digital. Boitempo Editorial, 2022.
LÔBO, Edilene; OLIVEIRA, Núbia Franco de. Direitos fundamentais e inteligência artificial: reflexões sobre os impactos das decisões automatizadas. 2023.
MELO, Paulo Victor; SERRA, Paulo. Facial recognition technology and public security in brazilian capitals: Issues and problematizations. Comunicação e sociedade, n. 42, p. 205-220, 2022.
MONAGREDA, Johanna K. Por que falar de raça quando falamos de dados pessoais, inteligência artificial e algoritmos?. In: GONÇALVES, A.; TORRE, L.; MELO, P.V. (orgs). Inteligência Artificial e Algoritmos: Desafios e oportunidades para os media. Covilhã: Labcom, 2024.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: REDE de Observatórios da Segurança (org.). Retratos da Violência: cinco meses de monitoramento, análises e descobertas. Centro de Estudos de Segurança e Cidadania. 2019.
PORTO, Lorena. Discriminação algorítmica no trabalho digital. Revista de Direitos Humanos e Desenvolvimentos Social, 2020.
RAMIRO, André; CRUZ, Luã. The grey-zones of public-private surveillance: Policy tendencies of facial recognition for public security in Brazilian cities. Internet Policy Review, v. 12, n. 1, p. 1-28, 2023.
ROCHA, Heloisa Rodrigues. Regulação da inteligência artificial generativa e racismo algorítmico no reconhecimento facial. Editora Dialética, 2025.
RODRIGUES, Jeferson Vinicius; BERNARDI, Renato. Racismo algorítmico: tecnologia como obstáculo da emancipação econômica e digital igualitária, e em contraposição aos direitos fundamentais das pessoas negras. Revista de Direitos Humanos e Desenvolvimento Social, v. 5, 2024.
ROSA, Cássia. Investigando Racismo Algorítmico na Detecção de Discurso de Ódio no Português do Brasil. Dissertação apresentada ao Programa de Pós-Graduação em Ciência da Computação, Universidade Federal de Mato Grosso, 2025.
RUBACK, Lívia; AVILA, Sandra; CANTERO, Lucia. Vieses no aprendizado de máquina e suas implicaçoes sociais: Um estudo de caso no reconhecimento facial. In: Workshop sobre as Implicações da Computação na Sociedade (WICS). SBC, 2021. p. 90-101.
RUBACK, Lívia; CARVALHO, Denise; AVILA, Sandra. Mitigando vieses no aprendizado de máquina: uma análise sociotécnica. iSys-Brazilian Journal of Information Systems, v. 15, n. 1, p. 23: 1-23: 31, 2022.
SANTOS, Ronnie De Souza; DE LIMA, Luiz Fernando; MAGALHAES, Cleyton. The perspective of software professionals on algorithmic racism. In: 2023 ACM/IEEE International Symposium on Empirical Software Engineering and Measurement (ESEM). IEEE, 2023. p. 1-10.
SILVA, Fernanda dos Santos Rodrigues. “Nada mais sobre nós sem nós”. Escurecendo o Debate sobre a Regulação de IA no Brasil e Pensando Mecanismos de Combate ao Racismo Algorítmico. Relatório de Pesquisa do Programa Líderes LACNIC, 2023.
SILVA, Jamelly Nascimento; VALENÇA, George; FALCAO, Taciana Pontual. Racismo Algorítmico no Desenvolvimento de Software: um Estudo de Caso sobre Letramento Racial no Ensino Superior. In: Simpósio Brasileiro de Informática na Educação (SBIE). SBC, 2024. p. 2403-2416.
SILVA, Vanessa Maria Gomes da; BRASILEIRO, Fellipe Sá. Comunicação de crise na perspectiva da resiliência informacional: posicionamentos das big techs após escândalos de racismo algorítmico. Galáxia (São Paulo), v. 49, p. e66903, 2024.
SILVA, Tarcizio. Racismo Algorítmico: inteligência artificial e discriminação em redes digitais. São Paulo: Edições Sesc, 2022.
SILVA, Tarcizio (org.). Inteligência Artificial Generativa: discriminação e impactos sociais. São Paulo: Desvelar, 2025.
SOARES, Joyce. Vieses da Branquitude como um Instrumento de Embelezamento: efeitos e filtros nas redes sociais. Trabalho de Conclusão de Curso. Graduação em Design. Rio de Janeiro: PUC-Rio, 2020.
SOUZA, Gustavo; SILVA, Tarcizio. Enfrentando Deepfakes, 2a edição. Desvelar, 2026.
THAMARA, Ariel. Como os vieses raciais no Instagram impactam na vida de criadores de conteúdo negros? In: CUSTÓDIO, Leonardo et al (orgs.). Práticas de comunicação antirracista no Brasil. 1 ed. Rio de Janeiro: Criola, 2023.
TRINDADE, Luiz Valério P. Mídias sociais e a naturalização de discursos racistas no Brasil. Comunidades, Algoritmos E Ativismos Digitais, p. 26, 2020.
TRINDADE, Luiz Valério P. Hate speech and abusive behaviour on social media: A cross-cultural perspective. Vernon Press, 2024.
VILARINO, Ramon; VICENTE, Renato. An experiment on the mechanisms of racial bias in ML-based credit scoring in Brazil. arXiv preprint arXiv:2011.09865, 2020.