Abordagem de Confiança Zero sobre Plataformas Digitais e Big Techs

Contribuição da Desvelar ao Eixo 7: Responsabilização das plataformas da Consulta Pública “Combate ao Racismo nas Plataformas Digitais“, componente do Plano de Comunicação pela Igualdade Racial na Administração Pública Federal.

Recomendamos que o estado brasileiro adote abordagem de confiança zero para a governança de tecnologias digitais, em especial quanto a plataformas digitais e seus impactos aos direitos e promoção de mecânicas e práticas discriminatórias. Consideramos que a intensa influência desleal das big tech em assuntos públicos, assim como os altos gastos do governo brasileiro em serviços oferecidos pelas big tech demonstram que tomadores de decisão não estão levando em conta as evidências de riscos, danos e impactos negativos de tal dependência tecnológica.

Dados de agosto de 2025 demonstram que, dos 20 websites mais usados no Brasil, 12 se concentram em um punhado de corporações de big tech dos Estados Unidos, notadamente Alphabet, Meta, OpenAI, X, Microsoft e suas plataformas. Para além do domínio da esfera pública digital, tais empresas ameaçam a democracia ao se tornarem agentes geopolíticos com aparatos econômicos que concentram poder maior do que grande parte dos países.

As big tech buscam exercer seu poder de influenciar as democracias através de diferentes expedientes questionáveis e explícitos. O histórico de casos nos últimos 20 anos demonstram violências como manipulação psicológica de usuários, políticas de moderação que promovem extremismo, lobby legislativo, assédio judicial contra pesquisadoras, fragilização de independência do jornalismo, desinformação contra a governança de tecnologias e outros. Repositórios como o AI Incidents Monitor, o AI Incidents Database e o nosso mapeamento de danos algorítmicos na Desvelar exibem milhares de casos e mostram que longitudinalmente a repetição de danos discriminatórios é denunciada há anos, sem mitigação adequada.

Em específico quanto ao racismo, pesquisadoras em torno do mundo demonstram os problemas das principais big tech globais em territórios como Brasil, Estados Unidos, Reino Unido, México, Myanmar, Índia e outros. No Brasil, casos paradigmáticos envolvem discurso de ódio, racismo religioso, supressão de conteúdo de artistas, supressão de conteúdo de ativistas, deepfakes discriminatórias, monetização de discurso de ódio, estereotipização misógina e mais. Os problemas são agravados pelo esforço das empresas de big tech em impor abordagens e interpretações legais alheias ao ordenamento jurídico brasileiro em temas que incluem liberdade de expressão e ações afirmativas, além do ataque direto a propostas de regulação e governança.

Defendemos a ideia de “abordagem de confiança zero” como uma postura para políticas públicas de tecnologia que se baseia no histórico técnico e político de evidências sobre os impactos nocivos dos modelos de negócio das big tech. Ao considerarmos as plataformas digitais como compostas de vários sistemas de I.A. de alto risco, propomos considerar a presunção de ilegalidade para IAs de alto risco e imputar às empresas o ônus de demonstrar que determinado sistema ou serviço não é ilegítimo, ou seja, que não é injusto, discriminatório e impreciso antes da sua entrada no mercado. Esta é uma abordagem que já é familiar ao ordenamento jurídico brasileiro, em especial na seara do direito consumerista, uma vez que o art. 10 do Código de Defesa do Consumidor proíbe que fornecedores coloquem “no mercado de consumo produto ou serviço que sabe ou deveria saber apresentar alto grau de nocividade ou periculosidade à saúde ou segurança” dos consumidores.

Longe de ser uma perspectiva estranha ao direito brasileiro, a aplicação de uma abordagem de confiança zero para  serviços de tecnologia possui, na verdade, lastro em uma das legislações mais tradicionais e protetivas do país, que representou um marco para a segurança nas relações de consumo. Ao reconhecer a desigualdade entre fornecedores de serviços tecnológicos e consumidores, bem como, a eficácia transversal dos direitos fundamentais, o ordenamento jurídico  reforça não somente a necessidade de salvaguardas mais rigorosas em relações privadas assimétricas, onde o cidadão configura enquanto elo mais frágil, como também demonstra que esse tipo de medida não enfraquece ou desestabiliza o mercado – pelo contrário. A adaptação das empresas ao CDC comprova que regulações protetivas fortalecem todo o ecossistema de consumo. Considerando os compromissos constitucionais do estado brasileiro pela  efetivação da igualdade de oportunidades, defesa dos direitos étnicos individuais, coletivos e difusos e o combate à discriminação, assim como em realizar pesquisas sobre a natureza, as causas e as manifestações do racismo, da discriminação racial e formas correlatas de intolerância, incluindo suas manifestações indiretas e a incidência de discriminação múltipla, concluímos que é uma ameaça ao Brasil a concentração das atividades digitais dos brasileiros em plataformas geridas por big techs que desrespeitam apelos democráticos de governança.

Adicionalmente no atual contexto brasileiro, que enfrenta adicionalmente ameaças explícitas contra a soberania, consideramos que os objetivos do Plano de Comunicação pela Igualdade Racial ao comprometer-se com “medidas de promoção de direitos e de combate ao racismo nos serviços digitais de comunicação” necessita de ações enérgicas proporcionais aos problemas que enfrentamos. A proposta de “formalizar e aprimorar a inclusão do termo “Racismo” nos campos de denúncia” e de “aprimorar os protocolos de resposta sobre o tema nas plataformas” serão ações inócuas se não considerarmos que estamos tratando não só de “racismo nas plataformas” como também de “racismo das plataformas”.

A Desvelar recomenda fortemente as seguintes ações, medidas e desdobramentos:

• Suspensão de novas contratações e renovações de contratos do governo federal com big techs até que as empresas produzam minuciosos relatórios técnicos e públicos sobre ações de promoção da diversidade, incluindo políticas e recursos humanos, e compromisso público de que não apoiam as políticas anti-diversidade do atual governo Trump;
• Desidratar os investimentos em serviços promovidos pelas big tech, incluindo publicidade em plataformas digitais, serviços de computação em nuvem, I.A., mensageiros e ferramentas de gestão; 
• Desenvolvimento e expansão de políticas de fomento que incluam mecanismos de descentralização do ecossistema comunicacional digital, a exemplo da Incubadora de Soluções para o Jornalismo. Tais iniciativas devem incluir critérios de seleção e mecanismos de fomento que apoiem as mídias a construir táticas de entrega de conteúdo que não dependem das plataformas;
• Transparência ativa sobre atividades que envolvam representantes das big techs e plataformas digitais, incluindo a participação expressa e informada da sociedade civil, em especial movimentos negros;
• Convocar periodicamente as big techs para debate público multissetorial, entre governo, sociedade civil – em especial movimentos negros, setor empresarial e redes de pesquisa antirracistas, com a finalidade de promover escrutínio público;
• Esforços entre o executivo e o legislativo para a aprovação de leis de regulação de plataformas e regulação de inteligência artificial, incluindo previsões de:
  • Adoção explícita do antirracismo como um princípio e fundamento da regulação de novas tecnologias, como inteligência artificial, e plataformas digitais;
  • Defesa dos conceitos e mecanismos antidiscriminatórios nas leis em questão, incluindo a consideração dos conceitos de discriminação indireta e múltipla, a exemplo das definições presentes na Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância, ratificada com status de emenda constitucional pelo Decreto 10.932/2022;
  • Participação social significativa e com poder de tomada de decisão de pessoas afetadas por sistemas de inteligência artificial, especialmente de grupos minoritários, ao longo de todo o ciclo de vida da tecnologia;
  • Mecanismos de remuneração do jornalismo pelas plataformas digitais, incluindo fomento para promoção de mídias periféricas e geridas por grupos minoritários;
  • Obrigação de publicação periódica, pelos fornecedores de plataformas digitais, de relatórios de políticas de diversidade, incluindo práticas de contratação;
  • Obrigação de produção de relatórios de impacto algorítmico a sistemas de I.A. de alto risco, incluindo serviços que realizam recomendação e moderação de conteúdo e publicidade;
  • Participação social ativa nas entidades de regulação e governança incluindo, mas não exclusivamente, o SIA (Sistema Nacional de Regulação e Governança de Inteligência Artificial), CGI (Comitê Gestor da Internet), ANPD (Agência Nacional de Proteção de Dados) e CADE (Conselho Administrativo de Defesa Econômica); 

Por fim, a adoção da abordagem de confiança zero na formulação e avaliações de políticas públicas sobre o digital,  reconhecendo que os serviços das big tech tornaram-se quase sinônimo de racismo algorítmico devido a convergência de práticas de colonialismo, exploração e acumulação que se interseccionam com opressões de raça, gênero, território, classe e outras.