Um grupo de mais de 60 organizações e especialistas lançou nota demandando mais mecanismos de participação social na atual versão do PL 2338, que pode estabelecer regulação de IA no país. Mesmo os mecanismos atuais de participação social no PL estão sob ameaça do lobby do setor privado. Leia abaixo e apoie:
O aumento da capacidade da Inteligência Artificial, em sentido amplo, tem sido apontado como uma das revoluções tecnológicas e sociais da contemporaneidade. Ainda que seja um termo amplo e disputado, consensos multissetoriais têm levado o conceito a ser expresso em políticas públicas ou propostas legislativas como “sistema baseado em máquina que, com graus diferentes de autonomia e para objetivos explícitos ou implícitos, infere, a partir de um conjunto de dados ou informações que recebe, como gerar resultados, em especial, previsão, conteúdo, recomendação ou decisão que possa influenciar o ambiente virtual, físico ou real”.
A capacidade disruptiva da tecnologia em gerar efeitos em qualquer esfera da vida humana gera também preocupações para a defesa de direitos e promoção da igualdade. Entre as principais questões já mapeadas estão: concentração econômica e de poder em poucas empresas desenvolvedoras; eliminação ou precarização de empregos; potencial discriminatório quanto a grupos vulnerabilizados, ligados a históricos de opressão racial, de gênero e outras; impactos ambientais devido a demandas energéticas e de recursos naturais; e outros danos de diferentes ordens, inclusive quanto a confiança epistêmica e integridade informacional.
Formuladores de legislação e políticas públicas no Brasil tem discutido a matéria em diferentes espaços, com especial destaque à atual Comissão Temporária de Inteligência Artificial no Senado, presidida pelo senador Carlos Viana e relatada pelo senador Eduardo Gomes e a formulação do Plano Brasileiro de Inteligência Artificial, em desenvolvimento pelo Ministério da Ciência, Tecnologia e Inovação. As duas iniciativas prometem impactos para o desenvolvimento, fomento, uso ético e responsável da inteligência artificial.
Com vistas de alcançar o objetivo de estabelecer as bases para que os avanços atuais dessa tecnologia, que tem sido estudada e desenvolvida já há oito décadas, maximizem seus benefícios sociais ligados a geração de emprego e renda, promoção de igualdade, acesso à informação, proteção ao meio ambiente e outros valores sociais centralizando a pessoa humana, nós, da sociedade civil, consideramos que a participação social e popular é absolutamente imprescindível. Consideramos que, se desejamos uma sociedade igualitária, participativa, sustentável, baseada na dignidade humana, com indivíduos livres e emancipados, devemos construir modelos democráticos e configurações institucionais que expressem esse ideal.
Entretanto, os diferentes ciclos de debate legislativo recentes sobre inteligência artificial não parecem ter alcançado mecanismos sólidos para a participação social. Durante a formulação do PL 2338 pela Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial (Fevereiro a Dezembro de 2022), a sociedade civil organizada apontou que sua composição foi marcada pela ausência de juristas negras e negros ou indígenas, como também não levou em conta a representatividade regional ou a representatividade de interesses afetados pelos produtos envolvendo IA. O problema foi parcialmente resolvido pela inclusão de amplo e mais diverso rol de representantes multissetoriais durante as audiências públicas, mas críticas à não-adoção de recomendações da sociedade civil como o banimento do reconhecimento facial também foram apontadas.
Na atual Comissão Temporária de Inteligência Artificial no Senado os problemas de representatividade multissetorial, demográfica ou epistêmica também se fazem presentes e a sociedade civil apontou ainda a “opacidade a respeito dos trâmites e andamentos internos da Comissão, já que, por exemplo, foi publicizada a realização de audiência pública apenas na semana de sua realização, sem a devida transparência e a publicidade – preceitos norteadores na gestão pública sobre os nomes dos participantes e como eles estão sendo escolhidos”.
Acreditamos que tais lacunas trazem malefícios diretos e indiretos à produção legislativa inclusiva e sólida, em diversas camadas da proposição atual. Enfatizaremos aqui em especial o próprio desenho de participação social que consta ainda de forma muito tímida na atual versão do relatório preliminar e estão sob ameaça considerando a não-votação da proposta no último mês de Julho.
A participação social na ideação, desenvolvimento, regulação e controle da inteligência artificial é apontada como essencial por diferentes organismos internacionais e multissetoriais. O documento Recomendação sobre a Ética da Inteligência Artificial (2021), desenvolvido pela UNESCO, estabelece como valor Garantir a Diversidade e Inclusão e recomenda que “ao longo do ciclo de vida dos sistemas de IA, devem ser garantidos respeito, proteção e promoção da diversidade e da inclusão, de acordo com o direito internacional, incluindo as leis relativas a direitos humanos. Isso pode ser feito promovendo a participação ativa de todos os indivíduos ou grupos”.
Em publicação recente do AI Advisory Group da Nações Unidas, Governing AI for Humanity, afirmou-se que “apesar de seu potencial, muitos povos do mundo todo não estão ainda em posição de acessar e usar IA de modo que melhore significativamente suas vidas. Alcançar o potencial da IA e permitir participação ampla em seu desenvolvimento, implementação e uso é crítico para que se possa usá-la para gerar soluções sustentáveis a desafios globais”.
Em especial sobre impacto em grupos vulnerabilizados, a relatoria especial às Nações Unidas intitulada de Racial discrimination and emerging digital technologies: a human rights analysis (2020) estabelece que os mecanismos de avaliação de impacto algorítmico “devem incorporar oportunidades sólidas para co-design e co-implementação com representantes de grupos racialmente ou etnicamente marginalizados. Uma abordagem puramente voluntária a avaliações de impacto algorítmico na igualdade não são suficientes; uma abordagem vinculativa é essencial”.
Assim sendo, nós, da sociedade civil, recomendamos, portanto:
a) Inclusão explícita de Organizações da Sociedade Civil no Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) – A sociedade civil organizada é essencial para garantir os objetivos regulatórios, sancionatórios e normativos da entidade. O desenvolvimento de normas vinculantes ligadas a requisitos e procedimentos para certificação do desenvolvimento e utilização de sistemas de alto risco e procedimentos e requisitos para elaboração da avaliação de impacto algorítmico requerem a participação da sociedade civil organizada e independente dos interesses dos demais setores envolvidos.
b) Inclusão explícita de Organizações da Sociedade Civil no Conselho de Cooperação Regulatória Permanente (CRIA) – Consideramos que a participação da sociedade civil no CRIA é essencial para reforçar o caráter democrático do conselho, em especial em sua capacidade de identificar impactos conhecidos e previsíveis no direito ao trabalho e emprego, impactos ambientais e discriminação negativa colaborando com as trocas positivas na relação multissetorial.
c) Multidisciplinaridade no Comitê de Especialistas e Cientistas de Inteligência Artificial/CECIA – Considerando o impacto da Inteligência Artificial em todas esferas da vida, conclui-se que o CECIA deve também refletir essa ubiquidade, incluindo representação de especialistas e cientistas das áreas das Ciências Humanas, Sociais e Artísticas.
d) Compromisso com a multissetorialidade e multidisciplinaridade nos debates legislativos. Por fim, recomendamos aos legisladores um compromisso de escuta ativa e inclusão da sociedade civil em modos que representem plenamente a multissetorialidade e multidisciplinaridade necessárias.
Conheça todos signatários e baixe a nota no website da Ação Educativa