Por 
A Inteligência Artificial (IA) é uma ferramenta tecnológica já incorporada ao nosso cotidiano. Está presente em aplicativos de celulares, plataformas de redes sociais, veículos, televisores, sendo aplicada em transações bancárias, na segurança pública, em produções textuais, no controle de tráfego aéreo, nas artes, entre outras funcionalidades.
A IA atua no campo da programação e da automação por meio de algoritmos, ou seja, de instruções que orientam o programa, aplicativo ou software a realizar uma ação ou a alcançar um resultado a partir da base de dados disponível. Essa programação é produzida, reproduzida e testada sistematicamente a partir de critérios de treinamento criados previamente.
O principal objetivo da IA é automatizar tarefas que normalmente exigem a inteligência humana, como compreender linguagens, reconhecer padrões, classificar objetos e informações, gerenciar grandes volumes de dados e resolver problemas. Com isso, ela traz inovações que visam melhorar resultados e aumentar a eficiência na resolução de questões complexas, aperfeiçoando processos que tocam em diferentes áreas do conhecimento, como estatística, análise de dados, engenharia de hardware e software, linguística e até mesmo neurociência.
É indiscutível que a Inteligência Artificial apresenta inúmeras funcionalidades úteis em nosso cotidiano, como auxiliar em pesquisas, na proteção ao meio ambiente, otimiza a produção agrícola, monitora dados sobre a situação da saúde das pessoas, entre outras.
No entanto, por se tratar de um recurso tecnológico de grande projeção e cujas repercussões são ainda imprevisíveis, é fundamental estarmos atentos aos desafios éticos no uso da IA, sobretudo quando relacionados ao uso indevido de dados e à eventual reprodução de padrões discriminatórios que podem promover e aprofundar desigualdades.
Nesse cenário, merece especial cuidado a possível relação entre a Inteligência Artificial e a reprodução do racismo, mais particularmente no uso da IA na elaboração de algoritmos enviesados, produzidos, por exemplo, para o reconhecimento facial ou para construção de representações étnico-raciais em bases de dados.
Diante disso, propomos reflexões sobre o denominado “racismo de marca” e sua aproximação com a Inteligência Artificial. O termo “preconceito de marca” foi proposto pelo sociólogo Oracy Nogueira para análise das relações raciais, especialmente para identificar a dinâmica do racismo peculiar ao Brasil. O conceito ajuda a entender como o racismo opera em nosso país, baseado na construção histórica de estigmas e estereótipos negativos atribuídos às pessoas negras, predominantemente a partir de características físicas, como a cor da pele, os traços faciais e a textura dos cabelos, ou seja, do fenótipo.
Diante das constatações de Nogueira, torna-se essencial refletir sobre os riscos de que a programação da IA reproduza, de forma exponencial, estereótipos e discriminações raciais, atualizando o racismo de marca. Isso pode ocorrer por meio de ações inconscientes, ou seja, não intencionais, resultando na manutenção de preconceitos e na reprodução de um discurso de “neutralidade” que disfarça o racismo presente no mundo real.
Como exemplo, a IA potencializa que programas e aplicativos reconheçam traços físicos típicos de pessoas negras, classificando-os para determinados fins e lhes vinculando a padrões negativos, tal como a relação com a criminalidade. Considerando que a Inteligência Artificial está baseada na análise de dados a partir de uma programação, é bem possível que ela reproduza comandos sugestionados a naturalizar e reproduzir discriminações raciais. Isso, aliás, já vem sendo denunciado por movimentos sociais engajados no combate a racismo.
Trata-se de uma reconfiguração do racismo científico, por meio da qual tecnologias supostamente neutras perpetuam, e mesmo intensificam, estigmas e desigualdades raciais socialmente construídos. Isso ocorre porque os sistemas de IA são treinados com grandes volumes de dados, frequentemente extraídos de contextos sociais marcados por preconceitos. Como resultado, algoritmos podem reproduzir estereótipos raciais ao associar determinados perfis raciais a modelos negativos, a exemplo do que já constatado em sistemas de reconhecimento facial, de recomendações de produtos comercializados ou na análise de comportamento.
Assim, a Inteligência Artificial não apenas reflete o racismo estrutural presente na sociedade, mas igualmente pode o amplificar, sempre sob a aparência de neutralidade, eficiência e inovação.
Apesar do alerta aqui realizado, não queremos negar o potencial que a IA possui para auxiliar no enfrentamento ao racismo, especialmente quando aplicada nas ações afirmativas e no monitoramento de políticas públicas voltadas a grupos socialmente vulnerabilizados. Se bem empregada, ela pode, por exemplo, identificar disparidades raciais na distribuição de recursos, nos índices de violência policial ou no acesso a oportunidades, servindo como instrumento para a promoção da equidade racial e de ampliação do letramento racial.
Por meio da análise de grandes volumes de dados, a Inteligência Artificial pode ainda identificar padrões de discriminação racial em áreas como segurança pública, educação, saúde e mercado de trabalho, setores historicamente marcados por desigualdades. Além disso, podem ser desenvolvidas ferramentas de IA para mapear discursos de ódio nas redes sociais e denunciar práticas discriminatórias.
Dessa forma, a partir do uso ético e consciente da tecnologia, é possível construir sistemas de IA voltados à equidade racial, alimentados por dados que respeitem a diversidade, sobretudo quando desenvolvidos com a participação de pessoas pertencentes aos grupos historicamente discriminados.