5Jun
O que é o profiling e como o uso das IA pode ser prejudicial às pessoas negras

O profiling é uma técnica de investigação que consiste em traçar um perfil psicológico, comportamental ou social de um suspeito ou de um grupo de suspeitos, com base em características como idade, gênero, raça, etnia, religião, classe social, entre outras. O profiling pode ser usado para prevenir ou solucionar crimes, mas também pode ser usado para discriminar, estigmatizar ou violar os direitos de pessoas inocentes.

O viés racial é uma tendência inconsciente ou consciente de favorecer ou desfavorecer pessoas de determinada raça ou etnia, com base em estereótipos ou preconceitos. O viés racial pode afetar o modo como as pessoas percebem, interpretam e reagem às situações e às pessoas, influenciando as suas decisões e ações.

O racismo é uma forma de opressão que se baseia na crença de que existem raças humanas superiores e inferiores, e que confere privilégios ou desvantagens às pessoas de acordo com a sua cor de pele ou origem étnica. O racismo pode se manifestar de forma individual ou institucional, por meio de atitudes, discursos, políticas ou práticas discriminatórias.

Quando o profiling é usado com base no viés racial ou no racismo, ele pode ser prejudicial às pessoas negras de várias maneiras. Veja alguns exemplos:

  • O profiling pode levar à violência policial contra as pessoas negras. Estudos mostram que as pessoas negras são mais propensas a serem abordadas, revistadas, detidas, agredidas ou mortas pela polícia do que as pessoas brancas, mesmo quando não há evidências de envolvimento em crimes . Essa violência policial pode gerar medo, trauma, revolta e desconfiança nas comunidades negras.
  • O profiling pode levar à exclusão social e econômica das pessoas negras. Estudos mostram que as pessoas negras são mais propensas a serem discriminadas no mercado de trabalho, na educação, na saúde, na moradia e no acesso a serviços públicos do que as pessoas brancas, mesmo quando têm qualificações semelhantes. Essa discriminação pode gerar pobreza, desigualdade, baixa autoestima e falta de oportunidades nas comunidades negras.
  • O profiling pode levar à desumanização e à criminalização das pessoas negras. Estudos mostram que as pessoas negras são mais propensas a serem associadas a estereótipos negativos, como a violência, a inferioridade, a preguiça ou a imoralidade do que as pessoas brancas . Essa associação pode gerar ódio, intolerância, injustiça e violação dos direitos humanos nas sociedades.

O papel da inteligência artificial

A inteligência artificial (IA) é uma área da ciência da computação que busca criar sistemas capazes de realizar tarefas que normalmente exigiriam inteligência humana, como reconhecimento facial, diagnóstico médico ou tradução automática. A IA pode ter diversas aplicações benéficas para a sociedade, mas também pode apresentar riscos e desafios éticos.

Um desses desafios é o problema do viés racial e do racismo na IA. Isso ocorre quando os sistemas de IA reproduzem ou amplificam os preconceitos existentes na sociedade ou nos dados usados para treiná-los. Por exemplo:

  • A IA pode perpetuar o profiling racial na segurança pública. Alguns sistemas de IA usados para reconhecimento facial, vigilância ou predição criminal têm demonstrado erros e discriminações contra as pessoas negras . Esses sistemas podem levar a falsas identificações, prisões injustas ou uso excessivo da força pela polícia.
  • A IA pode perpetuar a exclusão racial na saúde pública. Alguns sistemas de IA usados para diagnóstico, tratamento ou alocação de recursos de saúde têm demonstrado enviesamentos e disparidades contra as pessoas negras . Esses sistemas podem levar a erros médicos, negligências ou alocações injustas de recursos de saúde.
  • A IA pode perpetuar a estigmatização racial na mídia e na cultura. Alguns sistemas de IA usados para geração de conteúdo, moderação de comentários ou recomendação de produtos têm demonstrado estereótipos e preconceitos contra as pessoas negras . Esses sistemas podem levar a representações negativas, ofensivas ou distorcidas das pessoas negras.

Como combater o viés racial e o racismo na IA

Para combater o viés racial e o racismo na IA, é preciso adotar medidas em diferentes níveis, envolvendo diversos atores da sociedade. Veja algumas sugestões:

  • Promover a diversidade e a inclusão na criação e no uso da IA. É importante que as equipes responsáveis pelo desenvolvimento, pela implementação e pela fiscalização dos sistemas de IA sejam compostas por pessoas de diferentes raças, etnias, gêneros, origens e perspectivas. Isso pode ajudar a evitar ou corrigir os vieses nos dados, nos algoritmos e nas decisões baseadas na IA.
  • Promover a transparência e a responsabilidade na avaliação e na regulação da IA. É importante que os sistemas de IA sejam transparentes sobre os seus objetivos, os seus métodos, os seus dados e os seus resultados. Isso pode ajudar a monitorar e a auditar o desempenho, a precisão e a equidade da IA. Além disso, é importante que os sistemas de IA sejam regulados por leis e normas que garantam o respeito aos direitos humanos, à ética e à justiça.
  • Promover a educação e a conscientização sobre os impactos e os riscos da IA. É importante que as pessoas sejam informadas e capacitadas sobre o funcionamento, as potencialidades e as limitações da IA. Isso pode ajudar a promover um uso crítico, ético e cidadão da IA. Além disso, é importante que as pessoas sejam sensibilizadas e mobilizadas sobre os problemas do viés racial e do racismo na IA. Isso pode ajudar a promover uma cultura de respeito, de diversidade e de inclusão na sociedade.

Conclusão

O profiling é uma técnica de investigação que pode ter fins legítimos ou ilegítimos. Quando usado com base no viés racial ou no racismo, ele pode ser prejudicial às pessoas negras, pois pode levar à violência policial, à exclusão social e econômica e à desumanização e à criminalização das pessoas negras. A inteligência artificial é uma área da ciência da computação que pode ter diversas aplicações benéficas para a sociedade, mas também pode apresentar riscos e desafios éticos. Um desses desafios é o problema do viés racial e do racismo na IA. Isso ocorre quando os sistemas de IA reproduzem ou amplificam os preconceitos existentes na sociedade ou nos dados usados para treiná-los. Para combater esse problema, é preciso promover a diversidade e a inclusão na criação e no uso da IA, a transparência e a responsabilidade na avaliação e na regulação da IA, e a educação e a conscientização sobre os impactos e os riscos da IA.

Se você se interessou pelo assunto e quer saber mais sobre o que é o profiling e como o viés racial e racismo pode ser prejudicial às pessoas negras, confira os seguintes artigos:

  • Racism is Systemic in Artificial Intelligence Systems, Too
  • How artificial intelligence can help combat systemic racism
  • AI: How can we tackle racism in artificial intelligence?
  • Solving racial disparities in policing
  • Uncovering Unconscious Racial Bias: Lecture Examines Stereotypes and Their Impacts
  • Addressing racism and disparities in the biomedical sciences
  • Racial bias in health algorithms
  • Racial bias in natural language processing: A case study of social media African-American English
  • Racial bias in media recommender systems: The case of YouTube’s filter bubble
  • Diversity in artificial intelligence: Why it matters

Referências

BUOLAMWINI, J.; GEVRIE, A. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 1., 2018, New York. Proceedings… New York: ACM, 2018. p. 77-91.

CHEN, I. Y.; SZOLLOSI, A.; BANAJI, M. R. Racial bias in natural language processing: A case study of social media African-American English. In: ASSOCIATION FOR COMPUTATIONAL LINGUISTICS, 58., 2020, Seattle. Proceedings… Seattle: ACL, 2020. p. 6731-6741.

CHEN, J.; SONG, L.; WAINWRIGHT, M. J.; JORDAN, M. I. L_shapley and C_shapley: Efficient model interpretation for structured data. In: INTERNATIONAL CONFERENCE ON LEARNING REPRESENTATIONS, 8., 2020, Addis Ababa. Proceedings… Addis Ababa: ICLR, 2020.

GEORGETOWN SECURITY STUDIES REVIEW. Racism is Systemic in Artificial Intelligence Systems, Too. Disponível em: https://georgetownsecuritystudiesreview.org/2021/05/06/racism-is-systemic-in-artificial-intelligence-systems-too/

HARVARD HEALTH PUBLISHING. Solving racial disparities in policing. Disponível em: https://news.harvard.edu/gazette/story/2021/02/solving-racial-disparities-in-policing/

MIT NEWS. How artificial intelligence can help combat systemic racism. Disponível em: https://news.mit.edu/2022/how-ai-can-help-combat-systemic-racism-0316

NATIONAL ACADEMIES OF SCIENCES, ENGINEERING AND MEDICINE. Uncovering Unconscious Racial Bias: Lecture Examines Stereotypes and Their Impacts. Disponível em: https://www.nationalacademies.org/news/2019/10/uncovering-unconscious-racial-bias-lecture-examines-stereotypes-and-their-impacts

NATURE HUMAN BEHAVIOUR. Addressing racism and disparities in the biomedical sciences. Disponível em: https://www.nature.com/articles/s41562-020-0917-7

OBERMEYER, Z.; POWERS, B.; VOGELI, C.; MULLAINATHAN, S. Dissecting racial bias in an algorithm used to manage the health of populations.Science, v. 366, n. 6464, p. 447-453, Oct. 2019.

WORLD ECONOMIC FORUM.AI: How can we tackle racism in artificial intelligence? Disponível em: https://www.weforum.org/agenda/2021/11/tackle-racism-in-ai-blm-co-founder-tells-tech-bosses/

ZHANG, Y.; ZHANG, X.; LIU, Y.; ZHANG, Y.; ZHANG, J.; TANG, J.; MA S… Racial bias in media recommender systems: The case of YouTube’s filter bubble.ACM Transactions on Social Computing,v.4,n1,p1-26,Feb.,2021.

Autor

  • DrGersonNeto

    Olá! Eu sou Gérson Silva Santos Neto, e minha paixão é explorar os mistérios da mente humana e desvendar os segredos do cérebro. Mas espere, há mais: sou também um neurocientista biohacker. Vamos nos aprofundar nisso? O Começo da Aventura Desde criança, eu já era fascinado pelas perguntas que pareciam não ter respostas simples: Por que pensamos o que pensamos? Como nossas emoções se entrelaçam com os circuitos neurais? Essas questões me impulsionaram a seguir uma carreira na interseção entre a psicologia e a neurociência. A Jornada Acadêmica e Além Doutorado em Neurociências e Ciências do Comportamento: Minha jornada acadêmica me levou à Universidade de São Paulo (USP), onde mergulhei fundo no estudo dos distúrbios do neurodesenvolvimento. Imagine: perfis cognitivos, comportamentais e de personalidade da síndrome de Turner, tudo isso conectado à herança cromossômica do X. Foi uma verdadeira aventura científica! Mestre em Ciências (Neurociências): Antes do doutorado, fiz uma parada estratégica para obter meu título de mestre. Minha pesquisa? Investigar as alterações neuropsicológicas relacionadas ao rinencéfalo, usando a síndrome de Kallmann como modelo. Essa síndrome, com suas disfunções genéticas, é um quebra-cabeça intrigante que me fez perder noites de sono (no bom sentido, claro!). Biohacking: Desvendando Limites Aqui está o toque especial: sou um biohacker. O que isso significa? Bem, não apenas observo o cérebro; também experimento com ele. Desde otimização cognitiva até técnicas de meditação avançadas, estou sempre explorando maneiras de elevar nossa experiência mental. Ah, e sim, às vezes uso eletrodos e wearables estranhos. Mas hey, a ciência é uma aventura, certo? Se você quiser saber mais ou trocar ideias sobre cérebros, biohacking ou qualquer coisa do gênero, estou aqui! 🧠✨

    View all posts