A inteligência artificial (IA) vem se tornando cada vez mais presente no nosso cotidiano, desde sugestões de filmes até decisões em áreas como saúde, segurança e finanças. No entanto, à medida que esses sistemas ganham autonomia, um problema ganha destaque: o viés algorítmico. Quando algoritmos aprendem a partir de dados tendenciosos, podem tomar decisões injustas, reforçando desigualdades já existentes. Neste artigo, será explorado, o que causa esse viés, suas consequências práticas e as possíveis soluções para.
O que é Viés Algorítmico?
Para descobrir padrões e insights nos dados ou prever valores de saída com base em um conjunto de variáveis de input, a inteligência artificial utiliza algoritmos. O Viés Algorítmico é quando ocorrer erros sistemáticos nessa busca, que acabam produzindo resultados injustos ou discriminatório, por exemplo, quando a IA “aprende” a associar características como cor de pele, gênero ou local de origem a decisões negativas.
Quais são as Causas?
Modelos de aprendizado de máquina podem apresentar viés quando são treinados com conjuntos de dados desbalanceados ou incompletos. Isso pode resultar em decisões imprecisas e em discriminação contra determinados grupos ou populações. Algumas das causas desses erros sistemático, podem ser:
- Viés nos dados: dados não representativos, incompletos ou tendenciosos, podem levar algoritmos a gerar resultados injustos e reforçar vieses existentes. Essas inconsistências, podem surgir no treinamento desses dados, caso sejam mal categorizados ou realizem correlações em vez de causalidade, por exemplo, associar o aumento de ataques de tubarão ao aumento das vendas de sorvete, ignorando que ambos ocorrem mais frequentemente no verão, sem relação causal direta entre si. Isso acaba gerando resultados errôneos.
- Design Algorítmico: os programadores são quem decide como os algoritmos devem tomar as decisões. Suas escolhas influenciam diretamente nos resultados. A técnica de ponderação, usada para corrigir distorções nos dados e torná-los mais representativos da população real, depende de suposições feitas pelos desenvolvedores. Se essas suposições forem equivocadas, o algoritmo pode acabar introduzindo ainda mais viés
- Avaliação: ocorre quando os resultados gerados por um algoritmo são interprestados ou utilizados com base em crenças, expectativa ou julgamentos prévios das pessoas envolvidas. Mesmo que o algoritmo em si funcione corretamente e de maneira neutra, a decisão final, como contratar um candidato, aprovar um empréstimo ou recomendar um tratamento médico, ainda depende da interpretação humana.
E as Consequências?
A utilização da IA traz muitos benefícios, mas quando é aplicada de forma errônea, as consequências do viés algorítmico vão além de erros técnicos: envolvem impactos sociais, econômicos, legais e éticos. Algumas dessas consequências são:
- Discriminação e desigualdade: o viés exististe na IA, pode intensificar desigualdades sociais, afetando desproporcionalmente comunidades marginalizadas e ampliando disparidades econômicas e sociais. Além disso, esses sistemas tendenciosos podem reforçar estereótipos prejudiciais, perpetuando percepções negativas e discriminatórias baseadas em características como raça ou gênero. Um exemplo disso ocorre em modelos de processamento de linguagem natural (NLP), que podem associar certos empregos a determinados gêneros, contribuindo para a manutenção do viés de gênero
- Impactos judiciais e de reputação nos negócios: empresa que utilizam sistemas de IA tendenciosos podem enfrentar consequências legais e danos à reputação. Uma situação em que práticas aparentemente neutras afetam desproporcionalmente grupos protegidos por lei, como aqueles vulneráveis à discriminação por raça, gênero ou religião. Esses grupos podem mover ações judiciais, resultando em passivos financeiros, penalidades legais e críticas públicas, comprometendo a imagem da empresa.
- Impactos na saúde e segurança: na área da saúde, o uso de ferramentas tendenciosas pode resultar em diagnósticos imprecisos ou em planos de tratamento inadequados para certos grupos, contribuindo para o aprofundamento das desigualdades existentes no setor.
Quais são as Soluções?
Para que a IA continue trazendo benefícios e que o viés algorítmico seja mitigado, é necessário a abordagem de algumas estratégias para alcançar resultados justos, que são elas:
- Diversidade e Representatividade: fornecer dados abrangentes e equilibrados das pessoas, informações representativas de todos os grupos de pessoas e refletir a demografia real da sociedade.
- Design e Desenvolvimento Inclusivo: para que se tenha diferentes perspectivas é imprescindível, que a equipe de programadores, cientistas de dados, engenheiro de machine learning e outros, seja diversificada e interdisciplinar. Com diversidades: raciais, econômicas, de gênero, por descrição de cargo e entre outras.
- Transparência: para que se tenha confiança na IA, é importante que os sistemas sejam documentados de forma transparente e que a metodologia do algoritmo e quem o treinou seja explicada de forma clara. Assim as pessoas entenderão melhor essas ferramentas, consequentemente criando confiança na sua precisão e imparcialidade.
Exemplos na Realidade
Conforme a sociedade entende como funciona a IA e o viés algorítmico, diversas organizações identificam casso de viés em suas ferramentas. A seguir alguns casos já relatados:
- Saúde: sistemas de diagnóstico assistido por computador (CAD) retornaram resultados de menor precisão para pacientes negros em comparação com pacientes brancos.
- Rastreamento de candidatos: a Amazon interrompeu o uso de um algoritmo de contratação após descobrir que ele favorecia candidatos com currículos que continham palavras como “executou” ou “capturou”, que eram mais comumente usadas em currículos de homens.
- Publicidade: pesquisadores da Carnegie Mellon University, em Pittsburgh, descobriram que o sistema de publicidade online do Google exibia cargos de alta remuneração com mais frequência para homens do que para mulheres.
Conclusão
O avanço da inteligência artificial representa um potencial para transformar positivamente diversos setores da sociedade. No entanto, o viés algorítmico mostra como um dos maiores desafios éticos e técnicos dessa tecnologia. Como vimos ao longo deste artigo, esse tipo de viés pode ter causa diversas, desde dados de treinamento desbalanceados até decisões subjetivas
Existem consequências, mas também existem soluções que devem ser aplicadas, para mitigar os dados tendencioso do viés algorítmico. Mais do que corrigir erros técnicos, trata-se de garantir que a tecnologia atue com responsabilidade, justiça e equidade.
Autor: Fábio Augusto Silva Tessaro
Referências
https://www.ibm.com/br-pt/think/topics/algorithmic-bias
https://mailchimp.com/pt-br/resources/bias-in-machine-learning
https://encurtador.com.br/eyoxn
https://www.datacamp.com/blog/what-is-algorithmic-bias
https://www.ibm.com/br-pt/think/topics/shedding-light-on-ai-bias-with-real-world-examples