A Inteligência Artificial, algo antes restrito a ficção científica, agora ocupa um espaço relevante no dia a dia das pessoas, mesmo que elas não percebam. Um exemplo são algoritmos em rede sociais, que fazem recomendações de conteúdo. A IA está cada vez mais presente também em avançados diagnósticos médicos, a presença desta tecnologia é ampla e diversificada, influenciando decisões e afetando modos de agir. Este crescimento suscita questões éticas relevantes e complexas: quem se responsabiliza pelos atos de máquinas inteligentes? A garantia de um funcionamento justo e transparente nesses sistemas, como pode ser assegurada?
A IA, ao contrário de outras tecnologias, tem a habilidade de tomar decisões sem dependência de operadores humanos, mudando assim o foco da responsabilidade dos simples operadores humanos para os inventores, instituições e até as legislações. Tendo a visão, é de extrema importância refletir sobre as barreiras éticas ligadas ao emprego da IA e os encargos morais relacionados à sua criação, uso e fiscalização.
Fundamentos éticos na criação da IA
A ética em inteligência artificial inicia-se com os fundamentos que orientam sua elaboração. Instituições globais como a UNESCO e a União Europeia sugeriram diretrizes que englobam valores como clareza, equidade, segurança, privacidade e responsabilidade. Esses fundamentos funcionam como uma referência para guiar o desenvolvimento ético dos sistemas inteligentes.
Podemos ver que a clareza implica que os indivíduos necessitam compreender os mecanismos e a lógica das escolhas inscritas nos algoritmos. Essa questão assume uma relevância de grande tamanho em campos altamente sensíveis, como a saúde ou a justiça criminal, áreas em que decisões autônomas podem ter repercussões diretas e sérias sobre a vida humana. A justiça, por sua vez, demanda que os sistemas não reforcem e nem aumentem os já presentes preconceitos sociais, colocando diante de nós um desafio significativo. Isso se dá, pois os dados utilizados para o treinamento da IA frequentemente refletem a questão dessas disparidades.
Responsabilidade ética e legal
Um grande desafio da inteligência artificial é a definição de responsabilidade. Quando uma IA comete algum tipo de erro, quem deverá ser responsabilizado? O desenvolvedor, o usuário, a empresa ou o próprio sistema? Há um entendimento de que a responsabilidade deve ser atribuída aos humanos que criam e gerenciam os sistemas, porém se as máquinas se tornam mais independentes, essa distinção fica menos evidente.
A questão da responsabilidade ética inclui também a obrigação de evitar prejuízos, no seu dia a dia, os desenvolvedores devem prever os possíveis usos inadequados que suas criações possam ter. Um ponto que abre discussão é a inteligência artificial em sistemas de armamento autônomo, tanto na questão ética quanto política. Vários especialistas afirmam que aplicações de tal tipo ferem a ética humanitária, eliminando o julgamento humano para decidir sobre questões cruciais sobre a vida ou a morte.
IA e o preconceito algorítmico
Uma questão ética significativa é o preconceito algorítmico. As Ias são alimentadas com grandes volumes de dados que, em algumas ocasiões, contêm preconceitos tensionados por fatores como, raça, gênero, classe social e entre outros. Esses preconceitos podem se referir a sistemas de contratação automatizados que tratam com preferência determinados perfis, outro exemplo também, são sistemas de concessão de crédito que exercem certa discriminação em relação a grupos que se encontram historicamente marginalizados.
É imprescindível que sejam feitas auditorias regulares nos sistemas de inteligência artificial, tendo a intenção de identificar e solucionar problemas. A diversidade é essencial nas equipes de desenvolvimento para elaborar soluções mais inclusivas e atentas à diferentes realidades sociais.
O papel das políticas governamentais e da regulamentação
Na IA, a ética não pode depender apenas da boa vontade das empresas. Deve existir regulamentos e políticas públicas para garantir um uso ético da tecnologia, sendo assim, a proposta de Lei de IA (AI Act) da União Europeia é um grande avanço, pois classifica as aplicações de IA segundo o seu risco e estabelece responsabilidades legais por categorias.
No brasil, a proposição do Marco Legal da inteligência artificial, ainda está em debate, ele visa harmonizar a inovação com a salvaguarda de direitos essenciais. A regulamentação precisa assegurar também, o direito a explicação sobre decisões automáticas, formas de contestação e proteção contra prejuízos que tenham resultado do uso inadequado da IA.
Conclusão
Tecnologias em progresso devem estar completamente associadas a considerações que estejam na linha ética e legal, que garantam a saúde da sociedade e a defesa dos direitos humanos. Para chegar ao objetivo, é fundamental cooperação entre governos, corporações, de forma integrada a sociedade civil e instituições acadêmicas.
É importante entender que implementar os valores éticos desde a criação da inteligência artificial até sua utilização, incentivar a clareza e enfrentar os preconceitos algorítmicos são ações essenciais. Além de desenvolver sistemas inteligentes, é muito importante assegurar que os mesmos sejam justos, seguros e responsáveis, pois a eficácia de uma máquina somente será relevante se estiver voltada ao respeito e dignidade humana.
Autor: João Francisco Oliveira dos Santos
Referências Bibliográficas
BOSTROM, Nick. Superinteligência: Caminhos, perigos, estratégias. São Paulo: Editora Intrínseca, 2018.
FLORIDI, Luciano; COWLS, Josh. “A Unified Framework of Five Principles for AI in Society.” Harvard Data Science Review, 2019. Disponível em: https://hdsr.mitpress.mit.edu/pub/l0jsh9d1
RUSSELL, Stuart; NORVIG, Peter. Inteligência Artificial. 3. ed. São Paulo: Pearson, 2013.
UNESCO. Recomendação sobre a Ética da Inteligência Artificial. Paris: Organização das Nações Unidas para a Educação, a Ciência e a Cultura, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137
UNIÃO EUROPEIA. Artificial Intelligence Act – Proposal for a Regulation laying down harmonised rules on artificial intelligence. Brussels: European Commission, 2021. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
BRASIL. Senado Federal. Projeto de Lei n.º 21/2020 (Marco Legal da Inteligência Artificial). Brasília, 2020. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/141944
CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.