A discriminação algoritmica como pressuposto de exclusão social e mitigação dos direitos fundamentais e humanos

Abstract

A proposta deste trabalho consiste em analisar se e como os sistemas de inteligência artificial podem gerar discriminação algorítmica para indivíduos e grupos em estado de vulnerabilidade social, com base em características identitárias como idade, gênero, raça, orientação sexual, religião, opinião política, classe social, entre outros, perpetuando preconceitos existentes na sociedade e vulnerando seus direitos humanos e fundamentais. No contexto da sociedade da informação e de riscos, considera-se a disseminação da informação por meios tecnológicos de comunicação em massa e seus impactos nas relações sociais. E como a informação é considerada uma mercadoria de valor econômico essencial em um mundo globalizado, com reflexos nos âmbitos jurídico, político, cultural e socioeconômico. O Direito, nesse contexto, é essencial para regular o uso e a proteção de dados pessoais e garantir direitos fundamentais e humanos, justiça social e segurança jurídica, como para parametrizar o uso da inteligência artificial e o enfrentamento da discriminação por algoritmos tendenciosos e promover um tratamento igualitário. Reside aí a problemática central da tese, com a hipótese de que o algoritmo é discriminatório, com um recorte sobre a correlação entre a inteligência artificial e o pensamento humano, explorando não apenas a reprodução do pensamento humano, mas também o aprimoramento de suas capacidades intelectuais. Por meio de uma abordagem interdisciplinar, busca-se analisar as características da inteligência artificial e suas práticas globais, incluindo o uso de big data e os desafios relacionados aos algoritmos prejudiciais. Também, uma compreensão da discriminação algorítmica, causada pelo tratamento de dados pessoais com falhas ou tendências perigosas na tomada de decisões, resultando em injustiças para indivíduos ou grupos minoritários. A pesquisa investiga a necessidade de políticas públicas identitárias para combater o viés discriminatório dos algoritmos em relação a pessoas e grupos em estado de vulnerabilidade social, por meio da implementação de sistemas inteligentes seguros, transparentes e responsáveis, adotando medidas corretivas e mecanismos de gestão de riscos. Demonstra-se a importância da incorporação de princípios éticos e de direitos fundamentais em todas as etapas de desenvolvimento dos sistemas de inteligência artificial. Essa abordagem contribui para um controle técnico, jurídico e social abrangente durante a criação desses sistemas. E, mesmo que a pesquisa apresente pluralidade científica, ainda que sob o recorte jurídico, é perceptível a interdisciplinaridade da temática próxima da realidade gerada a partir da inteligência artificial. A pesquisa conclui que a discriminação algorítmica evidencia que a inteligência artificial não é neutra e pode contribuir para o aumento das desigualdades sociais e sua ampliação em escala global. Na execução do trabalho, preponderantemente, foi utilizado o método hipotético-dedutivo. Precedendo a análise de pesquisa bibliográfica e documental, explorando as ferramentas da ciência jurídica com uma tendência interdisciplinar (filosofia, sociologia, psicologia, matemática, estatística, ciências da computação e tecnologia da informação).