A UTILIZAÇÃO DA INTELIGÊNCIA ARTIFICIAL NO JUDICIÁRIO: uma análise dos riscos da perpetuação do racismo estrutural em decisões judiciais

Resumo

Este estudo tem como objetivo investigar como algoritmos de Inteligência Artificial utilizados no judiciário podem conter vieses racistas e analisar de que forma a utilização dessa tecnologia na prolação de sentenças pode perpetuar decisões discriminatórias. Dessa forma, a pesquisa busca responder a seguinte pergunta: Como a utilização da IA para prolação de sentenças pode perpetuar decisões racistas? A IA tem sido cada vez mais empregada em diversas áreas, incluindo o sistema judiciário, com a promessa de otimizar processos e garantir decisões mais imparciais. No entanto, os algoritmos utilizados nessas ferramentas podem refletir e amplificar vieses presentes nos dados históricos com os quais são treinados, resultando em decisões que favorecem estereótipos e preconceitos, particularmente em relação a minorias raciais. A pesquisa aborda o conceito de vieses algorítmicos, que se referem à tendência dos algoritmos de replicar discriminações preexistentes, e como esses vieses podem impactar negativamente as sentenças judiciais, contribuindo para a perpetuação da desigualdade racial no sistema legal. A pesquisa se desenvolve com o método qualitativo de pesquisa e o tipo de pesquisa descritivo, em conjunto com a pesquisa jurídico-comparativo, analisando ordenamentos jurídicos estrangeiros para fins de direito comparado. Ao final, considerou-se que a aplicação da inteligência artificial de forma autônoma na prolação de sentenças pode vir a reproduzir elementos racistas devido a fatores subjetivos e intrínsecos, como vieses corrompidos e reprodução de padrões discriminatórios, tendo como possível mitigação a coleta de dados representativos e diversificados, a fim de corrigir o treinamento das IAs.