Especialista alerta para o risco de reprodução da discriminação estrutural com utilização da IA

Ao longo de três dias de debates, os(as) especialistas e representantes de instituições apresentaram sugestões a respeito da minuta de regulação do uso de IA no Judiciário

A Fenajufe acompanhou presencialmente, na sexta-feira (27), o último dia da audiência pública sobre inteligência artificial no Poder Judiciário, promovida pelo Conselho Nacional de Justiça (CNJ). A audiência teve início nesta quarta-feira (25) e abordou temas como desafios éticos e direitos fundamentais na utilização de IA no Judiciário e IA generativa, bem como seus impactos para o setor.

A coordenadora Fernanda Lauria esteve presente nos três dias do evento e destacou nesse último dia, dois dos painéis: os riscos e oportunidades da IA para administração judicial; ministrado pelo chefe da área da liberdade de expressão e segurança dos jornalistas da Unesco, Guilherme Canela; e questões éticas e antidiscriminatórias para o uso da IA no Poder Judiciário, apresentado pela coordenadora de pesquisa e pesquisadora no Instituto de Referência em Internet e Sociedade, Fernanda Rodrigues.

Canela abordou a importância das ferramentas de inteligência artificial, enfatizando a necessidade de um uso ético das plataformas. Ele alertou sobre a desigualdade gerada por essa nova realidade, especialmente para aqueles(as) que estão desconectados(as), sem acesso à internet, por exemplo. O palestrante também debateu acerca da formação da nova geração de magistradas e magistrados, que precisam compreender as complicações do uso da IA para o direito de todos.

Fernanda Rodrigues destacou que a maior parte dos dados utilizados pelos sistemas judiciais provêm dos próprios órgãos do Judiciário e que a importância de conhecer os dados que estão na base da formação tecnológica neste setor não pode ser ignorada. A pesquisadora alertou para a possível utilização de decisões anteriores como base para modelos de aprendizagem de máquinas ou mesmo modelos generativos focados em auxiliar na redação de minutas de sentenças. Segundo Fernanda, isso também significa falar de uma ferramenta capaz de reproduzir qualquer tipo de discriminação estrutural que possa estar presente em decisões passadas.

Para a especialista, se é fato que magistrados e magistradas possam ter algum tipo de preconceito em sua esfera privada, a quebra desse ciclo de reprodução de desigualdades estruturais é uma característica eminentemente humana, sendo importante se observar a máquina dentro das suas limitações.

Ela ainda reforçou que é preciso atentar-se ao próprio termo inteligência artificial e a utilização de nomes de pessoas para designar sistemas algorítmicos, pois essa atitude pode sugerir um movimento de antropomorfização da máquina, indo contra a sua verdadeira natureza.

Concluindo o tema, a palestrante trouxe à tona o emblemático caso do Sistema Compas, empregado nos Estados Unidos para calcular pontuações de réus e detentos, com o objetivo de prever a probabilidade de reincidência criminal. Esse sistema tem o intuito de ajudar na tomada de decisões judiciais relacionadas a benefícios penais, tornando-se um elemento crucial para o parecer final do juiz ou juíza. No entanto, estudos revelaram que o sistema estava impactando de forma desproporcional pessoas negras, que apresentavam um histórico semelhante ou até menos grave em comparação a pessoas brancas.

Depois dos três dias de debates, ficou mais claro do que nunca que a discussão sobre a utilização de IA não deve limitar-se apenas ao mundo do trabalho. Este tema é mais abrangente e complexo porque afeta diretamente o ambiente e a vida cotidiana das pessoas.

Regulação de IA no Judiciário

Ao longo dos três dias de debates, os(as) especialistas e representantes de instituições apresentaram sugestões a respeito da minuta de regulação do uso de IA no Judiciário. O documento será utilizado como base para atualizar a Resolução n° 332/2020 do CNJ. Esse ato normativo dispõe sobre a ética, a transparência e a governança na produção e no uso de IA nas instituições da Justiça brasileira.

As contribuições não foram limitadas à audiência pública e poderão ser apresentadas posteriormente. Nesse sentido, após os debates e análise, a Fenajufe apresentará suas considerações sobre o tema.

Assista aqui as palestras na íntegra: https://www.youtube.com/@cnj/streams

Importância do tema

A Fenajufe esteve atenta a todos os debates da audiência pública, reconhecendo que a contribuição das servidoras e servidores é fundamental. Isso porque a inteligência artificial afeta diretamente não apenas a categoria, mas toda a classe trabalhadora, já que a IA se tornou uma realidade que está transformando as dinâmicas laborais. Portanto, para a Federação, é crucial que os trabalhadores se engajem nessa discussão. Nesse sentido, o tema “a inteligência artificial e as novas relações de trabalho” foi um dos principais enfoques na Plenária de Natal, realizada em maio deste ano.

Fonte: Fenajufe