Inteligência artificial no Judiciário: governança e transparência como alicerces

Durante as audiências públicas sobre o uso da inteligência artificial (IA) no Judiciário, em Brasília, tive a oportunidade de participar e contribuir com um tema que considero fundamental para o futuro da Justiça no Brasil. A pesquisa apresentada pelo Conselho Nacional de Justiça (CNJ) revelou o panorama do uso da IA no sistema judiciário que reflete o crescimento acelerado dessa tecnologia.

De acordo com o levantamento, 27% dos magistrados e 31% dos servidores já utilizam ferramentas de IA generativa, como o ChatGPT, em suas atividades diárias. No entanto, mais de 70% dos entrevistados afirmaram que utilizam a tecnologia “raramente” ou “eventualmente”, o que demonstra que ainda estamos nos primeiros passos de sua incorporação nas rotinas de trabalho.

Desde 2020, quando o CNJ lançou as primeiras normas para regulamentar o uso da IA, muita coisa mudou. Hoje, em 2024, vemos uma IA generativa acessível a qualquer pessoa, diretamente de um celular. O Brasil, por exemplo, já é o quarto país do mundo que mais utiliza essa tecnologia (1), ficando à frente de nações como Alemanha e Reino Unido. Isso demonstra o quanto o cenário evoluiu e o potencial que temos em mão.

Durante minha fala na audiência, destaquei um ponto fundamental: não se trata de frear o avanço da tecnologia, mas sim de garantir que ele seja conduzido de maneira ética, segura e transparente. O uso da IA no Judiciário tem enorme potencial, mas também traz riscos. Falhas ou alucinações dessas ferramentas podem gerar impactos graves na vida das pessoas. Por isso, é essencial que o desenvolvimento e a implementação dessas tecnologias sejam acompanhados de práticas robustas de governança, auditoria e, sobretudo, transparência.

O processo de criação e o uso da IA deve incluir, desde o início, uma avaliação criteriosa dos riscos envolvidos. É preciso que o planejamento, a execução e até mesmo a descontinuidade de uma ferramenta de IA sigam critérios rigorosos de segurança, conformidade legal e respeito aos direitos fundamentais das pessoas. Essa é a única maneira de garantir que essas tecnologias sejam realmente confiáveis e que possam servir ao propósito maior de promover justiça.

Capacitação de profissionais

Outro ponto que considero imprescindível é a capacitação contínua dos profissionais que lidam com a IA. O uso dessa tecnologia exige conhecimento técnico para identificar e mitigar falhas, e isso só pode ser alcançado por meio de treinamentos adequados. Defendo a criação de comitês de risco dentro do CNJ, com o objetivo de monitorar o uso da IA de maneira preventiva. Esses comitês precisam ter planos de ação definidos para lidar com problemas antes que se tornem crises, evitando o caos e garantindo respostas rápidas e eficazes.

A proteção de dados, especialmente de grupos vulneráveis como crianças, adolescentes e idosos, é tema que sempre merece atenção redobrada. O uso inadequado de informações sensíveis pode trazer consequências desastrosas. Por isso, também considero a criação de uma política de IA que aumente a transparência para os usuários, com explicações claras e acessíveis sobre como a tecnologia está sendo utilizada, para quais finalidades e quem procurar em caso de dúvidas ou problemas. Considero ainda que as hipóteses de autorização de licença privada ou gratuita, para além dos juízes, deveriam ser ampliadas aos servidores.