Justiça ciborgue: da colonização das instâncias decisórias pelos algoritmos

Recentemente, foi divulgada a lista de ganhadores do prêmio Nobel de 2024, seguida pelo habitual alvoroço decorrente da enxurrada de análises, considerações e curiosidades tanto sobre as pesquisas quanto sobre os pesquisadores laureados. É navegando nesse mar de notícias, que o público leigo em geral tem a possibilidade de ter algum tipo de contato com os complexos estudos premiados que trazem relevantes contribuições a todos nós que compomos uma sociedade não apenas de pessoas, mas de ideias.

Quando o perfil dos pesquisadores e o conteúdo de algumas das pesquisas premiadas são analisadas conjuntamente, um fenômeno no mínimo curioso se destaca, abrindo possibilidades de reflexão sobre os rumos do sistema de justiça. Para a compreensão desse fenômeno, deve ser assinalado, primeiramente, que o prêmio Nobel de economia foi destinado para um trio de pesquisadores que apontaram, através de estudos da história econômica, o quanto instituições públicas fortalecidas contribuem para o desenvolvimento do bem-estar social e riqueza dos países.

O prêmio Nobel de química, por sua vez, foi destinado a pesquisadores que se dedicaram à decifração da estrutura de proteínas, cujos resultados somente foram possíveis de serem alcançados em razão do emprego de tecnologias de inteligência artificial. Já o Nobel de física premiou justamente estudos considerados fundacionais desse tipo de tecnologia.

Chama atenção a informação de que os pesquisadores dos Nobéis de química e física ocupam posições de liderança em grandes conglomerados empresariais de tecnologia. Esta é, inclusive, a primeira vez que o prêmio é concedido a pesquisadores explicitamente vinculados a corporações privadas, e não a centros acadêmicos de excelência, como costumava ser habitual.

Inclusive, é digno de registro o fato de que nenhum laboratório acadêmico ou instituição pública de pesquisa possui hoje capacidades operacionais para o desenvolvimento das tecnologias de inteligência artificial no nível em que as Big Techs vêm desenvolvendo. O que hoje a academia e as instituições fazem são as aplicações de “segunda camada”, se dedicando à análise de problemas e questões sobre o uso da tecnologia ou no desenvolvimento de algumas funcionalidades ao que já existe, mas sem condições de competirem no ecossistema de desenvolvimento da IA.

Escada de Escher

O fenômeno que emerge a partir de tais premiações é uma espécie de escada de Escher, um jogo óptico ilusionista onde aclive e declive se alternam, fazendo com que  subida e  descida se apresentem ao mesmo tempo, na mesma figura. Por um lado, temos a indicação de que o fortalecimento de instituições públicas é o caminho a ser trilhado para o aprimoramento de democracias e a reafirmação de valores civilizatórios.

Por outro lado, a premiação de pesquisadores-CEOs nos indica que o que, de fato, se fortalece e se agiganta é o poder dos grandes conglomerados tecnológicos. E tal crescimento transborda aspectos meramente econômicos, implicando na proporcional expansão de seus poderes políticos, sociais, bem como de suas capacidades de produção e controle sobre a circulação de informações e conhecimentos. Assim, assistimos tais conglomerados operarem como espécies de buracos negros, que capturam tudo aquilo situado em seu entorno para seus centros de gravidade, promovendo um verdadeiro deslocamento do eixo ontológico dos modos de vida e da própria realidade.

No que tange ao estudo laureado que enfatiza a correlação dos níveis de qualidade de vida e o grau de fortalecimento de instituições públicas, não há dúvida de que tais conclusões englobam as instituições de acesso e promoção de justiça. Isso porque, a dimensão protetiva do Direito é um elemento determinante para a vida de qualquer pessoa nas sociedades capitalistas contemporâneas, sendo que a segurança e a certeza jurídica podem ser consideradas bens de valor inestimável em razão dos níveis de dignidade que oferecem aos cidadãos em geral ^[1].

Mas quando as decisões vinculativas com força de autoridade passam a ser amplamente produzidas por tecnologias de inteligência artificial — que operam através de sistemas de linguagem mantidos pelos grandes conglomerados tecnológicos imunes a qualquer auditoria ou escrutínio público —, não são, definitivamente, as instituições do sistema de justiça que se fortalecem.

Mais do que isso, a própria concepção de justiça passa a ganhar diferentes contornos nesse novo capítulo da revolução digital promovido pelo uso massivo de tecnologias de IA, pois, para além da captura operacional das engrenagens do poder judiciário, há uma captura existencial das instâncias decisórias. E ao emergir uma nova forma de se fazer justiça, novas reflexões sobre a ideia de justiça devem também vir à tona.

Trazendo essas reflexões para o judiciário brasileiro, o que observamos de antemão é o uso massivo e incentivado das tecnologias de IA, que realmente possuem capacidades sobre-humanas no processamento de dados e identificação de padrões complexos. O discurso da eficiência ecoa enquanto os algoritmos leem quase instantaneamente incontáveis volumes de processos e elaboram intrincadas decisões judiciais que impactam diretamente a vida de inúmeras pessoas todos os dias.

E de fato, no atual estágio que a humanidade se encontra, a insurgência pura e simples contra o uso de tais tecnologias poderia ser encarada como uma espécie de ludismo anacrônico do século 21, um posicionamento sem sentido, na medida em que tenta situar o debate dois passos para trás quando o mundo já está quilômetros na frente.

Por outro lado, as reflexões que se impõem devem ir para além de questões éticas ou visões romantizadas sobre características intrinsecamente humanas que máquinas não conseguiriam alcançar. Sem dúvida há uma perspectiva ética quando informações sobre as vidas das pessoas são entregues a ferramentas tecnológicas de empresas privadas e decidem seus futuros, mas há, sobretudo, questões políticas, epistemológicas e ontológicas que merecem uma dedicada atenção dentro desse cenário.

Sobre uma suposta sensibilidade do olhar do julgador de carne e osso sobre as vidas humanas a serem decididas, basta pensarmos que esse mesmo olhar é o responsável pela atribuição de diferentes pesos ao que é dito num processo judicial, a depender da figura, se masculina ou feminina, e da cor da pele da pessoa que está falando. Em que pese a possibilidade da reprodução de vieses, é plenamente viável que tecnologias de IA sejam programadas para operarem sem levar em consideração fatores que a ecologia social humana, marcada por vieses identitários preconceituosos, acaba computando como relevantes.

Não se ignora que o uso das ferramentas de tecnologia cognitiva é uma realidade que se espraia também para outros campos do conhecimento, trazendo questões da mesma forma complexas para o centro do debate, como é o caso das obras de arte, músicas e literatura geradas por meio de sistemas de automação inteligentes. Porém, o fato de o poder judiciário ser também uma instância política, onde questões sociais complexas são levadas para sua apreciação, adiciona outras camadas de análise.

Ao solucionar conflitos, o judiciário inevitavelmente impacta as dinâmicas sociais, legitimando ou deslegitimando reivindicações, validando ou invalidando modos de vida e reafirmando ou enfraquecendo interpretações da realidade social. Portanto, muito além de um resolvedor de contendas, o judiciário possui o giz que delimita tudo aquilo que está dentro e fora do campo protetivo e legitimador do Direito.

Ainda que seja um espaço inevitavelmente captável pelos grandes interesses hegemônicos, é também um locus em que pessoas e grupos subalternizados ainda podem acessar, com perspectivas de transformações de suas realidades e, portanto, com perspectivas de transformações sociais.

Algoritmos

Por sua vez, as ferramentas de inteligência artificial funcionam principalmente por meio de algoritmos que, ao processarem dados, identificam padrões, e, a partir de tais identificações, tomam decisões ou fazem previsões. Esse processo somente é possível porque os algoritmos de IA são capazes de analisar e atribuir lógicas a estruturas complexas de dados, o que seria praticamente  impossível para uma pessoa realizar de forma manual em grande escala.

Há diferentes formas de os algoritmos operarem, a depender da rotulação prévia ou não dos dados. Mas o que esses sistemas de inteligência artificial têm em comum, principalmente aqueles que se debruçam sobre dados não estruturados, isto é, não rotulados, é o fato de operarem em um modelo chamado “caixa preta”, no qual o processo de tomada de decisão ou a lógica interna do modelo não é facilmente compreendido ou acessível para os humanos. Os dados de entrada (comando) e de saída (resultado) são conhecidos, mas o processamento que permite a conexão dessas duas pontas deixa de ser cognitivamente compreensível, ainda mais para o grande público.

Nesse cenário, a premissa do sistema judicial, calcada na possibilidade do exercício do contraditório e do duplo grau de jurisdição, é inevitavelmente impactada, na medida em que os fundamentos da decisão podem tornar-se inacessíveis ao próprio julgador.

Não se ignora o fato de que as características intrinsecamente humanas podem fazer por si só com que as razões de decidir sejam inacessíveis ao julgador, na medida em que seres humanos não possuem um efetivo controle sobre os caminhos que seus processos mentais-decisórios elaboram e percorrem. Porém, em razão do dever de motivação que o julgador deve observar, deverá indicar ao menos de forma argumentativa e inteligível a linha consciente de raciocínio percorrida até a formação da sua conclusão.

Quando as decisões são geradas por algoritmos, o rastreio dessa linha pode se tornar uma tarefa inexequível para nós, humanos. Assim, não apenas as premissas do sistema de justiça, mas suas bases teóricas que se debruçam sobre possíveis formas de decisão, são afetadas.

Nesse sentido, a escola do realismo jurídico, assim como todas as correntes de teorias da decisão, precisa de urgentes atualizações. Um de seus pressupostos, calcado na ideia de que as decisões judiciais são influenciadas por fatores extrajudiciais, revela-se cada dia mais acertado, mas por razões que nenhum de seus principais pensadores cogitou sequer imaginar.

Outra de sua premissa, no sentido de que o Direito está longe de ser uma disciplina lógica e previsível, faz sentido quando a aplicação das leis depende da manipulação por mãos e mentes humanas, mas essa mesma constatação passa a ser questionável quando o sistema de justiça é colonizado por algoritmos, que estruturam e atribuem lógicas próprias no agrupamento de dados e informações.

Se não fossem suficientes as questões levantadas, ainda temos ingredientes que podem fazer a receita do estado democrático de direito desandar. A colonização dos algoritmos sobre o sistema de justiça é, na verdade, uma captura literal de suas engrenagens, que deixam de funcionar nos espaços institucionais públicos e passam a ser manejadas em espaços virtuais privados.

Importante o registro de que a revolução no consumo de IA que estamos vivenciando somente foi possível de acontecer considerando o amplo acesso e controle que os conglomerados de tecnologia possuem sobre os dados disponibilizados na internet. Vale lembrar que o sistema de publicação conhecido como World Wide Web (www) nasceu com a ideia de que qualquer pessoa poderia compartilhar conhecimento utilizando uma linguagem de publicação.

Mas aquilo que tinha aspirações de ser um bem público compartilhável, logo passou a ser sitiado e dominado por lógicas mercadológicas implementadas pelas grandes empresas de tecnologia. O que esperar então do massivo compartilhamento de dados que hoje ocorre quando processos inteiros são jogados em plataformas de tecnologias cognitivas, que retroalimentam a leitura e padronização desses mesmos dados? Mais do que problemas de violação de garantias de privacidade e intimidade, o que já é grave por si só, é a própria soberania e democracia de países que entram em cheque quando uma justiça ciborgue é formatada e passa a decidir os rumos das dinâmicas sociais.

A justiça ciborgue não veste toga, ao invés disso ela está logada em uma conta de e-mail de uma empresa privada. A justiça ciborgue também não possui como telos a promoção de ideais de justiça, pois a estrutura onde ela opera foi criada e é mantida para a persecução de apenas um único interesse: lucro.

A biopolítica de Foucault não passa de um frágil prenúncio da justiça ciborgue, pois a fusão do julgador e máquina inaugura uma pólis tecnológica não mais estruturada pela polaridade do público e do privado, na medida em que há uma transmudação dos bens públicos em privados.

O presente ensaio não pretende ser um manifesto apocalíptico, apesar de realmente estarmos assistindo o fim do mundo que as gerações nascidas no século 20 ou começo do século 21 até então conheciam. Mas a morte de um mundo velho não é o fim da história, é apenas o começo de outra. Ao tomar o “Manifesto Ciborgue”, escrito em 1985 pela filósofa estadunidense Donna Haraway, como inspiração para as presentes reflexões, é importante pontuar que a metáfora do ciborgue construída pela autora continha um grande potencial liberatório, pois, apesar de não ignorar que toda a invenção tecno-científica pode ser usada para sustentar as relações de dominação, a figura híbrida do ciborgue era, entre outras coisas, uma oportunidade para atacar o excepcionalismo humano e tudo o que ele endossa (pureza humana, racial, de gênero, etc.).

O ciborgue seria assim uma afirmação de nossas misturas, de nossa conexão e interdependência (humano-máquina-animal); uma figura facilitadora de inter-relações, múltiplos acoplamentos, agenciamentos e conexões. Em vez de ver a tecnologia como alienante, o ciborgue seria a oportunidade de ressignificação das relações de poder e das subjetividades.

Portanto, o presente ensaio consiste em primeiras reflexões sobre uma justiça ciborgue, apontando questões sensíveis que se revelam diante da colonização das IAs e Big Techs sobre as instâncias decisórias. Por outro lado, pensar quais seriam as possíveis brechas dessa nova realidade, capazes de lançar o sistema de justiça em direções mais potentes/democráticas/emancipatórias, são reflexões que também precisam acompanhar o diagnóstico mais crítico do presente cenário.

Na linha dos ensinamentos de Haraway ^[2], quando a ciência e a tecnologia fornecem fontes renovadas de poder, nós precisamos de fontes renovadas de análise e de ação política. Portanto, saber o que a justiça ciborgue será é uma questão radical; respondê-la é uma questão de sobrevivência.

___________________________________

^[1] MACCORMICK, Neil. Rhetoric and the rule of the law: a theory of legal reasoning. New York: Oxford  University Press, 2005, p. 12.

^[2] HARAWAY, Donna. Manifesto Ciborgue: Ciência, Tecnologia e Feminismo-Socialista no final do século XX.