IA como instrumento de controle social

A leitura das notícias envolvendo o uso de inteligência artificial – doravante indicada como IA – nos últimos dois anos dá a falsa impressão de que este é o cenário de tempo em que essa tecnologia se apresenta em nossas vidas. Diz-se falsa impressão porque, a rigor, o suporte de decisões empresariais com ferramentas estatísticas sofisticadas já se irradiava pelo mundo da vida há mais tempo, em mecanismos como “quem compra isso, compra aquilo”. O evento que parece ter “virado a chave”, na percepção social da presença de IA em vários domínios, é a chegada dos mecanismos generativos.

Por todos os lados tem-se a proclamação do potencial de geração de imagens ou sons a partir de ferramentas de IA. As redes sociais oferecem todo tipo de brincadeira tendo essa base tecnológica, atraindo usuários ao compartilhamento indiscriminado de suas pegadas digitais em troca de uma imagem que combina seu rosto com um gato, ou coisas do gênero. Transformar sua figura num anime, avatar ou qualquer outra figura fantástica é a grande diversão.

Decerto, outras considerações se apresentam no ambiente social em relação ao uso de IA. Proteção a direitos autorais é uma delas. Na corrida do Oscar deste ano, por exemplo, coloca-se o debate em relação ao uso de IA para a geração de esquetes atribuídos ao arquiteto retratado no filme O Brutalista, além de correção da pronúncia de frases em húngaro pelo protagonista do filme. Qual o limite para reconhecer-se que o uso de IA é mero suporte à produção criativa final?

Sociedade civil organizada e o uso de IA para além da diversão

O ponto que se quer estressar neste ensaio é o uso potencial de IA pela sociedade, não para a diversão com imagens de gatinhos, ou para alimentar o debate sobre onde reside a arte e a performance. O que se deseja evidenciar é que também a sociedade organizada pode ter, no uso de IA, mecanismos potentes para o exercício fundado de participação e controle social.

Ambas as práticas são de há muito louvadas pela doutrina em Direito Administrativo, como desdobramento natural da opção constitucional pelo Estado Democrático de Direito. Uma sociedade que conhece, deseja participar, e com isso enriquecido será o exercício das escolhas públicas concretizadoras dos projetos de transformação social propostos pela Constituição. A discussão é conhecida, e não se pretende reproduzi-la aqui. O que se quer é evidenciar que o uso de IA pelas estruturas organizadas da sociedade pode potencializar esses efeitos positivos já antes indicados pelos teóricos.

Tem-se hoje já mais disseminada a compreensão da impropriedade da referência à IA como mecanismo único, homogêneo. É a própria eclosão da IA generativa que contribuiu para esse esclarecimento, eis que o público com aproximação na matéria consegue perceber a existência de mecanismos especializados (v.g., o MidJourney como gerador de imagens) e ainda daqueles classificados como multimodais (ChatGPT, e o mais recente de todos, DeepSeek). A par disso, mesmo entre os modelos basicamente estatísticos, teremos aqueles que empreendem a pura agregação de informações e identificação de padrões; e aqueles de cariz preditivo – que projetam comportamentos futuros a partir de informações dos fatos havidos no passado.

Essa diversidade de resultados potenciais do uso de mecanismos de IA é que se está a sustentar seja potencial ferramenta de incremento da intervenção da sociedade civil organizada na qualificação e monitoramento de escolhas públicas. E isso se afirma por várias razões.

Modelagens de IA subsidiadas pela sociedade civil

Primeira delas reside na circunstância de que ainda hoje, em pleno século 21, não é incomum que as estruturas administrativas mais precárias não tenham memória de ações pretéritas. Em que pese cânones como os do formalismo do ato administrativo, o registro das razões de decidir e seu contexto não é uma prática da administração. O desincentivo ao registro de toda a extensão dos efeitos da ação administrativa será ainda maior quando ela não for bem-sucedida. Ausentes estas informações no âmbito da administração, prejudicado fico o emprego de mecanismos os mais rudimentares de IA, e com isso tem-se a perda do potencial de aprendizado e qualificação das políticas públicas a serem desenvolvidas para futuro.

Estruturas mais estáveis da sociedade civil organizada não sofrem os efeitos desse mesmo jogo de incentivos e desincentivos. Ao contrário, como seu papel frequentemente é de controle, o olhar e a construção da memória tendem a incidir sobre acertos, mas especialmente sobre erros. Esse retrato amplo é indispensável como base de aprendizado para mecanismos de IA que possam descrever com precisão, os efeitos da política pública antes desenvolvida.

Segundo aspecto em que o uso de IA por estruturas da sociedade civil organizada pode ser fundamental à qualificação de políticas públicas, é na decodificação do papel de preditores fracos identificados pela ferramenta. Explica-se.

Na análise de efeitos já verificados, ou na projeção destes mesmos resultados atribuídos a políticas públicas em curso ou em construção, o mecanismo de IA identifica padrões – relações de correlação, mas não necessariamente de causalidade. São estes padrões que, uma vez interpretados, podem permitir o diagnóstico quanto às relações de causalidade. O ponto está em que normalmente, a análise humana empreendida em relação aos padrões existentes num conjunto de dados capta preditores fortes, intuitivos – v.g, pessoas com mais de 70 anos se presume tenham menos capacidade para o trabalho. Mecanismos de IA ao contrário, captam padrões menos intuitivos, menos perceptíveis à análise humana. E nesses preditores fracos existe um potencial de visibilização de problemas públicos até então não revelados. Preditores fracos tendem a dar visibilidade a minorias que tenham menos potencial de vocalização.

O uso por estruturas da sociedade civil organizadas de mecanismos de IA analíticos pode revelar esses preditores fracos – que passariam desapercebido, já se disse, a um desenho de políticas públicas empreendido por unidades administrativas mais carentes deste tipo de input. Mas pode ainda contribuir para a apresentação de hipóteses explicativas para ocorrências associadas a estes mesmos preditores fracos, ampliando a capacidade de compreensão do problema. Subinclusões em políticas públicas, por exemplo, podem ser reveladas pelo uso deste tipo de mecanismo de IA. Em última análise, tem-se um potencial expressivo de refinamento da atividade de avaliação da política pública.

Finalmente, é de se indicar que a sociedade civil organizada pode ter papel muito relevante na construção de modelos preditivos, subsídio importantíssimo para a formulação em si da escolha pública quanto à estratégia a ser utilizada para o enfrentamento de um problema. Isso porque, com a ampliação das áreas em que se pretende algum tipo de ação estatal, é previsível que se tenha campos onde as informações contidas nas bases de dados públicas sejam escassas. Se o quadro é esse, esvaziada fica a capacidade de predição de um modelo construído basicamente a partir dos dados detidos pela Administração.

Entidades organizadas da sociedade civil, ao contrário, tendem à especialização, e com isso, à reunião mais recortada de dados afetos ao tema que determinou sua própria criação. É possível que os dados por ela detidos sejam mais amplos e/ou qualificados, incrementando a qualidade de um modelo preditivo a ser construído pela administração.

Desafio cultural à proposta de Governo Digital

É certo que tudo isso depende de uma compreensão de governo digital alinhada com os cânones da Lei 14.129, de 29 de março de 2021 – Lei do Governo Digital. Mais ainda, é preciso uma mudança de cultura em relação a uma visão arcaica de que informações sobre problemas e políticas públicas sejam propriedade exclusiva da administração pública.

De outro lado, o mergulho das estruturas organizadas da sociedade no universo de IA, para além das figurinhas, pode qualificar sobremaneira, seja suas propostas de ação, seja o exercício do controle social.

Não desconhece a autora que estruturas formais de controle público como Tribunais de Contas e mesmo o Judiciário tem investido na internalização de mecanismos de IA para o desenvolvimento de suas atividades – mas esta é uma incursão direcionada não à proposição, mas sim ao juízo de conformidade. Não se cogita – porque essa não é sua vocação institucional – de esforços de desenvolvimento de modelos preditivos no âmbito destas estruturas, e com isso, abdica-se de um efeito potencialmente benéfico de uma tecnologia já disponível.

A ampliação de comunicação e informação proporcionada pelas novas tecnologias – e IA não se constitui exceção – deve ser entendida como uma janela de oportunidade de consolidação de relações de colaboração recíproca, e não predominantemente adversariais. Essa é uma orientação que pode nos auxiliar na construção do Admirável Mundo Novo – não aquele de Aldous Huxley, mas um em que o concurso de informações e inteligências se ponha a serviço do bem de todos.