Regulação da inteligência artificial: iniciativas estaduais nos EUA

A regulação da inteligência artificial tem se tornado um tema central nas discussões legislativas ao redor do mundo. Em 2024, a União Europeia deu um passo significativo ao promulgar um regulamento específico para IA [1]. Nos Estados Unidos, embora o Congresso ainda debata várias propostas, os estados têm avançado de forma independente, criando leis que abordam tanto aspectos gerais quanto específicos da utilização de IA. Este artigo examina as iniciativas estaduais e suas principais implicações.

A expressão “inteligência artificial” refere-se ao uso de computadores para imitar a inteligência humana, e a variação de seu significado acompanha a evolução dos diferentes sistemas desenvolvidos para processar informações digitalizadas. Um exemplo bem conhecido é o ChatGPT da Microsoft, que significa “Generative Pre-Trained Transformer”. Este algoritmo é treinado a partir de um grande volume de dados e pode organizar o tratamento dessas informações utilizando mecanismos avançados de atenção. Para cada consulta recebida, o modelo processa os dados disponíveis e gera respostas baseadas em probabilidades, ao final se utilizando de linguagem natural, em modo similar a uma conversa (chat).

Como é comum na informática, o funcionamento desses sistemas é frequentemente descrito por meio de analogias com eventos do mundo natural. Costuma-se dizer que o programa de computador, ao acessar bases de dados, “lê” e “aprende” ao estabelecer probabilidades para combinar as informações contidas nessas bases e, a partir disso, gerar respostas. Estas, evidentemente, dependerão da definição de critérios, que podem ser orientados (treinados) por interação direta com seres humanos ou de modo autônomo pelos algoritmos que compõem esses sistemas de processamento de informações.

À medida que as condutas humanas empregam cada vez mais comunicação mediada por computadores, amplia-se a possibilidade de sua regulação ser conduzida diretamente por sua programação, que, vale notar, não precisa necessariamente utilizar regras redigidas em vernáculo. Nesse contexto, a interação humana poderá ser moldada por tais programas, permitindo ou impedindo condutas com base na organização desses sistemas, conformando-se regramentos sem se adotar o método clássico de edição de normas, o que suscita razoáveis temores sobre esse modo de disciplinar condutas.

A combinação desses fatores possibilita o desenvolvimento de sistemas informatizados que não só geram respostas a perguntas complexas, mas também implementam essas respostas sem, necessariamente, ocorrer intervenção humana. Nesse passo, as informações fornecidas por esses sistemas podem ter impactos imediatos, influenciando ações e decisões e gerando eventos com repercussões jurídicas. Diante dessas possibilidades de automatização, não é surpreendente o interesse dos legisladores no crescente uso desses sistemas, tanto no setor público quanto no privado, resultando na promulgação de normas para regulamentar a matéria.

Nesse contexto, leis surgem em vários estados dos EUA, abordando tanto questões mais abrangentes como pontos específicos, conforme os consensos locais são alcançados.

Em relação a temas mais amplos, observam-se fatores como: a imposição de um dever geral de transparência exigível aos desenvolvedores e provedores desses sistemas; a regulação abrangente do que é considerado como alto risco; e orientações básicas para a implantação e uso governamental desses sistemas. Como exemplos de questões específicas, destacam-se a proibição de discriminação ilegal; a proteção em relações de consumo e dados pessoais; e restrições a falsos vídeos, imagens e áudios que esses sistemas computacionais são capazes de produzir (deepfakes).

Califórnia, Utah e Colorado

A respeito dessas normas recentes, cabe ressaltar que, no estado da Califórnia, onde operam algumas das principais empresas de tecnologia dos EUA, diversas leis foram promulgadas, estabelecendo-se os seguintes conceitos legislados [2]:

a) “Inteligência artificial” significa um sistema projetado para computadores ou desenvolvido por computador que varia em seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir das entradas que recebe como gerar saídas que podem influenciar ambientes físicos ou virtuais.

b) “Sistema de decisão automatizada” significa um processo computacional derivado de aprendizado de máquina, modelagem estatística, análise de dados ou inteligência artificial que emite uma saída simplificada, incluindo uma pontuação, classificação ou recomendação, que é usada para auxiliar ou substituir a tomada de decisão discricionária humana e impacta materialmente em pessoas naturais. “Sistema de decisão automatizada” não inclui um filtro de spam de e-mail, firewall, software antivírus, ferramentas de gerenciamento de identidade e acesso, calculadora, banco de dados, conjunto de dados ou outra compilação de dados.

c) “Sistema de decisão automatizada de alto risco” significa um sistema de decisão automatizada que é usado para auxiliar ou substituir decisões discricionárias humanas que têm um efeito legal ou similarmente significativo, incluindo decisões que impactam materialmente o acesso a, ou aprovação para, moradia ou acomodações, educação, emprego, crédito, saúde e justiça criminal.

Outras medidas legislativas envolvem a proteção contra uso de IA na produção de falso conteúdo sexual ofensivo (deepfake pornography). No campo da política, disciplinou-se: o dever de as plataformas retirarem o material enganador produzido a respeito de candidatos ou políticos eleitos [3];  a proibição de se distribuir esse material [4]; e o dever de identificar claramente a propaganda política produzida por IA [5].

Nos estados de Utah e do Colorado, as leis aproveitaram o campo de proteção ao consumidor para tratar da IA. Em Utah, ao lado da proteção a dados pessoais e a repressão a atos enganadores, adotou-se uma política de acompanhamento dos usos da IA em par com a instituição de um laboratório para o seu aprendizado e desenvolvimento [6].

A Lei do Colorado [7], de cunho mais geral, prevista para entrar em vigor em 2026, também ofereceu balizas conceituais, assim se pronunciando a respeito da discriminação algorítmica:

“Discriminação algorítmica” significa qualquer condição em que o uso de um sistema de inteligência artificial resulta em um tratamento diferencial ou impacto ilegal que desfavorece um indivíduo ou grupo de indivíduos com base na sua idade real ou percebida, cor, deficiência, etnia, informação genética, proficiência limitada na língua inglesa, origem nacional, raça, religião, saúde reprodutiva, sexo, status de veterano ou outra classificação protegida pelas leis deste estado ou pela lei federal.

Cabe destacar, também, o conceito oferecido às decisões com consequências relevantes para os direitos das pessoas afetadas:

“Decisão consequencial” significa uma decisão que tem um efeito legal material, ou similarmente significativo, na oferta ou negativa a qualquer consumidor, ou no custo ou termos de: (a) matrícula educacional ou uma oportunidade educacional; (b) emprego ou uma oportunidade de emprego; (c) um serviço financeiro ou de empréstimo; (d) um serviço governamental essencial; (e) serviços de saúde; (f) habitação; (g) seguro; ou (h) um serviço legal.

Evolução fragmentada

Esse conjunto de formulações conceituais normatizadas evidencia o esforço dos legisladores não apenas em impedir o uso da IA para a prática de ilícitos já previstos em lei, mas também em disciplinar o seu uso lícito, especialmente no que tange à tomada de decisões, o que progressivamente deverá ocorrer em ações que se apoiarem no uso de computadores. Demarca, assim, as iniciativas federadas de incorporar nas respectivas legislações o que está sendo percebido como IA e os aspectos de sua aplicação que hoje encontram maior aceitação para serem regulados.

Percebe-se que a regulação da IA nos EUA está evoluindo de maneira fragmentada, com os estados liderando o caminho, enquanto o Congresso ainda delibera sobre uma eventual abordagem federal. Até o presente, as leis estaduais refletem uma tentativa de equilibrar a inovação tecnológica com a proteção dos direitos dos cidadãos, abordando desde a transparência e o risco até questões específicas como a discriminação e a privacidade. À proporção que a IA se integra em diversos setores da sociedade, a necessidade dessa regulamentação se torna cada vez mais premente.

Cabe apontar, porém, que, se por um lado, há nos EUA a percepção de que a legislação estadual é vista como uma esfera privilegiada para testar diferentes experiências normativas, por outro, não se deve perder de vista o seu alcance territorial limitado e a possibilidade de ela ser alterada mais rapidamente que a legislação federal. Além disso, essas leis ainda passarão pelo crivo do Poder Judiciário nos inevitáveis litígios que se seguirão, dado o estágio embrionário dessas questões.

Nada obstante, elas compõem uma contribuição significativa e atual para a discussão mundial em curso sobre a regulação da IA, ora merecendo atenção.

*Este artigo é obra de cunho acadêmico e não reflete necessariamente a posição das instituições nas quais o autor trabalha.

[1] União Europeia. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=OJ:L_202401689. Acesso em 10/12/2024.

[2] State of California. Assembly Bill No. 2885. Disponível em: https://leginfo.legislature.ca.gov/faces/billStatusClient.xhtml?bill_id=202320240AB2885. Acesso em 10/12/2024.

[3] State of California. Assembly Bill-2655. Disponível em: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240AB2655. Acesso em 10/12/2024.

[4] State of California. Assembly Bill-2839. Disponível em: https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2839. Acesso em 10/12/2024.

[5] State of California. Assembly Bill-2355. Disponível em:  https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240AB2355. Acesso em 10/12/2024.

[6] State of Utah. Artificial Intelligence Policy Act. Disponível em:  https://le.utah.gov/~2024/bills/sbillenr/SB0149.pdf. Acesso em 10/12/2024.

[7] State of Colorado. Colorado Artificial Intelligence Act. Disponível em: https://leg.colorado.gov/sites/default/files/2024a_205_signed.pdf. Acesso em 10/12/2024.