OCDE atualiza 1ª norma intergovernamental sobre IA do mundo

A inteligência artificial (IA) está a transformar todos os aspectos das nossas vidas. Influencia a forma como trabalhamos e nos divertimos.

Promete ajudar a resolver desafios globais como as alterações climáticas e o acesso a cuidados médicos de qualidade. No entanto, a IA também traz desafios reais para os governos e os cidadãos, desde a geração de desinformação e desinformação até deepfakes e alucinações, tornando difícil diferenciar entre o que é verdadeiro e o que não é.

À medida que a IA permeia as economias e as sociedades, que tipo de quadros políticos e institucionais devem orientar a sua concessão e utilização e como podemos garantir que beneficia a sociedade no seu conjunto?

Foi com estas questões em mente que a OCDE trabalha desde 2016 para implementar recomendações ou princípios sobre IA.

Nessa linha, para acompanhar os progressos na implementação dos Princípios de IA da OCDE, a OCDE desenvolveu o OECD.AI Policy Observatory [Observatório de Políticas de IA da OCDE], um hub central para dados, análises e relatórios de IA em tempo real ou quase real, que se tornaram recursos oficiais para muitas decisões. Hoje, o OCDE documenta mais de 1.000 iniciativas de IA em quase 70 jurisdições.

Paralelamente a isto, a OCDE instituiu o Grupo de Trabalho sobre a Governança da IA que revê as recomendações/princípios emitidos para se certificar de que elas permanecem relevantes, atualizadas e de acordo com a inovação acelerada da IA.

Por fim, a OCDE também criou a OCDE.AI Network of experts, uma rede de peritos experts, composta por mais de 350 dos principais especialistas em IA a nível mundial — para ajudar a explorar a sua inteligência coletiva para informar a análise política. Esta rede está organizada em seis grupos temáticos:

1. Futuros da IA;
2. Riscos e responsabilidade da IA;
3. Incidentes de IA;
4. Índice de IA;
5. IA, Dados e privacidade; e
6. Computação e clima.

Em 21 de maio de 2019, os Estados-Membros da OCDE adotaram a recomendação do Conselho Ministerial da OCDE sobre IA.

Essa recomendação do Conselho inclui os dez princípios de IA da OCDE e contém definições que sustentam e incentivam a interoperabilidade internacional. As definições da recomendação de um sistema de IA e do seu ciclo de vida são utilizadas em todo o mundo, incluindo Chile, Japão, Nova Zelândia, Estados Unidos, dentre outros.

Os dez princípios da OCDE para uma IA confiável

Os dez princípios de IA da OCDE, inicialmente adotados em 2019 e atualizados em maio de 2024, são:

1. Crescimento inclusivo, desenvolvimento sustentável e bem-estar;
2. Valores centrados no ser humano e equidade;
3. Transparência e “explicabilidade”;
4. Robustez, segurança e proteção;
5. Responsabilidade;
6. Investir na investigação e desenvolvimento da IA;
7. Promover um ecossistema digital para a IA;
8. Criar um ambiente político favorável à IA;
9. Reforçar as capacidades humanas e preparar a transformação do mercado de trabalho;
10. Cooperação internacional para uma IA confiável

Nas palavras do secretário-geral da OCDE, Mathias Cormann, “os Princípios de IA da OCDE são um ponto de referência mundial para a elaboração de políticas em matéria de IA facilitando a interoperabilidade das políticas a nível mundial e promovendo a inovação com os seres humanos no centro”.

Tais princípios orientam os atores da IA nos seus esforços para desenvolver uma IA confiável e fornecem aos reguladores recomendações para políticas eficazes de IA. Os países usam os princípios da OCDE e ferramentas relacionadas para moldar políticas e criar estruturas de risco de IA construindo uma base para a interoperabilidade global entre jurisdições.

Atualmente, a União Europeia, o Conselho da Europa, os Estados Unidos, as Nações Unidas e outras jurisdições utilizam a definição de sistema de IA da OCDE e o ciclo de vida abaixo indicado nos seus quadros legislativos e regulamentares e nas suas orientações. Os princípios, a definição e o ciclo de vida fazem todos parte da recomendação da OCDE sobre inteligência artificial.

O Brasil se comprometeu “indiretamente” com os Princípios da IA da OCDE. Isto porque não aderiu diretamente, mas, como membro do G-20,  comprometeu-se com os princípios  do G-20 sobre IA que, por sua vez, foram inspirados nos Princípios da OCDE.

A atualização da 1ª norma intergovernamental sobre IA do mundo

No dia 2 de maio de 2024, na última reunião de seu Conselho Ministerial, a OCDE adotou as revisões propostas a seus princípios sobre inteligência artificial (IA).

Com esta atualização, os Princípios de IA da OCDE fornecerão um modelo para a interoperabilidade global da política de IA e para que as decisões políticas acompanhem o ritmo da tecnologia, abordando a IA de uso geral e generativa e os seus efeitos nas nossas economias e sociedades.

Com 47 aderentes, incluindo o bloco europeu [que recentemente publicou a Lei de Inteligência Artificial da UE], e uma amplitude que se estende à aplicabilidade aos desenvolvimentos da IA em todo o mundo, os Princípios da IA da OCDE fornecem um modelo para os quadros políticos sobre a forma de abordar os riscos da IA e moldar as políticas de IA.

Neste contexto, os Princípios da OCDE sobre IA são a primeira norma intergovernamental sobre inteligência artificial, que busca respeitar os direitos humanos e os valores democráticos.

O crescimento de IA desde os princípios originários da OCDE

Desde que os Princípios da OCDE foram adotados pela primeira vez em 2019, o Observatório de Políticas de IA da OCDE mostra que:

• os investimentos de capital de risco em startups de IA generativa aumentaram nove vezes,
• a procura de competências de IA disparou 130% e
• a percentagem de grandes empresas que utilizam IA, em média na OCDE, quase duplicou para mais de quatro vezes as suas congéneres menores.

Este crescimento no desenvolvimento de IA coincide com uma atenção significativa e uma escalada de ações políticas, evidenciadas por mais de 1 000 iniciativas em mais de 70 países e jurisdições.

Uma resposta aos recentes desenvolvimentos de IA

Não há dúvidas de que é imperativo desenvolver e implantar sistemas de IA para aumentar a produtividade, acelerar a investigação científica, promover a sustentabilidade ambiental e melhorar os cuidados de saúde e a educação, defendendo simultaneamente os direitos humanos e os valores democráticos.

No entanto, do mesmo modo que os benefícios da inteligência artificial nos surpreendem, também os riscos para a privacidade, a segurança, a equidade e o bem-estar surgem a uma velocidade e escala sem precedentes, transformando-se em danos reais, como a perpetuação de preconceitos e discriminação, a criação e divulgação de informações erradas e a distorção do discurso público e dos mercados.

Por isso, ao atualizar seus princípios sobre IA, a OCDE busca dar um resposta aos recentes desenvolvimentos nas tecnologias de IA, principalmente ao aparecimento da IA generativa e de uso geral.

Dessa forma, os princípios atualizados da OCDE sobre IA abordam mais diretamente os desafios associados à IA que envolvem a privacidade, os direitos de propriedade intelectual, a segurança e a integridade da informação.

Principais elementos da atualização da OCDE

Os principais elementos da revisão da OCDE, que garantem que os Princípios sobre IA permanecem relevantes, sólidos e adequados à sua finalidade, incluem:

• questões de segurança: se os sistemas de IA correrem o risco de causar danos indevidos ou apresentarem um comportamento indesejado, mecanismos e salvaguardas sólidas são necessárias para os anular, reparar e/ou desativar em prol da segurança;
• o combate à desinformação e a salvaguarda da integridade da informação no contexto da IA generativa
• conduta empresarial responsável ao longo do ciclo de vida do sistema de IA: o que envolve a cooperação com fornecedores de conhecimentos e recursos de IA, utilizadores de sistemas de IA e outras partes interessadas;
• transparência e divulgação responsável das informações relativas aos sistemas de IA;
• a sustentabilidade ambiental: uma preocupação que cresceu consideravelmente em importância nos últimos cinco anos.

Além disso, alguns dos títulos dos princípios e recomendações originários da OCDE sobre IA foram ampliados para maior clareza, e o texto sobre rastreabilidade e gestão de riscos foi mais elaborado e transferido para o princípio da “responsabilidade” por ser o princípio mais adequado para estes conceitos.

Próximos passos

Agora, o Comité de Política Digital da OCDE, através do seu Grupo de Trabalho sobre a Governança da IA, prosseguirá seu trabalho com base nas recém-aprovadas recomendações de atualização dos princípios sobre IA.

O texto completo dos Princípios da OCDE sobre IA precisará ser confirmado pelos respectivos Parlamentos, antes da adoção formal pelos países integrantes da OCDE.