Legislação
OCDE atualiza seus Princípios sobre Inteligência Artificial
Cuatrecasas - Em 3 de maio, a Organização para a Cooperação e Desenvolvimento Econômico atualizou sua Recomendação sobre Inteligência Artificial .
Cuatrecasas - Em 3 de maio, a Organização para a Cooperação e Desenvolvimento Econômico atualizou sua Recomendação sobre Inteligência Artificial. O documento, adotado inicialmente em 2019, propõe a adoção de uma série de princípios para uma gestão responsável e confiável da Inteligência Artificial (IA). Trata-se de um instrumento jurídico não vinculante, mas que representa um compromisso político dos países aderentes. Desde 2019, os princípios estabelecidos na Recomendação foram acolhidos pelo G20, pela União Europeia, pelo Japão, pelos Estados Unidos e por outras jurisdições, e orientaram o trabalho das Nações Unidas e do Conselho de Comércio e Tecnologia entre a UE e os EUA.
Os princípios da OCDE sobre IA se baseiam nos valores do respeito aos direitos humanos e aos valores democráticos, da inclusão, da diversidade, da equidade, da inovação e do bem-estar. Esses valores se traduzem em cinco princípios para o desenvolvimento e o uso de sistemas de IA:
- Crescimento inclusivo, desenvolvimento sustentável e bem-estar
- Respeito ao Estado de Direito, aos direitos humanos e aos valores democráticos, incluindo a equidade e a privacidade
- Transparência e explicabilidade
- Robustez e segurança
- Responsabilização
O documento também contém recomendações para governos e organizações internacionais sobre como promover e facilitar os princípios acima, abordando aspectos como investimento, pesquisa, educação, acesso a dados, cooperação, supervisão e responsabilização.
Em novembro de 2023, o Conselho da OCDE aprovou uma alteração à Recomendação para apresentar uma definição revisada da noção de "sistema de IA", definição adotada no Regulamento de Inteligência Artificial recentemente aprovado. Agora, em maio de 2024, o Conselho da OCDE realizou uma nova revisão da Recomendação, com escopo mais amplo.
A revisão de 2024
Diante do ritmo acelerado dos avanços tecnológicos no campo da IA, especialmente no que diz respeito à IA de propósito geral e à IA generativa, a OCDE considerou necessário atualizar a Recomendação para acompanhar os novos desafios e oportunidades apresentados por essas tecnologias. Assim, em maio de 2024, o Conselho Ministerial da OCDE aprovou uma revisão que introduz algumas mudanças significativas.
A revisão se concentrou em reforçar e esclarecer alguns aspectos fundamentais, como:
- A segurança dos sistemas de IA, com a introdução de mecanismos e salvaguardas para gerenciar sistemas de IA que possam causar danos indevidos ou apresentar comportamentos indesejados, bem como a possibilidade de anular, reparar ou desativar esses sistemas.
- A integridade da informação, refletindo a importância de enfrentar o problema da desinformação e da manipulação de dados no contexto da IA generativa, que pode criar conteúdos falsos ou enganosos com grande realismo e verossimilhança.
- A conduta responsável das empresas, enfatizando a necessidade de que as organizações que desenvolvem, implementam ou utilizam sistemas de IA o façam de maneira ética, legal e socialmente responsável, cooperando com os diferentes atores envolvidos e respeitando os direitos das pessoas afetadas pela IA.
- A transparência e a divulgação responsável, esclarecendo o que significa informar adequadamente sobre os objetivos, as características, as limitações e os riscos dos sistemas de IA, bem como sobre as fontes, a qualidade e o uso dos dados que os alimentam.
- A sustentabilidade ambiental, mencionada explicitamente diante da crescente preocupação com o impacto da IA no meio ambiente e nos recursos naturais, e da necessidade de minimizá-lo e compensá-lo.
- A interoperabilidade dos marcos de governança e políticas, destacando a conveniência de as jurisdições trabalharem em conjunto para promover ambientes normativos e regulatórios compatíveis e coerentes para a IA, que facilitem a inovação e a cooperação internacional.
Com essas revisões, a OCDE demonstra sua capacidade de adaptação e liderança no campo da política digital e reafirma seu compromisso com uma IA inovadora, confiável e respeitosa dos direitos humanos e dos valores democráticos.
Autor: Albert Agustinoy, com a colaboração de Mireia Salla
Cuatrecasas.com
