Novo projeto de lei busca regulamentar sistemas de inteligência artificial no Chile

Bofill Mir Abogados - Em 7 de maio, por iniciativa presidencial, foi apresentado à Câmara dos Deputados do Chile um projeto de lei que busca regulamentar os sistemas de inteligência artificial (IA).

O objetivo do projeto é promover a criação, o desenvolvimento, a inovação e a implementação de sistemas de IA a serviço do ser humano, em conformidade com os princípios democráticos e os direitos fundamentais das pessoas diante dos efeitos nocivos que determinados usos possam causar. Para isso, estabelece o seguinte marco regulatório:

Âmbito de aplicação

Aplica-se a fornecedores e implementadores de sistemas de IA no Chile, bem como àqueles que estejam no exterior, cujos sistemas sejam utilizados no país. Estão excluídos os sistemas desenvolvidos para a defesa nacional, para pesquisas anteriores à introdução no mercado ou à entrada em serviço e os componentes sob licenças livres e de código aberto.

Definições

O projeto define conceitos relevantes, como "sistema de IA", "risco" e diferentes tipos de sistemas de identificação. Também define o que é considerado um incidente grave: todos aqueles que tenham como consequência

(a) morte ou dano grave à saúde de uma pessoa,
(b) alteração grave da infraestrutura crítica do país,
(c) violação de direitos fundamentais protegidos constitucional e legalmente, e
(d) danos à pessoa ou à propriedade, inclusive danos ambientais.

Princípios

Entre os princípios que os operadores devem observar estão:

(a) intervenção e supervisão humana,
(b) solidez e segurança técnica,
(c) privacidade e governança de dados,
(d) transparência e explicabilidade,
(e) diversidade, não discriminação e equidade,
(f) bem-estar social e ambiental,
(g) prestação de contas e responsabilidade, e
(h) proteção dos direitos dos consumidores.

Classificação dos sistemas de IA

São identificadas quatro classes de sistemas de IA, de acordo com o risco envolvido em seu uso:

• a) Risco inaceitável. Sistemas de manipulação subliminar, que explorem vulnerabilidades, classifiquem pessoas biometricamente, atribuam pontuação social, realizem identificação biométrica remota em tempo real em espaços públicos, extraiam seletivamente imagens faciais e avaliem estados emocionais em contextos específicos. Seu uso é proibido.
• b) Alto risco. Sistemas que apresentem risco significativo de causar danos às pessoas, a seus direitos e à segurança. São estabelecidas obrigações de cumprimento de regras de gestão de riscos, governança de dados, documentação técnica, registros, transparência, supervisão humana, precisão e cibersegurança.
• c) Risco limitado. Sistemas cujo uso apresente risco não significativo de manipulação, engano ou erro na interação com pessoas físicas. Devem ser disponibilizados com transparência, informando às pessoas que interagem com eles.
• d) Sem risco evidente. Todos os demais sistemas que não se enquadrem nas categorias anteriores.

Estrutura institucional e governança

A fiscalização do cumprimento da lei e a aplicação de eventuais sanções relativas às matérias por ela regidas caberão à Agência de Proteção de Dados Pessoais, à qual qualquer pessoa poderá comunicar incidentes graves. Além disso, a lei cria um Conselho Consultivo Técnico de Inteligência Artificial para atuar com o Ministério da Ciência, Tecnologia, Conhecimento e Inovação em questões relacionadas ao desenvolvimento e ao aprimoramento de sistemas de IA.

Infrações e sanções

É estabelecida a obrigação de preservar a confidencialidade das informações e dos dados obtidos de um sistema de IA, com proteção especial aos direitos de propriedade intelectual e industrial, aos dados pessoais e seu tratamento, ao interesse público e à segurança nacional, bem como à integridade de processos penais ou procedimentos administrativos. As infrações e sanções são classificadas em três categorias:

• a) Gravíssima: Colocação em serviço ou uso de sistema de IA de risco inaceitável, sujeita a multa de até 20.000 UTM.
• b) Grave: Descumprimento das regras aplicáveis a sistemas de IA de alto risco, sujeito a multa de até 10.000 UTM.
• c) Leve: Descumprimento dos deveres de transparência aplicáveis a sistemas de IA de risco limitado, sujeito a multa de até 5.000 UTM.

A lei regulamenta um procedimento sancionador especial a cargo da Agência e um procedimento de reclamação judicial contra suas decisões finais. Também estabelece a responsabilidade civil do operador por danos causados pelo uso de sistemas de IA.

Autores:

Manuel Bernet - Sócio - IP, dados e tecnologia
Jorge Tisné - Associado sênior - IP, dados e tecnologia

Bofillmir.cl