Nuevo proyecto de ley busca regular los sistemas de inteligencia artificial en Chile

Bofill Mir Abogados - El pasado 7 de mayo fue ingresado a la Cámara de Diputadas y Diputados de Chile, por iniciativa presidencial, un proyecto de ley que busca regular los sistemas de inteligencia artificial (IA).

El objeto de este proyecto es promover la creación, desarrollo, innovación e implementación de sistemas de IA al servicio del ser humano, respetuoso de los principios democráticos y derechos fundamentales de las personas frente a efectos nocivos que ciertos usos irroguen. Así, establece el siguiente marco regulatorio:

Ámbito de aplicación

Se aplica a proveedores e implementadores de sistemas de IA en Chile, así como a aquellos que se encuentren en el extranjero, cuyos sistemas sean utilizados en el país. Se excluyen a los sistemas desarrollados para la defensa nacional, investigaciones previas a la introducción al mercado o puesta en servicio, y componentes bajo licencias libres y de código abierto.

Definiciones

El proyecto define conceptos relevantes como "sistema de IA", "riesgo", y distintos tipos de sistema de identificación. De igual forma, define lo que se considera un incidente grave, que son todos aquellos que tengan como consecuencia la

(a) muerte o daño grave para la salud de una persona,
(b) alteración grave a la infraestructura crítica del país,
(c) vulneración a derechos fundamentales protegidos constitucional y legalmente, y
(d) daños a la persona o propiedad, incluso el daño ambiental.

Principios

Dentro de los principios que los operadores deben observar se mencionan:

(a) Intervención y supervisión humana,
(b) solidez y seguridad técnica,
(c) privacidad y gobernanza de datos,
(d) transparencia y explicabilidad,
(e) diversidad, no discriminación y equidad,
(f) bienestar social y medioambiental,
(g) rendición de cuentas y responsabilidad, y
(h) protección de los derechos de los consumidores.

Clasificación de sistemas de IA

Se identifican cuatro clases de sistemas de IA según el riesgo que involucra su uso:

• a) Riesgo inaceptable. Sistemas de manipulación subliminal, los que exploten vulnerabilidades, categoricen biométricamente personas, califiquen socialmente, realicen identificación biométrica remota en tiempo real en espacios públicos, extraigan selectivamente imágenes faciales y evalúen estados emocionales en ámbitos específicos. Su uso queda prohibido.
• b) Alto riesgo. Sistemas que presenten un riesgo significativo de causar perjuicios a las personas, sus derechos, y la seguridad. Se establecen obligaciones de cumplimiento con reglas de gestión de riesgos, gobernanza de datos, documentación técnica, registros, transparencia, supervisión humana, precisión y ciberseguridad.
• c) Riesgo limitado. Sistemas cuyo uso presente riesgo no significativo de manipulación, engaño o error al interactuar con personas naturales. Deben proveerse con transparencia, informando a las personas que interactúan con ellos.
• d) Sin riesgo evidente. Todos los demás sistemas que no entran en las categorías anteriores.

Institucionalidad y gobernanza

La fiscalización del cumplimiento y la aplicación de eventuales sanciones por las materias regidas por esta ley queda a cargo de la Agencia de Protección de Datos Personales, ante la que cualquier persona podrá reportar incidentes graves que se produzcan. Adicionalmente, la ley crea un Consejo Asesor Técnico de Inteligencia Artificial para trabajar con el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación en asuntos relacionados con el desarrollo y mejoras de sistemas de IA.

Infracciones y sanciones

Se establece como obligación el resguardo de la confidencialidad de la información y datos obtenidos de un sistema de IA, debiendo proteger especialmente los derechos de propiedad intelectual e industrial, datos personales y su tratamiento, interés público y seguridad nacional, y la integridad de causas penales o procedimientos administrativos. Las infracciones y sanciones se clasifican en tres categorías:

• a) Gravísima: Puesta en servicio o uso de sistema de IA de riesgo inaceptable, sancionada con multa de hasta 20.000 UTM.
• b) Grave: Incumplimiento de reglas para sistemas de IA de alto riesgo, sancionado con multa de hasta 10.000 UTM.
• c) Leve: Incumplimiento de deberes de transparencia para sistemas de IA de riesgo limitado, sancionado con multa de hasta 5.000 UTM.

La ley regula un procedimiento sancionatorio especial a cargo de la Agencia y un procedimiento de reclamación judicial contra las resoluciones finales de la. Asimismo, se establece la responsabilidad civil del operador en caso de daños causados por el uso de sistemas de IA.

Autores:

Manuel Bernet - Socio - IP, datos y tecnología
Jorge Tisné - Asociado Senior - IP, datos y tecnología

Bofillmir.cl