智利新法案拟对人工智能系统进行监管

Bofill Mir Abogados - 5月7日，一项旨在监管人工智能（IA）系统的法案经总统提议提交智利众议院。

该法案旨在推动创建、开发、创新和实施服务于人类的人工智能系统，尊重民主原则和基本权利，防范某些用途造成的有害影响。法案据此确立了以下监管框架：

适用范围

该法案适用于在智利境内的人工智能系统提供者和部署者，也适用于在境外但其系统在智利境内使用的提供者和部署者。该法案不适用于为国防目的开发的系统、在投放市场或投入使用前用于研究的系统，以及依据自由和开源许可发布的组件。

定义

法案对“人工智能系统”“风险”以及不同类型的识别系统等相关概念作出定义。法案还界定了严重事件，包括导致以下后果的事件：

（a）人员死亡或健康受到严重损害；
（b）国家关键基础设施遭受严重破坏；
（c）宪法和法律保护的基本权利受到侵犯；以及
（d）人员或财产遭受损害，包括环境损害。

原则

法案列明了运营者应遵守的原则，包括：

（a）人工干预和监督；
（b）技术稳健性和安全性；
（c）隐私和数据治理；
（d）透明度和可解释性；
（e）多样性、非歧视和公平；
（f）社会和环境福祉；
（g）问责和责任；以及
（h）消费者权益保护。

人工智能系统分类

法案根据使用风险将人工智能系统分为4类：

• a）不可接受风险。 包括潜意识操纵系统、利用脆弱性的系统、对人员进行生物识别分类或社会评分的系统、在公共场所实时远程生物识别的系统、定向提取人脸图像的系统，以及在特定领域评估情绪状态的系统。禁止使用此类系统。
• b）高风险。 此类系统对人员、其权利和安全造成损害的风险显著。法案要求遵守风险管理、数据治理、技术文档、记录、透明度、人工监督、准确性和网络安全方面的规则。
• c）有限风险。 此类系统在与自然人互动时存在造成操纵、欺骗或错误的非显著风险。系统提供者必须确保透明度，告知与系统互动的人员。
• d）无明显风险。 其他不属于上述类别的系统。

机构与治理

本法所涉合规监督和可能的处罚由个人数据保护局负责。任何人均可向该局报告发生的严重事件。此外，法案设立人工智能技术咨询委员会，与科学、技术、知识和创新部合作处理人工智能系统开发和改进相关事务。

违法行为与处罚

法案规定，必须对从人工智能系统获取的信息和数据予以保密，并特别保护知识产权和工业产权、个人数据及其处理、公共利益和国家安全，以及刑事案件或行政程序的完整性。违法行为和处罚分为3类：

• a）特别严重：投入使用或使用不可接受风险的人工智能系统，处以最高 20,000 UTM 的罚款。
• b）严重：违反高风险人工智能系统相关规则，处以最高 10,000 UTM 的罚款。
• c）轻微：违反有限风险人工智能系统的透明度义务，处以最高 5,000 UTM 的罚款。

法案规定由该局负责的特别处罚程序，以及针对该局最终决定提起司法申诉的程序。法案还规定，运营者应对使用人工智能系统造成的损害承担民事责任。

作者：

Manuel Bernet - 合伙人 - 知识产权、数据与技术
Jorge Tisné - 高级律师 - 知识产权、数据与技术

Bofillmir.cl