负面清单管住高风险、备案制覆盖中风险、特区试验探索前沿——中国社会科学院《人工智能示范法4.0》构建了一个分层分类、梯度递进的AI治理框架。这份学术性立法参考文本以“统筹发展和安全”为主线,设计了从AI研发、提供到使用的全生命周期管理制度:高风险AI需取得许可、中风险AI需完成备案、研究性AI可豁免监管、特区AI可突破现行法规。同时,它通过法定许可和合理使用制度化解了训练数据的版权困境,通过安全港条款为合规创新者提供了免责空间,通过监管试验机制为前沿探索保留了制度弹性。这是一个试图兼顾“促发展”与“防风险”的中国式AI治理方案。
治理框架的总览——分层分类、梯度递进
从研发到使用的全生命周期覆盖
示范法的适用范围覆盖了AI从研发、提供到使用的完整链条(第二条)。在中华人民共和国境内从事人工智能的研发、提供和使用活动均适用本法;境外从事的活动影响或可能影响中国国家安全、公共利益或合法权益的,也适用本法——确立了域外效力的长臂管辖原则。
治理体系遵循“政府管理、企业履责、行业自治、社会监督、用户自律”的多元协同共治模式(第十四条)。核心制度工具包括:负面清单许可制(高风险)、备案制(中风险)、安全评估(全周期)、审计(定期)、熔断机制(应急)、伦理审查(前置)、监管试验(创新)。
九项治理原则的制度化表达
示范法的九项核心治理原则不是抽象的宣示,而是有具体制度支撑的。以人为本原则对应人类的“介入、接管”权利(第七十一条);安全原则对应安全评估、安全漏洞管理、应急熔断机制(第四十九条、第五十一条、第五十八条);公开透明可解释原则对应生成内容标识、信息告知、决策解释权(第五十四条、第五十五条);可问责原则对应归责条款(第一百条);公平平等原则对应防范偏见和歧视义务(第五十六条)。
分级分类管理——负面清单与备案制的双层结构
负面清单许可制的设计逻辑
负面清单制度是示范法监管框架的基石(第四十条)。其设计逻辑是:不是所有AI都需要“严管”,只有那些“一旦出事会出大事”的AI才需要事先许可。国家人工智能主管机关根据AI在经济社会发展中的重要程度,以及一旦遭到攻击、篡改、破坏或非法获取、利用后对国家安全、公共利益、社会稳定、环境保护或合法权益造成的危害程度,牵头制定并定期更新负面清单。
负面清单内的研发、提供活动须取得许可(第四十一条)。许可条件包括八项要求(第四十二条),审批流程设有明确时限——初步审查10个工作日、正式审批45个工作日(第四十三条-第四十四条)。许可期限届满前六个月可申请更新,超出许可范围或风险发生显著变化须再次申请许可(第四十五条)。
备案制的分层管理
负面清单外的AI产品、服务,注册用户数超过100万的向国家主管机关备案、超过1万不足100万的向省级主管机关备案(第六十六条)。备案信息包括提供者信息、产品名称、应用领域、算法类型、安全自评估报告等。备案材料齐全的,主管机关应在30个工作日内予以备案(第六十七条)。
创新治理工具——特区、监管试验与安全港
人工智能特区的制度突破
示范法第三十一条提出在符合条件的地区设立人工智能特区,特区所在地市级人大及其常委会可根据本法制定法规,可对法律、行政法规、地方性法规作变通规定。这意味着特区可以成为AI治理的“监管沙盒”——在可控范围内试验那些可能与国家现行法律法规不完全一致但有利于AI创新的制度安排。
监管试验与安全港机制
第八十九条建立人工智能监管试验机制,参与监管试验的AI研发者、提供者、使用者可享受责任减免。这一机制为探索性、实验性的AI创新提供了制度缓冲,避免因“试错”而承担不可承受的法律后果。
生成式AI提供者的“安全港”条款(第一百零二条)是另一项关键创新:提供者同时采取建立投诉机制、以用户协议提示不侵权、收到有效通知后停止生成侵权内容、对生成内容依法标识四项措施的,不承担侵权损害赔偿责任。这为AI平台提供了明确的合规路径和免责预期。
全生命周期义务体系——从研发到使用的治理闭环
研发者的全过程义务
研发者义务覆盖了从数据收集、模型训练到测试验证的全过程:采用去标识化技术处理个人信息用于训练(第二十条)、训练数据处理和标注中防范偏见和歧视(第五十六条)、建立并运行风险管理制度(第五十七条)、设计开发中嵌入安全防范要求(第五十八条)、设立伦理审查委员会开展伦理审查(第五十九条)、制定并保存技术文件和质量管理体系(第六十四条)。
提供者的服务期义务
提供者义务覆盖从服务上线到终止的全过程:备案(第六十六条)、制定内部管理制度和操作规程(第六十八条)、保存自动生成日志、定期培训从业人员、至少每两年进行一次审计(第六十八条)、安全漏洞管理(第五十一条)、安全事件补救和通知(第五十三条)、终止服务时的妥善安排(第六十九条)、负面清单内提供者的增强义务(第七十一条)。
使用者的使用期义务与国家机关的特别义务
使用者义务包括:确保输入数据和指令合法性(第七十五条)、公开传播时添加保留标识(第七十六条)、特定领域进行事实核验和人工复核(第七十七条)、不得恶意传播或污染数据(第七十八条)。用人单位使用AI对职工产生重大影响的,应经过集体协商并采取告知、培训、安置等保护措施(第七十九条)。
国家机关使用AI的特别义务:确保安全、统筹集约、集中统一管理,使用AI作出或辅助作出影响权益的认定、决定、裁决的,应依申请公开使用AI的基本情况(第八十条)。