【法律在线】美国人工智能立法态势介奇异果体育评

　　奇异果体育2023年8月4日，美国国会研究部门发表《人工智能：概述、近期进展和对第118届国会的展望》，该报告对美国针对人工智能的立法监管政策进行了详细归纳和汇总。本文在此基础上，剔除促进人工智能产业发展的部分，仅从监管举措或强制性义务方面，重点梳理近两年美国关于人工智能的立法现状，介绍当前美国针对人工智能的治理经验，以期为我国后续人工智能的立法提供参考。

　　《国家人工智能倡议法（National Artificial Intelligence Initiative Act of 2020 ）》：2021年1月1日，《国家人工智能倡议法》正式生效成为法律，该法主要目的是通过设立一个协调统筹机构来促进联邦加速人工智能研究和应用，以促进国家经济繁荣和国家安全。这一法律要求商务部成立一个专门的国家人工智能咨询委员会，这一委员会的部分职责是向总统和倡议办公室提供关于人工智能产生的法律问题以及相关的责任和法律权利的相关情况，例如：倡议是否解决人工智能带来的伦理、法律、安全或其他社会问题；关于人工智能治理路径的检视；人工智能系统违反现有法律的责任以及平衡个体权利与人工智能创新的发展情况。本倡议法还规定倡议委员会应当成立专门的人工智能和法律实施子委员会，这一子委员会应当定期向总统提供与人工智能相关的法律实施的发展情况：一是偏见，包括检视政府机关对人脸识别技术的使用是否会带来偏见以及是否需要额外的监督、控制和限制；二是数据安全，包括执法机关对数据的获取以及相关的安全参数情况；三是可适用性，包括在移除人工智能滥用带来的危害的情况下，充分利用人工智能技术；四是法律标准，包括人工智能的使用是否与隐私权利、民事权利和自由、因技术使用带来的权利行使无障碍相一致奇异果体育。

　　第13859号行政令：2019年2月11日，时任美国总统唐纳德·川普发布第13859号行政令，即“维持美国在人工智能领域的领导地位”，行政令主要规定美国政府在人工智能研究和开发、数据和计算资源以及治理人工智能应用的指南、人工智能对美国劳动力市场影响等方面的计划和安排。在联邦数据和计算资源的开放方面，行政令要求联邦各行政机关仔细研究可以向非联邦AI研究机构开放的数据和模型，并在保护安全、隐私和采取保密措施的情况下，向非联邦AI研究机构提供可用的数据目录以及模型，并优化对AI数据和模型的接入方式和质量；优先分配高质量的AI云计算资源给联邦赞助的AI研发等。在AI应用的监管指导方面，行政令强调美国管理和预算办公室应当在协调各部门意见的基础上，发布相关议题的备案录：例如在保护民事权利、隐私和美国价值的基础上，促进人工智能创新所采取的法律和非法律治理路径的发展情况以及减少使用人工智能技术障碍的具体举措；帮助增进公众信任；支持可信赖、稳健和可靠的人工智能的相关标准和工具等。

　　第13960号行政令：2020年12月3日，美国总统拜登发布第13960号行政令，即“促进联邦政府内可信赖人工智能的使用”，行政令规定了除国家安全和国防领域以外的联邦政府机构使用人工智能的原则，即联邦政府机构在设计、开发、部署、购买或使用人工智能技术时需要如下9个原则：一是合法原则；二是合目的原则；三是准确、可靠和有效原则；四是安全、可靠、有弹性原则；五是可理解原则；六是负责任和可追溯原则；七是常态化被监管；八是透明度原则；九是可追责原则。这一行政令的适用范围是美国国防系统和国安系统之外的联邦行政机关，不适用于一般的商业产品（商业AI产品被政府采购也需要适用这一行政令 ）和AI研发活动。

　　2020年11月17日，为响应13859号行政命令“保持美国在人工智能领域的领导地位”，美国政府管理预算局在协同相关联邦部门的情况下，向各联邦机构负责人发布备忘录规定行政机关在制定关于AI应用的监管举措时应当考虑的原则：一是提升公众对AI的信任；二是公众参与；三是科学整合和信息质量；四是风险评估和管理；五是成本收益考虑；六是灵活性；七是公平和无歧视；八是透明原则；九是安全原则；十是跨部门合作。

　　2022年10月，白宫科技政策办公室发布了《AI权利法案蓝图：让自动化系统为美国人民服务》，该框架是在科学和政策技术办公室（OSTP）宣布启动“为AI驱动的世界制定权利法案”进程一年后发布。这一人工智能权利法案规定了关于人工智能或自动化系统设计、使用和部署的5项原则和相关实践，这一文件并无法律约束力，也不构成美国政府政策。这5项原则为：一是安全和有效的系统（自动化系统应事前咨询公众意见、部署前广泛测试、识别风险、持续监测和采取明确的组织监督；采用相关和高质量的数据、仔细跟踪和审查衍生的数据源、敏感领域的数据再利用限制；进行独立的评估和报告来证明系统的安全性和有效性）；二是避免被算法歧视（ 主动评估设计中的公平性、使用具有代表性的数据、避免使用代理、确保无障碍、差异性评估、部署前持续监测等；进行独立评估和报告来证明系统可以防止算法歧视）；三是保护数据隐私（ 通过设计或默认设置来保护隐私；保护公众免受无约束的监控；为公众提供合适的同意、访问和控制其数据的机制；进行独立评估和报告来证明数据隐私和用户控制受到保护；为敏感领域数据提供额外保护）；四是告知和解释（ 提供清晰、及时、可理解和可访问的使用通知和解释；告知用户正在使用自动化系统奇异果体育，并向用户解释结果是如何以及为何由自动化系统决定）；五是人工智能替代方案、补救和退出（ 适当时保证用户能够选择退出奇异果体育，并向用户提供人工或其他替代方案；系统出现故障或错误时，提供及时的人工介入和补救措施；培训评估和监督，以确保基于人的部分的有效性而避免自动化偏见）。

　　2023年1月26日，美国商务部下的国家标准和技术研究机构(NIST)发布了AI风险管理框架等相关资料，这一AI风险管理框架为最小化AI负面潜在不利影响，且最大化AI正向收益提供了基本的分析框架，为搭建可信赖AI提供了治理路径。框架首先阐述了可信赖AI需要遵守的7个特征，分别是有效与可靠、安全、可靠与稳健、问责和透明、可理解与可解释、隐私增强、公平。框架提供了解决AI风险问题的四个步骤：治理（govern）、识别（map）、测量（measure）、管理（manage），其中治理是一个混合其他3个功能的环节，能够促进其他3个功能的运行；识别是指确立与AI系统相关风险的上下文；测量是指采用定性、定量或混合方法来分析、评估、基准或监控AI风险和相关影响；管理是指通过常规方法或上文治理环节的方法来给识别和测量分配风险资源。

　　2023年2月，美国国家版权局在一份对外的声明中表达了其对人工智能生成物可版权性的观点。如果AI技术确定作品输出的表达要素时，生成的内容不是人类作者的产物，该内容不受版权法保护，其必须在注册申请中被驳回。在其他情况下，如果AI生成的作品包含足够的人类作者身份来支持其版权主张，则这一由AI辅助生成的内容能够获得版权保护的要求，但版权只会保护作品的人类创作部分，这些部分“独立于”，且不“影响”AI生成内容本身的版权状况。

　　2023年4月25日，美国联邦贸易委员会主席Lina Khan和美国司法部民权司、消费者金融保护局和美国平等就业机会委员会的官员发表了《关于对自动化系统中的歧视和偏见进行执法行动的联合声明》，概述了执行各自法律法规以促进自动化系统负责任创新的承诺，其主要内容包括重申上述机构对自动化系统的执法适用，重点在处理自动化系统对美国民众带来的歧视性有害影响，例如消费者金融保护局处理自动化系统在信贷决策中对金融消费者的歧视问题、司法部民权司处理自动化系统在教育、刑事司法系统、就业、住房、贷款和投票等方面的歧视；平等就业机会委员会处理自动化系统在求职、残疾人等方面的歧视；联邦贸易委员会处理自动化系统在欺诈或不公平的商业行为/竞争方法方面的问题。声明最后还提出对自动化系统中歧视来源环节（数据和数据集、模型的不透明、设计和使用 ）的重点关注。

　　2023年5月4日，拜登政府宣布将进一步推动对现有生成式人工智能系统的公开评估。来自几家最大的AI生产商——Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI和Stability AI——承诺对他们的AI进行公开评估，评估其是否符合美国之前提出的《AI权利法案》。

　　2023年7月21日，拜登政府宣布与7家头部人工智能公司（Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI）达成安全自愿承诺，这些承诺措施包括：一是确保AI产品在推向公众之前是安全的：承诺在发布前对其AI系统进行内部和外部安全测试；承诺在整个行业以及与政府、民间社会和学术界共享关于管理AI风险的信息。二是构建安全优先的系统：承诺投资网络安全和内部威胁防护措施，以保护专有和未发布的模型权重；致力于促进第三方发现和报告其AI系统中的漏洞。三是赢得公众的信任：致力于开发强大的技术机制，以确保用户知道内容是AI生成，例如水印系统；承诺公开报告其AI系统的功能、局限性以及适当和不适当使用的领域；承诺优先研究AI系统可能带来的社会风险，包括避免有害偏见和歧视以及保护隐私。上述承诺中“模型”所指的范围仅适用于总体上比当前行业前沿更强大的生成模型（例如，GPT-4、Claude2、PaLM 2、Titan，和图像生成模型DALL-E 2 ）。

　　在美国第117届国会任期（ 即2021年1月到2023年1月 ）中，至少有关于AI或机器学习（machine learning，ML）的75项法案被提出，但最后在整个两年的国会任期里，仅有6个与AI相关法案在众议院和参议院最终通过成为法律，其中有3个预算和拨款法案（《2022年国防授权法案》《2023年国防授权法案》《综合拨款法》），3个产业政策法案（《芯片和科学法案》《2021年美国创新和竞争法案》《量子计算网络安全准备法案》），以上法案中与AI相关内容基本上都是关于促进人工智能产业发展的立法规定。

　　在第118届国会的任期（ 2023年1月到2025年1月 ）中，目前已经引入的关于AI的法案至少有50部，其中有4部跟生成式AI相关。其中，正在进行中的几部典型立法有：

　　《2022年算法问责法案》，该法案要求某些企业应对其使用和出售的自动化决策系统（包括使用ML和AI的系统）进行影响评估，为自动化决策系统的使用时间和方式创造新的透明度，并使消费者能够被明确告知关键决策选择；

　　《确保安全、可靠、合乎道德和稳定的AI系统法》，法案将成立一个特别工作组来研究美国的AI政策，并确定如何最好地减少对隐私、公民自由和正当程序的威胁；

　　《国家人工智能委员会法案》，该法案要求成立一个委员会，其职权为回顾美国现有的关于人工智能的治理路径，并推荐新的关于人工智能的政府监管机构和形式，确定具有法律约束力的风险规制路径；

　　《人工智能领先法案（AI LEAD Act）》，法案要求联邦政府为AI培训、透明度以及行政机构如何购买AI驱动系统制定规则。

　　除了国会立法之外，美国政府机构也在其行政职权范围内加大对AI监管问题的研究。例如，2023年4月11日，美国商务部下辖咨询机构国家电信与信息管理局（NTIA）公布其已经开始就AI相关监管问题向社会各界征集意见，截至6月10日公众都可以向其反馈意见，NTIA将据此起草AI问责政策相关报告。

　　1.我国应当立足激励产业发展，适当调整针对人工智能的立法规制节奏，避免过度超前规制

　　美国目前生效的针对人工智能的已生效法律法规或行业规范以原则性要求为主，不管是美国总统拜登发布第13960号行政令规定的联邦政府机构使用人工智能应当遵守的九大原则，还是白宫科技政策办公室发布的《AI权利法案蓝图：让自动化系统为美国人民服务》的五大原则以及国家标准和技术研究机构（NIST）发布的七大原则，都只针对使用人工智能技术需要遵守的基本原则进行规定，并没有发布刚性更强的法律规则或具体义务要求。这一方面反映出美国针对新技术、新业态发展一贯持有的鼓励创新的态度，也反映出针对人工智能，美国各界目前并没有达成共识的成熟的规制方案。

　　2023年1月26日，美国商务部下的国家标准和技术研究机构（NIST）发布的AI风险管理框架以及配套NIST AI-RMF等相关资料，给国会等立法机关进行人工智能立法提供了规制框架或方法论。从美国本届国会任期引入的人工智能立法，例如《人工智能领先法案》《国家人工智能委员会法案》《确保安全、可靠、合乎道德和稳定的AI系统法案》《禁止欺骗性AIGC音视频内容影响联邦选举法案》等来看，综合性、系统性的针对人工智能技术的立法在美国推行的可能性依然不大，目前议员们提供的方案依然要么是对人工智能技术影响和危害以及对当前现有法律法规冲击程度进行的立法前调研，要么是针对选举等特别领域的专门性立法规制。

　　我国在已经发布《互联网信息服务算法推荐管理规定（2021年12月）》《互联网信息服务深度合成管理规定（2023年1月）》《生成式人工智能服务管理暂行办法（2023年7月 ）》等一系列规定以后，可以考虑适当放缓针对算法、人工智能等新技术的立法立规节奏。目前阶段来看，上述规定已经针对目前可预见的相关风险给出了规制方案，后续的政策导向，可以转到如何更好地激励新兴产业的发展上来，作为下一个阶段重点考虑的问题。

　　2.人工智能立法应注重与行业充分沟通，重视立法前调研评估，避免过度威慑，提供稳定的市场预期

　　美国对于人工智能的治理分成多个层级。在立法层面来看奇异果体育，充分的立法前调研评估是一大特色。例如美国专门出台《国家人工智能倡议法》成立一个人工智能咨询委员会，针对当前人工智能产生的法律问题以及相关的责任和法律权利的相关情况进行持续更进研究；美国政府管理预算局（OMB）多次对外征求监管AI的指导意见，避免监管机关与行业之间存在的信息不对称，出现规制手段不合适，形成过度威慑的情形。在柔性治理方面，美国总统协调各部委与头部人工智能公司达成安全承诺，通过让头部企业自我承诺来避免AI产生不可控的极端风险，以赢得公众信任。在执法司法方面，目前也有集体诉讼或个人针对人工智能技术公司，如针对Meta、OpenAI、微软公司等训练数据行为违反版权法与个人信息保护等法律规定提起诉讼，通过司法先行，能够让新技术新应用带来的危害和现有法律法规体系进行充分碰撞与适应，充分论证后才能真正产生出是否需要新的立法的结论。

　　我国人工智能技术的治理进程中，采取立法前充分评估与讨论、加强柔性治理、司法先行先试等路径，可以对新技术新产业的发展带来较稳定的预期，避免形成过度威慑，让市场优先演化或发展出规则的形成，随之辅助市场失灵时的强制性规则，充分形成适应外部环境的规范体系，在预测和评估技术相关风险的同时，最大限度地充分享受人工智能技术带来的巨大好处奇异果体育，持续推进和带领我国高科技产业升级转型。

　　（作者单位：中国社会科学院大学互联网法治研究中心，本文为教育部新文科研究与改革实践项目（2021140027）“计算社会科学与国家治理”和北京高等教育本科教学改革创新项目“检法协作机制下网络法治研究型人才培养模式创新研究”的阶段性成果。）