《最高人民法院关于依法审理涉人工智能纠纷案件的意见》条文解读

15.法律文章
摘要

该意见是我国首部涉人工智能纠纷司法裁判规则文件,确立了以人为本、支持创新与安全并重等基本原则。文章重点解读了侵权责任归责原则、生成式AI服务者责任认定及人格权益保护等核心条文,旨在明确裁判标准,平衡技术创新与权益保障,促进人工智能产业健康有序发展。

编者按

2026年9月7日,最高人民法院正式发布并施行《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(以下简称意见)。作为我国首部由国家最高审判机关出台的涉人工智能纠纷司法裁判规则文件,意见全文共分为5个部分,总计24个条文。

现结合关联法律法规,对意见中的重点条文进行解读,以供参考。

一、意见的起草背景与亮点 

在当前人工智能技术创新快速发展、巨大机遇与治理挑战并存的背景下,意见以习近平总书记关于人工智能的重要论述、批示为根本遵循,在认真总结审判经验、深入调研论证的基础上,本着适应时代发展、用足用好现行法律规定的原则,聚焦当下涉人工智能审判中的突出问题,旨在明确裁判规则、强化权益保障,以严格公正司法服务保障人工智能产业健康有序发展。

意见中的司法裁判规则有若干值得关注的创新点与亮点:

1.确立涉人工智能纠纷案件审理的指导思想与基本原则

在我国暂未出台人工智能专门立法的现实背景下,意见在第一部分(第一条与第二条)阐明审理涉人工智能纠纷案件应当坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻习近平法治思想,认真贯彻习近平总书记关于网络强国的重要思想,紧紧围绕“坚持发展和安全并重”展开,确立“坚持以人为本、支持创新发展、筑牢安全防线”三项基本原则,确保涉人工智能纠纷案件的司法裁判始终坚持正确政治方向,既注重依法规制滥用恶用人工智能的违法乱象,又旗帜鲜明支持科技创新和产业创新,为人工智能健康发展保驾护航。

2.强化人工智能时代民生权益的司法保障

意见在一般性的规则设定层面,明确了涉人工智能侵权责任的归责原则(第三条),并在生成式人工智能服务提供者侵害人格权益的责任认定上引入“通知删除规则”(第七条);在面向特定违法犯罪行为的行为规制层面,针对“AI换脸拟声”“AI复活逝者”“网络开盒”等利用人工智能的侵权行为,加大对人格权益的司法保护力度(第四条、第五条、第八条),并依法规制“大数据杀熟”“仿冒名人带货”、汽车智能功能虚假宣传或产品缺陷等损害消费者合法权益的行为(第十条、第十一条),惩治利用人工智能实施的犯罪活动(第二十条),以充分发挥司法裁判规范、引领功能,促进人工智能向上向善。

3.健全涉人工智能创新成果和研发活动保护规则

在司法赋能科技发展与产业创新层面,意见为模型训练中使用已公开个人信息设定“合理范围”内的免责“安全港”(第六条),严格依法认定“人工智能产品”,避免产品责任泛化(第九条),从侵权责任认定、开源软件法律责任、专利授权确权、技术合同履行以及数据使用规范等五个方面(第十二条至第十六条),对涉人工智能知识产权纠纷案件的审理作出专门规定,在鼓励人工智能技术创新成果与维护权利人合法权益之间寻求平衡,为人工智能高质量发展和高水平安全提供明确的司法裁判规则。

4.完善涉人工智能纠纷审理程序规则

鉴于涉人工智能纠纷案件技术性、专业性较强的特点,意见亦针对性探索完善涉人工智能纠纷案件的事实查明和证据审查规则;同时对利用人工智能不当取证或提供虚假材料等妨害司法秩序行为,亦作出相应规定予以规制。通过此类规则推动涉人工智能纠纷中的事实查明,并引导社会公众合理规范使用人工智能,预防虚假材料进入诉讼程序,切实维护司法秩序的严肃与权威。 

二、强化人工智能时代民生权益的司法保障 

1.明确人工智能侵权以过错责任为原则(第三条)

为避免在人工智能技术的发展初期就对创新主体施加过重责任,给产业发展保留空间,加之现有的生成式人工智能通常只是向人类提供信息,一般不会直接危害人类的人身安全或财产安全,意见第三条规定,在无法律明确规定适用无过错责任或者过错推定责任时,人工智能侵权应当依照民法典第一千一百六十五条第一款适用过错责任原则。而在具体个案中的“过错”认定上,该条中还详细列明了一系列综合考量因素,包括应用场景、自主化程度、透明度、潜在风险及影响范围,相应主体为避免人工智能侵权采取的措施及对侵权行为可能造成损害的预见能力与控制能力等。据此,该条在承认人工智能的自主性和“黑箱”特性的前提下,基于具体场景对相应主体过错的存在与否及程度予以准确认定。

对于此处所说的“法律明确规定”的但书情形为何,意见起草组认为,当具身智能体等符合《产品质量法》定义的人工智能产品(见意见第九条)的生产者造成他人损害时,应根据民法典第一千二百零二条及产品质量法第四十三条规定,适用无过错责任认定其产品生产者责任;而对于利用人工智能技术侵害个人信息损害他人个人信息权益的个人信息处理者,则应根据个人信息保护法第六十九条第一款规定,适用过错推定责任认定其个人信息处理者责任。同时,这一但书条款的存在,也为日后在特定的高风险领域通过特别法引入过错推定乃至无过错责任预留制度空间。由此,意见结合相关规则,在人工智能侵权的归责原则层面构建起场景化的分类分级体系。

意见条文 关联法条
第三条 准确把握涉人工智能侵权责任的归责原则。准确适用民法典、个人信息保护法、产品质量法、道路交通安全法等相关法律规定,依法认定利用人工智能侵害民事权益产生的法律责任。法律没有明确规定适用无过错责任或者过错推定责任的,应当依照民法典第一千一百六十五条第一款规定的过错责任原则认定行为人是否承担侵权责任。在判断行为人有无过错以及过错程度时,应当综合考量人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围,人工智能开发者、提供者等相关主体为预防和减少人工智能侵权所采取的措施及技术上的可能性,人工智能使用者对利用人工智能技术实施的侵权行为可能造成损害的预见能力与控制能力等因素。 **民法典第一千一百六十五条第一款:**行为人因过错侵害他人民事权益造成损害的,应当承担侵权责任。民法典第一千二百零二条:因产品存在缺陷造成他人损害的,生产者应当承担侵权责任。**产品质量法第四十三条:**因产品存在缺陷造成人身、他人财产损害的,受害人可以向产品的生产者要求赔偿,也可以向产品的销售者要求赔偿。属于产品的生产者的责任,产品的销售者赔偿的,产品的销售者有权向产品的生产者追偿。属于产品的销售者的责任,产品的生产者赔偿的,产品的生产者有权向产品的销售者追偿。**个人信息保护法第六十九条:**处理个人信息侵害个人信息权益造成损害,个人信息处理者不能证明自己没有过错的,应当承担损害赔偿等侵权责任。

2.审慎认定生成式人工智能服务提供者的侵权责任(第七条)

在人工智能自动生成内容侵害他人人格权益情境下,意见第七条对人工智能服务提供者的责任承担,创新性引入并改造民法典第一千一百九十五条面向网络服务提供者的“通知删除规则”:基于生成式人工智能侵权与传统网络侵权在主体、价值、情境上的相似性,规定若网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害,该网络用户应当依法承担侵权责任;而生成式人工智能服务提供者仅在接到权利人通知且未及时采取必要措施时,才应依据民法典第一千一百九十五条对造成的损害依法承担侵权责任。就此处“通知”及“必要措施”的形式与条件,该条规定“通知”包括构成侵权的初步证据及权利人的真实身份信息即为有效,而“必要措施”则从传统网络侵权中的“删除、屏蔽、断开链接”扩展至“停止生成侵权内容、屏蔽相关生成指令”及对相应用户“采取警示、限制或者暂停服务”等,适应了人工智能生成内容的动态性、私密性特点。

至于作为“通知删除规则”之例外的民法典第一千一百九十七条的“红旗规则”——当侵权事实像“红旗”一样显著时,服务提供者即使未收到权利人通知,也应采取删除或屏蔽措施,否则需承担连带责任,能否参照适用于此场景的问题,意见最终未对此作出明确规定。意见起草组认为,考虑到人工智能服务提供者现行审查能力与技术水平,引入“红旗规则”可能对其施加过重的注意义务;但鉴于“企业不能只获利不担责”,意见起草组和最高院审委会均认为,在“确有证据”的“特定情形”下,人民法院将不排除对该规则的参照适用,认定人工智能服务提供者承担侵权责任。由此,该条通过对生成式人工智能服务提供者侵权责任的审慎认定,在激励创新、避免过分加重行业负担之余,也在一定程度上督促人工智能服务提供者履行应尽能尽的注意义务,传递出最高审判机关维护人工智能健康发展的明确立场。

意见条文 关联法条
第七条 审慎认定生成式人工智能服务提供者的侵权责任。生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益,经权利人通知,生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担侵权责任。通知应当包括构成侵权的初步证据及权利人的真实身份信息。网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的,该网络用户应当依法承担侵权责任;经权利人通知,生成式人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施,权利人依据民法典第一千一百九十五条的规定请求该网络用户、生成式人工智能服务提供者承担民事责任的,人民法院依法予以支持。 **民法典第一千一百九十五条:**网络用户利用网络服务实施侵权行为的,权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。通知应当包括构成侵权的初步证据及权利人的真实身份信息。网络服务提供者接到通知后,应当及时将该通知转送相关网络用户,并根据构成侵权的初步证据和服务类型采取必要措施;未及时采取必要措施的,对损害的扩大部分与该网络用户承担连带责任。权利人因错误通知造成网络用户或者网络服务提供者损害的,应当承担侵权责任。法律另有规定的,依照其规定。**民法典第一千一百九十七条:**网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益,未采取必要措施的,与该网络用户承担连带责任。

3.加大对人格权益的司法保护力度

(1)依法规制利用人工智能侵害肖像权、名誉权等权益的典型行为(第四条)

针对当前“AI换脸拟声”“网络开盒”“AI复活逝者”等滥用人工智能技术侵害公民人格尊严的“深度伪造”行为,意见依法予以规制。意见第四条规定,未经同意利用人工智能处理自然人的姓名、肖像等信息,生成可以识别该自然人的虚拟数字形象并使用、公开,或使用自然人的声音作为训练语料,模仿其音色、语调和发音风格,生成可以识别的合成人声的“AI换脸拟声”行为,构成对姓名权、肖像权、声音权益等人格权益的侵害;若操控虚拟形象或合成声音实施不当行为、发表不实言论,导致他人社会评价降低,还可能同时构成对名誉权的侵害。从而以“可识别性”为标准,将姓名权、肖像权、名誉权、声音权益等人格权益的保护范围延伸至利用人工智能技术生成的“虚拟数字形象”和“合成人声”。

而对于利用人工智能技术擅自制作死者的虚拟数字形象,导致死者的姓名、肖像、名誉等受到侵害的“AI复活逝者”行为,该条衔接民法典死者人格利益保护相关法条,规定死者的近亲属有权依民法典第九百九十四条请求行为人承担相应责任。 

(2)依法规制利用人工智能侵害他人隐私权的行为(第五条)

对于利用人工智能实施的“网络开盒”“人肉搜索”等侵害私人生活安宁等合法权益的网络暴力行为,此前“两高一部”联合印发的《关于依法惩治网络暴力违法犯罪的指导意见》主要在刑事层面对“网络开盒”“人肉搜索”等行为明确了责任追究的标准和程序,但有些行为尚未达到刑事立案标准,故有必要在民事司法层面明确规则,为受害人主张民事救济提供指引。意见第五条根据民法典第一千零三十二条、第一千零三十三条等相关规定,结合人工智能技术特点,明确“以刺探隐私为目的”(以此区别于意在形成匿名化、非特定化统计结果的合法商业数据分析及人工智能模型训练),利用人工智能对特定自然人的公开信息进行追踪、分析,获取私密信息,或者泄露、公开所获取的私密信息,或者利用所获取信息侵扰私人生活安宁的,构成对隐私权的侵害。该条规定针对利用人工智能技术聚合碎片化公开信息后可能产生的隐私风险,将“网络开盒”“人肉搜索”等公开信息聚合行为纳入隐私权规制,回应了人工智能环境下隐私权保护的新问题。

(3)明确人格权侵害禁令制度的适用规则(第八条)

鉴于人工智能侵权传播快、影响广、损害不可逆等特点,意见第八条还明确了人格权侵害禁令的适用:当受害人有证据证明其正在或者即将遭受行为人利用人工智能对其人格权益的侵害,不及时制止将使其合法权益受到难以弥补的损害时,可以向人民法院申请人格权侵害禁令。此时,人民法院可以在必要的限度内,采取责令停止相关行为或者停止提供有关服务等措施,及时制止侵权,防止损害扩大。以此实现对人格权益的及时保护,解决传统事后诉讼难以及时高效维护当事人合法权益的问题。

意见条文 关联法条
第四条 依法规制“AI换脸拟声”“AI复活逝者”等利用生成式人工智能侵害人格权益的行为。利用生成式人工智能处理特定自然人或者死者的姓名、肖像等,不得违反法律、法规,不得违背公序良俗。除法律另有规定的外,未经自然人同意,利用人工智能处理自然人的姓名、肖像等,生成可识别该自然人的虚拟数字形象并使用、公开,该自然人主张行为人侵害其姓名权、肖像权等人格权益的,人民法院依法予以支持。除法律另有规定的外,未经自然人同意,使用自然人的声音作为训练语料,模仿该自然人的音色、语调和发音风格等生成能够识别该自然人的合成人声,该自然人主张行为人侵害其声音权益的,人民法院依法予以支持。操控生成合成的能够识别特定自然人的虚拟数字形象、声音实施不当行为或者发表不实言论,降低该自然人或者他人社会评价的,人民法院应当依法认定构成对名誉权的侵害。利用人工智能技术擅自制作、使用死者的虚拟数字形象致使死者的姓名、肖像、名誉等受到侵害,死者近亲属依据民法典第九百九十四条的规定请求行为人承担民事责任的,人民法院依法予以支持。 **民法典第九百九十四条:**死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。
第五条 依法规制利用人工智能实施“网络开盒”“人肉搜索”等侵害自然人隐私权的行为。以刺探隐私为目的,利用人工智能对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析,获取私密信息,或者将所获取的私密信息泄露、公开,或者利用所获取信息侵扰私人生活安宁的,应当认定构成对隐私权的侵害。利用人工智能对特定自然人的私密空间、私密活动等实施拍摄、窥视、窃听等行为的,应当认定构成对隐私权的侵害,但是法律另有规定或者该自然人明确同意的除外。 **民法典第一千零三十二条:**自然人享有隐私权。任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息。**民法典第一千零三十三条:除法律另有规定或者权利人明确同意外,任何组织或者个人不得实施下列行为:(一)以电话、短信、即时通讯工具、电子邮件、传单等方式侵扰他人的私人生活安宁;(二)进入、拍摄、窥视他人的住宅、宾馆房间等私密空间;(三)拍摄、窥视、窃听、公开他人的私密活动;(四)拍摄、窥视他人身体的私密部位;(五)处理他人的私密信息;(六)以其他方式侵害他人隐私权。《关于依法惩治网络暴力违法犯罪的指导意见》第四条:**依法惩治侵犯公民个人信息行为。组织“人肉搜索”,违法收集并向不特定多数人发布公民个人信息,情节严重,符合刑法第二百五十三条之一规定的,以侵犯公民个人信息罪定罪处罚;依照刑法和司法解释规定,同时构成其他犯罪的,依照处罚较重的规定定罪处罚。
第八条 依法适用人格权侵害禁令制度。自然人、法人或者非法人组织有证据证明行为人利用人工智能正在实施或者即将实施侵害其人格权益的违法行为,不及时制止将使其合法权益受到难以弥补的损害,向人民法院申请采取责令行为人停止有关行为或者责令有关网络服务提供者、生成式人工智能服务提供者停止提供有关服务的措施的,人民法院可以依法作出人格权侵害禁令。在作出人格权侵害禁令时,人民法院应当结合被侵害的人格权类型、违法行为的方式以及可能造成损害的范围、程度等因素,采取相应的禁令措施,不得超出必要限度。

4.依法规制侵害消费者权益的典型行为

(1)明确“大数据杀熟”的侵权责任规制与“仿冒名人带货”的欺诈惩罚性赔偿(第十条)

考虑到人工智能和算法技术还可能被用于实施不合理差别待遇和虚假营销,意见第十条针对“大数据杀熟”和“仿冒名人带货”等利用人工智能技术侵害消费者权益的行为作出规定。就差别待遇而言,意见起草组指出,应承认并非所有差别待遇均不合理而需要予以规制。在尊重正常商业逻辑、商家自主经营权的前提下,判断利用人工智能技术实施的差别待遇是否不合理,需综合考量其对消费者知情权、自主选择权、公平交易权等正当权益的实际影响,差异化交易条件的理由是否正当、充分、非歧视,及相关行为是否违背诚信原则或商业伦理、惯例。

而对于利用人工智能“仿冒名人带货”的行为,一方面,对被仿冒的名人来说,经营者擅自使用其肖像、姓名、声音等人格要素生成合成“带货”视频,可能构成对该名人肖像权、名誉权、声音权益等人格权益的侵害;另一方面,对消费者而言,该行为使其误以为经营者所售商品已获名人认可进而选择购买,可能构成消费者权益保护法第五十五条的欺诈行为,消费者可据此主张适用惩罚性赔偿。以此对滥用恶用人工智能技术的行为强化规制力度。 

(2)依法规制对汽车智能功能的虚假宣传(第十一条)

鉴于当前商业实践中,个别经营者以“自动驾驶”等用语对仅具备辅助驾驶功能的汽车进行宣传,误导消费者,意见第十一条明确,车辆生产者、销售者对自动驾驶汽车、具备辅助驾驶功能汽车的自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传,损害消费者合法权益,消费者可以依据民法典、消费者权益保护法等法律规定主张车辆生产者、销售者承担民事责任。

此外,针对此类案件中相关数据掌握在企业手中的证明困境,意见明确人民法院可要求车辆生产者、销售者或运营者等数据控制主体,在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录数据。

意见条文 关联法条
第十条 依法规制“大数据杀熟”“仿冒名人带货”等侵害消费者合法权益的行为。针对同一商品或者服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的,人民法院应当依法认定其承担相应的侵权责任。在认定是否构成不合理的差别待遇时,应当根据差别待遇是否对消费者的知情权、自主选择权、公平交易权等造成实质性限制或者损害,是否基于消费者的消费偏好、支付意愿、支付能力、浏览记录等信息形成针对其个人的交易条件,是否违背诚信原则及商业伦理等,综合考量实行差别待遇的理由是否正当、充分、非歧视。经营者提供商品或者服务时,利用人工智能实施“仿冒名人带货”且构成欺诈,消费者依据消费者权益保护法第五十五条的规定主张惩罚性赔偿的,人民法院依法予以支持。 **消费者权益保护法第十条:**消费者享有公平交易的权利。消费者在购买商品或者接受服务时,有权获得质量保障、价格合理、计量正确等公平交易条件,有权拒绝经营者的强制交易行为。**消费者权益保护法第五十五条:**经营者提供商品或者服务有欺诈行为的,应当按照消费者的要求增加赔偿其受到的损失,增加赔偿的金额为消费者购买商品的价款或者接受服务的费用的三倍;增加赔偿的金额不足五百元的,为五百元。法律另有规定的,依照其规定。
第十一条 依法认定涉自动驾驶汽车、具备辅助驾驶功能汽车交通事故的赔偿责任。自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶,发生交通事故造成损害的,依据民法典和道路交通安全法有关规定承担赔偿责任。因车辆存在产品缺陷导致交通事故造成损害,当事人请求生产者或者销售者依照民法典第七编第四章的规定承担赔偿责任的,人民法院应予支持。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害,当事人依据民法典第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的,人民法院依法予以支持。车辆生产者、销售者对自动驾驶汽车、具备辅助驾驶功能汽车的自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传,损害消费者合法权益,消费者依据民法典、消费者权益保护法等法律规定请求车辆生产者、销售者承担民事责任的,人民法院依法予以支持。为查明道路交通事故发生原因,人民法院可以要求车辆生产者、销售者或者运营者等数据控制方,在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录等查明案件事实所需要的数据。 **民法典第一千一百七十二条:**二人以上分别实施侵权行为造成同一损害,能够确定责任大小的,各自承担相应的责任;难以确定责任大小的,平均承担责任。**民法典第一千二百零二条:**因产品存在缺陷造成他人损害的,生产者应当承担侵权责任。**民法典第一千二百零三条:**因产品存在缺陷造成他人损害的,被侵权人可以向产品的生产者请求赔偿,也可以向产品的销售者请求赔偿。产品缺陷由生产者造成的,销售者赔偿后,有权向生产者追偿。因销售者的过错使产品存在缺陷的,生产者赔偿后,有权向销售者追偿。**民法典第一千二百零七条:**明知产品存在缺陷仍然生产、销售,或者没有依据前条规定采取有效补救措施,造成他人死亡或者健康严重损害的,被侵权人有权请求相应的惩罚性赔偿。**产品质量法第四十六条:**本法所称缺陷,是指产品存在危及人身、他人财产安全的不合理的危险;产品有保障人体健康和人身、财产安全的国家标准、行业标准的,是指不符合该标准。**道路交通安全法第七十六条:**机动车发生交通事故造成人身伤亡、财产损失的,由保险公司在机动车第三者责任强制保险责任限额范围内予以赔偿;不足的部分,按照下列规定承担赔偿责任:(一)机动车之间发生交通事故的,由有过错的一方承担赔偿责任;双方都有过错的,按照各自过错的比例分担责任。(二)机动车与非机动车驾驶人、行人之间发生交通事故,非机动车驾驶人、行人没有过错的,由机动车一方承担赔偿责任;有证据证明非机动车驾驶人、行人有过错的,根据过错程度适当减轻机动车一方的赔偿责任;机动车一方没有过错的,承担不超过百分之十的赔偿责任。交通事故的损失是由非机动车驾驶人、行人故意碰撞机动车造成的,机动车一方不承担赔偿责任。

5.惩治利用人工智能实施的犯罪活动(第二十条)

当前利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品等犯罪行为时有发生,引起社会各界广泛关注。基于此,作为一部主要围绕民事纠纷展开的规则指引,意见也兼顾了对涉人工智能刑事案件的法律适用。意见第二十条规定:对上述各类犯罪行为,以及利用人工智能损害商业信誉、商品声誉、非法获取计算机信息系统数据等行为,构成犯罪的,要依法严惩,追究其刑事责任。

除上述犯罪情形外,该条还关注了车载辅助驾驶系统与危险驾驶等犯罪的关系。鉴于部分驾驶人在激活辅助驾驶系统后,不再专注驾驶,乃至购买、使用各类非法配件逃避系统安全监测,长时间“脱手”驾驶,严重威胁道路交通安全。意见对此明确规定,行为人激活辅助驾驶功能后利用私自安装的配件逃避辅助驾驶系统监测导致道路交通事故,构成犯罪的,依法追究刑事责任。相关指导性案例与入库参考案例,亦基于现行法律法规及辅助驾驶系统的技术水平,认为车载辅助驾驶系统不能代替驾驶人成为驾驶主体,行为人醉酒后启用汽车驾驶辅助功能的,不影响相关刑事责任的认定。

另外,意见起草组还特别强调,对于涉人工智能刑事案件,应当注意区分不同情形,全面准确贯彻“宽严相济”刑事政策:对故意利用人工智能实施危害国家安全、侵犯公民权益、扰乱社会秩序等犯罪行为,要坚决依法严惩,切实维护国家安全、社会稳定,保护人民群众合法权益;而对于在人工智能研发、应用中的创新性行为,要依法审慎处理,恪守罪刑法定、罪责刑相适应原则,为人工智能产业创新发展营造良好营商环境。

意见条文 关联法条
第二十条 依法惩治利用人工智能实施的犯罪活动。利用人工智能实施诈骗、侮辱、诽谤、损害商业信誉、商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据、制作、贩卖、传播淫秽物品等行为,构成犯罪的,依法追究刑事责任。行为人激活辅助驾驶功能后利用私自安装的配件逃避辅助驾驶系统监测导致道路交通事故,构成犯罪的,依法追究刑事责任。 **刑法第二百五十三条之一:**违反国家有关规定,向他人出售或者提供公民个人信息,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。违反国家有关规定,将在履行职责或者提供服务过程中获得的公民个人信息,出售或者提供给他人的,依照前款的规定从重处罚。窃取或者以其他方法非法获取公民个人信息的,依照第一款的规定处罚。单位犯前三款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照各该款的规定处罚。

三、健全涉人工智能创新成果和研发活动保护规则  

1.为模型训练使用已公开个人信息设定免责范围(第六条)

大规模、高质量的训练数据是人工智能技术研发的基石。人工智能模型开发者通过处理公开数据进行训练时,不可避免地包含个人自行公开或者已合法公开的个人信息。意见第六条结合个人信息保护法第二十七条等相关规定,首次以司法文件形式对公开个人信息用于人工智能模型训练作出具体指引。模型开发者对个人自行公开或其他已合法公开的个人信息,在合理范围内处理且个人未明确拒绝的,一般不认定为侵害个人信息权益;但其中对个人权益有重大影响的个人信息,开发者仍应依法取得其同意。

对于该条及个人信息保护法第二十七条中均提及的“合理范围”的认定,意见结合模型训练特点作出指引性规定,即综合考量信息处理目的、模型功能的必要性和适当性(基于个人信息保护法第六条的最小必要原则),所涉个人信息的类型、敏感程度(敏感个人信息的定义可见个人信息保护法第二十八条)及对个人权益的潜在影响,个人公开信息时的场景以及可合理预期的使用范围等因素;而此处所说的“对个人权益有重大影响”的已公开个人信息,通常是指案涉个人信息可能对个人信息主体的生命、名誉、隐私等人格权益或者财产权益带来不合理的风险。若信息处理者通过人工智能技术处理此类信息,应当依照个人信息保护法取得个人同意。如此,该条在加强个人信息权益保护的同时,也对人工智能开发者在模型训练中使用已公开个人信息确立了“合理范围”内的免责规则,有利于合理形成人工智能训练所需的大数据集,实现个人信息权益保护与人工智能产业发展之间的动态平衡。

意见条文 关联法条
第六条 依法认定人工智能训练过程中侵害个人信息权益的民事责任。为人工智能模型训练,在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益的行为。对个人权益有重大影响的,应当依照法律规定取得个人同意。在认定合理范围时,应当综合考量处理个人信息的目的与模型功能的必要性和适当性,所涉个人信息的类型、敏感程度及对个人权益的潜在影响,个人公开信息时的场景及可合理预期的使用范围等因素。 **个人信息保护法第六条:**处理个人信息应当具有明确、合理的目的,并应当与处理目的直接相关,采取对个人权益影响最小的方式。收集个人信息,应当限于实现处理目的的最小范围,不得过度收集个人信息。**个人信息保护法第二十七条:**个人信息处理者可以在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息;个人明确拒绝的除外。个人信息处理者处理已公开的个人信息,对个人权益有重大影响的,应当依照本法规定取得个人同意。**个人信息保护法第二十八条:**敏感个人信息是一旦泄露或者非法使用,容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息,包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息,以及不满十四周岁未成年人的个人信息。只有在具有特定的目的和充分的必要性,并采取严格保护措施的情形下,个人信息处理者方可处理敏感个人信息。

2.限定人工智能产品定义并细化缺陷认定规则(第九条)

意见第九条依据产品质量法第二条第二款的定义,将人工智能产品限定为以实物为载体的产品,如具身智能机器人、自动驾驶汽车等,而不包括软件层面、无实物载体的单纯生成式人工智能服务,从而避免泛化产品责任这一无过错责任,影响人工智能产业的良性发展。

针对人工智能产品缺陷的认定及生产者、销售者相应的责任承担,考虑到人工智能产品的风险与缺陷可能因其自主学习能力,在与外部环境的交互中才逐渐显现,其决策过程复杂而不透明,不同于传统产品“缺陷”的认定通常基于产品出厂时的固定状态,故该条列举了产品性质与用途、自主学习能力、用户对系统的控制程度及与相应国家或行业标准的符合程度等综合考量因素,并强化生产者、销售者对产品适用场景、固有局限和可预见风险予以真实说明的警示义务。

具体到自动驾驶汽车或具备辅助驾驶功能汽车这类当下典型的“人工智能产品”,对其是否存在缺陷的认定,也应基于意见第九条及产品质量法第四十六条或国家强制性标准等相关规定认定是否存在缺陷;若因车辆存在产品缺陷导致交通事故造成损害,意见第十一条规定,当事人可依照民法典第七编第四章(产品责任)的规定请求生产者或销售者承担赔偿责任。在这一产品质量责任与前述消费者权益保护法上的责任外,基于现行立法及辅助驾驶系统的技术水平,第十一条还规定具有辅助驾驶功能汽车、自动驾驶汽车发生道路交通事故时的损害赔偿依民法典与道路交通安全法;若车辆缺陷与驾驶人过错结合导致同一损害,则依民法典第一千一百七十二条承担按份责任。交通事故的责任认定与承担方面与传统机动车并无二致。以此保障受害人及时、全面获取救济,也引导企业不断提升产品安全性。

意见条文 关联法条
第九条 准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义,依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的,生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时,应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及是否符合相关国家标准、行业标准等因素,并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。 **产品质量法第二条第二款:**本法所称产品,是指经过加工、制作,用于销售的产品。**产品质量法第四十六条:**本法所称缺陷,是指产品存在危及人身、他人财产安全的不合理的危险;产品有保障人体健康和人身、财产安全的国家标准、行业标准的,是指不符合该标准。**民法典第一千二百零二条:**因产品存在缺陷造成他人损害的,生产者应当承担侵权责任。**民法典第一千二百零三条:**因产品存在缺陷造成他人损害的,被侵权人可以向产品的生产者请求赔偿,也可以向产品的销售者请求赔偿。产品缺陷由生产者造成的,销售者赔偿后,有权向生产者追偿。因销售者的过错使产品存在缺陷的,生产者赔偿后,有权向销售者追偿。**民法典第一千二百零七条:**明知产品存在缺陷仍然生产、销售,或者没有依据前条规定采取有效补救措施,造成他人死亡或者健康严重损害的,被侵权人有权请求相应的惩罚性赔偿。
第十一条 依法认定涉自动驾驶汽车、具备辅助驾驶功能汽车交通事故的赔偿责任。自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶,发生交通事故造成损害的,依据民法典和道路交通安全法有关规定承担赔偿责任。因车辆存在产品缺陷导致交通事故造成损害,当事人请求生产者或者销售者依照民法典第七编第四章的规定承担赔偿责任的,人民法院应予支持。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害,当事人依据民法典第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的,人民法院依法予以支持。车辆生产者、销售者对自动驾驶汽车、具备辅助驾驶功能汽车的自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传,损害消费者合法权益,消费者依据民法典、消费者权益保护法等法律规定请求车辆生产者、销售者承担民事责任的,人民法院依法予以支持。为查明道路交通事故发生原因,人民法院可以要求车辆生产者、销售者或者运营者等数据控制方,在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录等查明案件事实所需要的数据。 **民法典第一千一百七十二条:**二人以上分别实施侵权行为造成同一损害,能够确定责任大小的,各自承担相应的责任;难以确定责任大小的,平均承担责任。**民法典第一千二百零二条:**因产品存在缺陷造成他人损害的,生产者应当承担侵权责任。**民法典第一千二百零三条:**因产品存在缺陷造成他人损害的,被侵权人可以向产品的生产者请求赔偿,也可以向产品的销售者请求赔偿。产品缺陷由生产者造成的,销售者赔偿后,有权向生产者追偿。因销售者的过错使产品存在缺陷的,生产者赔偿后,有权向销售者追偿。**民法典第一千二百零七条:**明知产品存在缺陷仍然生产、销售,或者没有依据前条规定采取有效补救措施,造成他人死亡或者健康严重损害的,被侵权人有权请求相应的惩罚性赔偿。**产品质量法第四十六条:**本法所称缺陷,是指产品存在危及人身、他人财产安全的不合理的危险;产品有保障人体健康和人身、财产安全的国家标准、行业标准的,是指不符合该标准。**道路交通安全法第七十六条:**机动车发生交通事故造成人身伤亡、财产损失的,由保险公司在机动车第三者责任强制保险责任限额范围内予以赔偿;不足的部分,按照下列规定承担赔偿责任:(一)机动车之间发生交通事故的,由有过错的一方承担赔偿责任;双方都有过错的,按照各自过错的比例分担责任。(二)机动车与非机动车驾驶人、行人之间发生交通事故,非机动车驾驶人、行人没有过错的,由机动车一方承担赔偿责任;有证据证明非机动车驾驶人、行人有过错的,根据过错程度适当减轻机动车一方的赔偿责任;机动车一方没有过错的,承担不超过百分之十的赔偿责任。交通事故的损失是由非机动车驾驶人、行人故意碰撞机动车造成的,机动车一方不承担赔偿责任。

3.依法妥善审理涉人工智能知识产权纠纷案件(第十二条)

不同于传统的著作权侵权行为,在人工智能生成侵犯他人知识产权(目前主要是著作权)内容的过程中,模型使用者并未直接复制他人作品,而是通过提示词输入、参数设置等方式生成与他人作品实质相似的内容。且生成内容过程中涉及模型开发者、服务提供者与使用者多方主体,包含模型训练、用户提示、结果筛选、内容传播等多个环节。正因如此,为准确界定各方主体在其中的侵权责任,意见第十二条明确了在此类案件中认定相关主体责任的考虑因素:秉持“责任承担与控制能力相匹配”的原则,结合涉案人工智能的技术和商业模式特征,列举服务类型、所处行业、训练数据来源、在侵权行为中的参与度及获利情况等考量因素,以此明确各主体在特定场景下的注意义务高低,进而确定相应的侵权责任承担。当然,对模型开发者、服务提供者的“过错”认定,还需根据意见第三条的规定,考量其为防止生成内容侵权而采取的必要措施及该措施的技术可行性。

而针对因人工智能技术复杂、不透明的“黑箱”属性致使举证困难的问题,该条对人工智能生成内容侵害著作权纠纷中的举证规则做出专门规定:权利人主张侵权的,需提供相应的初步证据(如侵权内容系由该人工智能生成、与其权利作品构成实质相似、使用者有接触权利作品的可能等);人工智能开发者或服务提供者的抗辩,不得仅以内容系人工智能生成为由主张免责,而应举证模型的训练数据来源、训练过程、运行模式等事实,必要时还应当提供有关科学理论依据予以佐证。通过对举证责任的合理分配,把握好“谁主张,谁举证”的基本原则与举证责任倒置的平衡。

意见条文 关联法条
第十二条 依法规制涉人工智能侵害知识产权的行为。人工智能生成内容侵害他人著作权的,人民法院应当综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等因素,依法合理认定人工智能开发者、提供者、使用者的责任。人工智能开发者提出不侵权抗辩的,应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。权利人主张人工智能提供者利用算法技术侵害其著作权的,应当提供相关证据。人工智能使用者知道或者应当知道在先作品存在,利用人工智能生成与在先作品实质相似的作品且无合理抗辩理由,在先作品权利人请求其承担侵权责任的,人民法院应予支持。利用人工智能实施侵权假冒、虚假宣传、刷量刷单等行为,侵害他人权利或者构成不正当竞争的,依法承担相应责任。

4.确立人工智能开源软件合规免责路径(第十三条)

当下,生成式人工智能模型的研发高度依赖开放共享的开源软件生态,但开源人工智能大模型因研发链条长、参与主体多及后续使用难以控制存在较大法律风险。故为鼓励开源开放,合理认定各方责任,促进人工智能朝着安全、公平的方向健康有序发展,意见第十三条规定了认定开源软件开发者以及后续开发者、提供者侵权责任的考量因素,包括开源类型、权利限制内容、付费情况、安全审查措施及信息披露程度等,根据权责对等及责任承担与控制能力相匹配原则,对依法履行安全合规和信息披露义务的开源开发者、提供者,人民法院可基于个案裁量给予适当责任豁免,从而有效维护开源协作和技术共享的创新生态。

意见条文 关联法条
第十三条 依法合理认定涉人工智能开源软件相关方的法律责任。审理涉开源软件案件,认定开源软件开发者、提供者以及后续开发者、提供者的侵权责任,应当综合考量开源许可协议类型、权利限制的具体内容、安全合规举措和信息披露程度等因素,依法给予开源软件开发者、提供者适当的责任豁免。开源软件开发者、提供者以免费开源的方式提供涉人工智能软件研发所需要的部分代码模块,并公开说明其功能和安全风险,他人使用该代码模块导致侵权的,人民法院可以认定开源软件开发者、提供者不承担侵权责任。

5.结合反不正当竞争法规范竞争秩序(第十二、十六条)

在当前理论界、实务界对数据权益的确权及保护机制等问题上还存在较大分歧,而相关数据资产或数据产品又因独创性不足,通常难以构成汇编作品纳入著作权法保护的背景下,意见第十六条从规范涉人工智能数据使用行为出发,在传统的著作权保护路径之外,结合反不正当竞争法第十三条(即2025年修订新增的“数据专条”)及商业秘密相关规定,为开发者通过采集生成、衍生创造、受让取得或者授权许可等方式合法获取的数据权益提供多层次的保护机制:构成汇编作品的依著作权法,构成商业秘密的依据反不正当竞争法中关于商业秘密的相关规定,不构成商业秘密的适用反不正当竞争法的“数据专条”。该规定从著作权、商业秘密和竞争法等多角度为数据权益提供保护路径,有助于稳定人工智能开发利用数据的制度预期。

此外,鉴于近年来利用人工智能实施不正当竞争的行为日渐增多,经营者利用人工智能生成的图文、视频、虚拟人物形象等,虚构流量和好评,甚至通过利用AI换脸虚构科普视频进行虚假宣传,这些行为不仅损害了他人合法权益,还严重误导消费者,扰乱市场竞争秩序,意见第十二条最后一句也从反不正当竞争法的角度,将此类行为认定为仿冒侵权、虚假宣传等依法予以规制,从而有效规范数字经济市场秩序。

意见条文 关联法条
第十六条 依法规范涉人工智能数据使用行为。人工智能开发者通过采集生成、衍生创造、受让取得、授权许可等方式合法获取数据并享有相应数据权益的,人民法院应当予以保护。对于构成汇编作品或者符合其他作品构成要件的数据、数据集合,应当依照著作权法予以保护。对于构成商业秘密的数据、数据集合,应当依照反不正当竞争法予以保护。对于不构成商业秘密的数据、数据集合,被诉侵权行为违反反不正当竞争法第十三条规定的,应当依法承担责任。经营者利用数据、算法等技术手段达成垄断协议或者实施滥用市场支配地位等行为的,依法承担相应责任。采取虚构干扰数据、恶意标注数据、对抗样本攻击等技术手段,损害人工智能运行安全的,依法承担相应责任。 **著作权法第十五条:**汇编若干作品、作品的片段或者不构成作品的数据或者其他材料,对其内容的选择或者编排体现独创性的作品,为汇编作品,其著作权由汇编人享有,但行使著作权时,不得侵犯原作品的著作权。**反不正当竞争法第十条第四款:**本法所称的商业秘密,是指不为公众所知悉、具有商业价值并经权利人采取相应保密措施的技术信息、经营信息等商业信息。**反不正当竞争法第十三条:**经营者利用网络从事生产经营活动,应当遵守本法的各项规定。经营者不得利用数据和算法、技术、平台规则等,通过影响用户选择或者其他方式,实施下列妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为:(一)未经其他经营者同意,在其合法提供的网络产品或者服务中,插入链接、强制进行目标跳转;(二)误导、欺骗、强迫用户修改、关闭、卸载其他经营者合法提供的网络产品或者服务;(三)恶意对其他经营者合法提供的网络产品或者服务实施不兼容;(四)其他妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为。经营者不得以欺诈、胁迫、避开或者破坏技术管理措施等不正当方式,获取、使用其他经营者合法持有的数据,损害其他经营者的合法权益,扰乱市场竞争秩序。经营者不得滥用平台规则,直接或者指使他人对其他经营者实施虚假交易、虚假评价或者恶意退货等行为,损害其他经营者的合法权益,扰乱市场竞争秩序。

除上述各点之外,意见还在第十四条关注涉人工智能发明创造的专利授权确权问题,要求人民法院应将采用遵循自然规律的技术手段、解决技术问题并实现相应技术效果的客体纳入专利法保护;自然人使用人工智能完成发明创造,并对实质性特点作出创造性贡献的,应当认定为发明人。在第十五条则针对涉人工智能技术合同履行的违约责任问题,要求人民法院审理人工智能技术合同纠纷时,充分考量技术研发特点、开发方是否尽到合理努力等,从而合理认定违约责任和分配研发失败风险。

意见条文 关联法条
第十四条 依法规范涉人工智能发明创造的专利授权确权行为。涉人工智能发明创造采用遵循自然规律的技术手段,解决了技术问题,实现了符合自然规律的技术效果的,人民法院应当依法认定其为专利法所保护的客体,但是违反法律、社会公德、损害社会公共利益或者自然人没有实质贡献的除外。自然人使用人工智能完成的发明创造,该自然人对发明创造的实质性特点作出了创造性贡献的,应当认定该自然人为发明人。涉人工智能专利说明书对技术方案的表述,达到本领域普通技术人员能够实现该发明的程度的,应当认定符合公开充分的授权条件。
第十五条 依法审慎认定涉人工智能技术合同履行的违约责任。人民法院审理涉人工智能技术开发、转让、许可、咨询、服务合同纠纷案件,应当根据合同约定,充分考量人工智能技术研发特点、技术开发方是否尽到合理努力等情形依法认定违约责任。

另外,值得关注的是,对人工智能生成内容的可版权性、未经许可使用他人作品训练人工智能大模型等在涉人工智能知识产权纠纷中争议较大的问题,意见选择了“留白”处理,暂未对这些问题予以明确规定。意见起草组认为,鉴于人工智能尚处于快速发展阶段,新情况、新问题不断涌现,对于这类问题的司法裁判规则尚需通过参考案例、法答网问答等形式的司法实践持续积累经验,并结合理论研究逐步探索共识的形成,最终待条件成熟后再通过适当方式作出明确规定。这样的思路也与意见第五部分中强调审判监督与案例指导(第二十二条)、加强部门协作及行业自律(第二十三条)、加强国际司法交流、规则对接与互鉴(第二十四条)的相关规定形成呼应,最终旨在促推法律适用统一和人工智能治理规则的完善。

四、完善涉人工智能纠纷审理程序规则  

1.完善技术事实查明和新型证据审查机制(第十七、十八条)

涉人工智能纠纷案件审理的关键在于技术事实查明。上述各类实体责任规则能否落实,很大程度上取决于事实查明和证据审查机制是否有效。鉴于此类案件技术性、专业性强,且涉及案件关键事实的数据和技术资料往往掌握在开发者、平台或者数据控制者一方,意见第十七条从三个层面对举证取证作了明确:一是明晰人民法院为查明事实“应当”履行的职责——应依法加强诉讼引导和释明,引导当事人围绕争议事实全面及时地完成举证;当事人因客观原因不能自行收集的证据,人民法院可依申请调查收集,对当事人为固定关键技术事实提出的证据保全也应依法及时审查。二是强化法院调查取证职能,健全专业支持体系,加大依职权调查取证力度;涉及人工智能专业技术问题时,应积极发挥人民陪审员、鉴定人、专家辅助人及技术调查官作用,辅助查明案件事实。三是明确“证据妨碍推定”规则,控制证据的当事人无正当理由拒不提供,对方当事人主张该证据的内容不利于控制人的,人民法院可以认定该主张成立。

意见第十八条则根据不同新型技术证据的形成机理,进一步明确差异化的证据审查重点:对大数据分析报告类证据,重点审查原始数据的来源、清洗规则及分析方法的科学性;对区块链存证类证据,重点审查上链前数据的真实性及技术平台的可靠性。当事人将人工智能生成内容作为侵权证据的,人民法院应综合提示词设计、生成内容与主张权利作品的相似程度、重复测试一致性、模型训练与算法运行机制等因素予以审查认定。由此,这两条规定推动实体规则、证据规则和审判机制相互衔接,有助于解决涉人工智能案件技术事实难以查清、关键证据难以取得等问题,增强案件的可裁判性和规则实施效果。

意见条文 关联法条
第十七条 依法准确查明涉人工智能纠纷案件事实。基于涉人工智能纠纷案件技术性、专业性强等特点,人民法院应当依法加强诉讼引导和释明,引导当事人围绕争议事实及时全面地完成举证。当事人因客观原因不能自行收集的证据,可申请人民法院调查收集;必要时,人民法院可以依职权调查收集证据。当事人为固定关键技术申请证据保全的,人民法院应当及时依法审查。控制书证、电子数据等证据的当事人无正当理由拒不提交,对方当事人主张该证据的内容不利于控制人的,人民法院可以认定该主张成立。对于涉及人工智能技术原理、运行机制等专业问题的,人民法院应当依法充分发挥人民陪审员、鉴定人、专家辅助人以及技术调查官的作用,辅助查明案件事实。
第十八条 探索完善涉人工智能纠纷案件证据审查规则。人民法院应当充分考量人工智能技术的复杂性、系统运行的不透明性以及证据收集的特殊性,不断完善适应新技术发展的证据审查规则。对电子数据生成、收集、存储、传输过程的真实性、完整性进行重点审查。对大数据、区块链等不同信息技术产生的证据明确差异化证据审查重点。对大数据分析报告类证据,应当重点审查其原始数据的来源、清洗规则及分析方法的科学性等;对区块链存证类证据,应当重点审查其上链前数据的真实性及技术平台的可靠性等。当事人将人工智能生成内容作为侵权证据的,人民法院应当综合考量提示词的设计及其对生成结果的影响、生成内容与主张权利作品的相似程度、重复测试的一致性,以及模型训练、算法设计、生成内容过滤机制等因素予以认定。

2.规制利用人工智能妨害司法秩序的行为(第十九条)

生成式人工智能在赋能法律行业的同时,也给司法秩序带来潜在威胁:部分当事人、诉讼参与人利用人工智能技术自主学习、自主决策等特性,低成本伪造证据,捏造事实提起虚假诉讼或妨碍案件审理,或因对“幻觉”等技术缺陷认识不足,不经核实即向法院提交包含虚假信息的法条、案例等材料,严重干扰审判秩序、浪费司法资源。

对此,意见第十九条针对几类妨害司法秩序的典型行为作出规定。一方面,依法惩治利用人工智能虚假诉讼或伪造证据的行为:各诉讼参与主体通过删除或篡改人工智能生成内容标识、选择性结果呈现、对抗性干扰等人为干预或者误导方式取得虚假证据,捏造民事案件基本事实进行虚假诉讼,或伪造证据妨碍人民法院案件审理的,人民法院应当驳回相应的诉讼请求,并依据民事诉讼法第一百一十四条等法律规定,视情节轻重予以罚款、拘留乃至追究刑事责任。另一方面,明确诉讼参与人对人工智能生成的诉讼文书、案例检索报告等负有核实说明义务。其提交的相应材料如系使用人工智能生成,应当在提交法庭前认真核实相关法律法规、案例等内容的真实准确性,并在提交时对使用人工智能辅助情况向人民法院作出说明,并对有关内容的真实性、准确性依法承担责任。以此督促各诉讼参与人在诉讼活动中遵循诚信原则,切实维护司法秩序。

意见条文 关联法条
第十九条 依法规制利用人工智能不当取证等妨害司法秩序的行为。当事人利用人工智能自主学习、自主决策的特性,通过删除或者篡改生成合成内容标识、特定指令输入、选择性结果呈现、对抗性干扰等人为干预或者误导的方式取得虚假证据,捏造民事案件基本事实,进行虚假诉讼,企图侵害国家利益、社会公共利益或者他人合法权益的,人民法院应当依法驳回其诉讼请求,并根据情节轻重予以罚款、拘留;构成犯罪的,依法追究刑事责任。诉讼参与人或者其他人利用人工智能伪造证据,妨碍人民法院审理案件的,依据民事诉讼法第一百一十四条规定处理。诉讼参与人提交诉讼文书、案例检索报告等材料如系使用人工智能生成,在提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性,在提交法庭时对使用人工智能辅助情况作出说明,并对有关内容的真实性、准确性依法承担责任。 **民事诉讼法第一百一十四条:**诉讼参与人或者其他人有下列行为之一的,人民法院可以根据情节轻重予以罚款、拘留;构成犯罪的,依法追究刑事责任:(一)伪造、毁灭重要证据,妨碍人民法院审理案件的;……人民法院对有前款规定的行为之一的单位,可以对其主要负责人或者直接责任人员予以罚款、拘留;构成犯罪的,依法追究刑事责任。

作为第一部较为全面的关于涉人工智能纠纷案件法律适用的司法文件,意见深入贯彻习近平法治思想,坚持问题导向和价值导向,在日新月异的技术变革中把握司法规律,为人工智能领域的相关参与主体划清法治“红线”和底线,也为技术探索和产业创新预留必要的发展空间,从司法角度为人工智能行业的健康有序发展提供助推力。