法治在线：AI换脸、变声可能违法。法律限制在哪

在我国，人工智能融入千行百业，渗透千家万户。它持续推动各行业的智能升级，同时帮助人们工作、学习和创新。 然而，当一些人使用人工智能工具或一些企业利用人工智能技术开发产品时，法律侵权的边界可能无法准确确定，他人权益可能受到侵犯。日前，北京互联网法院立案审理了人工智能合成名人声音推销产品、人工智能将名人转化为虚拟数字伴侣等一系列涉及人工智能侵权的典型案件。 北京互联网法院公布人工智能侵权典型案例 Abu商业人工智能软件 合成名人声音“带货” 李先生是一位在教育和儿童保育领域具有较高知名度和社会影响力的大学教授。我2024年，他在一家销售教育书籍的网上商店里，发现了几段某公司推销各种家庭教育书籍的视频。 虽然图像是她的，声音似乎也是她的，但李女士知道她拍摄这段视频并不是为了宣传这本书。仔细一看，我发现视频中她的样子虽然是真实的，但那是她在另一个场合讲课的视频。这声音不是真实的，而是人工智能合成的非常相似的声音。 北京互联网法院三总审判庭庭长杨军：当我们看到一个视频中，有李女士的肖像，以及与她非常相似的人工智能合成声音时，我们观众会认为该视频是李女士录制的，是她推荐这本书的。 保护原告的权利。 起诉对方侵犯肖像权或表达权 李女士认为，涉事文化传媒公司利用了他的手段。她未经许可利用人格、专业经验和社会影响力来吸引关注、增加商业机会，侵犯了她的宣传权和言论权。李向法院提起诉讼，要求该书的卖家承担侵权责任，包括对相关视频的发布进行道歉和赔偿。 在法庭上，被告承认使用李的视频和人工智能合成的声音来销售这本书，但表示该视频没有损害李的声誉。他认为自己没有受到任何伤害，也不承认所造成的伤害。 未经授权使用原告肖像并通过人工智能改变声音 被判侵权 法院经审理后裁定，未经许可，在与事件相关的视频中广泛使用了李某的形象和人工智能合成的声音，该视频的发布侵犯了李某的肖像权和声音权。 卖方承担连带责任e 侵权。 12万元赔偿判决书 法院认为，本案证据表明，某些文化媒体被告未尽到应有的审查和注意义务，应与视频发布者承担连带责任。最终判决：被告文化传媒公司向原告李某赔礼道歉，并赔偿其经济损失及合理维权费12万元。该裁决目前已经生效。 强化主责卖家能力 始终加快人工智能发展 法官表示，近年来生成式人工智能技术快速发展，随着行业的发展，明星声音被“复制”、用于虚假目的，真假越来越难以辨别，导致声音侵权现象普遍存在，容易被欺骗。活着的消费者。 在法律情况下，卖家委托视频发行商发货的，卖家不会以“消极配合”、“不参与制作”为由免除责任，也不会在审核中履行注意义务。卖方必须与带来商品的人承担连带责任。这强化了卖家的主体责任，控制AI声音克隆的破坏，促进人工智能和深度合成技术的发展。 利用人工智能创作明星伴侣形象，侵犯了哪些权利？ 安人工智能科技有限公司开发并运营移动会计软件。通过这款软件，用户可以创建自己的“AI伴侣”，设置伴侣的名字和头像，并与伴侣建立关系，比如男朋友和女朋友、兄弟姐妹、母亲和孩子。 建立人物关系AI角色与自然界中的人类有着非常密切的关系。 他是著名主持人、演员，也是知名公众人物。在这个软件中，很多用户都将角色设置为AI友好角色。已经设定了。用户还上传了大量何炅的照片来设置头像和人物关系。被告使用算法部署，根据您的关系偏好对伴侣“他”进行分类，并将该角色推荐给其他用户。 他向北京互联网法院提起诉讼，要求被告公开赔礼道歉，并赔偿经济损失和心理损害。 未经授权制作、使用自然人虚拟形象 侵犯精神权利 法院经审理认为，在被告的软件功能和算法设计下，用户利用何先生的姓名和形象创建了虚拟AI角色，制作了互动语料材料，并投影了何先生的照片。。他的整个形象，包括他的名字、肖像、性格特征，都被投射到AI角色上，形成何先生的虚拟形象。同时，用户可以与AI角色建立虚拟的身份关系，建立互惠条件，并通过创建语料库材料来“训练”角色，这些材料很大程度上将AI角色与真实的自然人联系起来。上述未经当事人同意的使用方法，侵犯了当事人的人格尊严和自由利益，是对当事人一般精神权利的侵犯。最终判决：被告向原告公开赔礼道歉，并赔偿原告精神和经济损失20.3万元。 实质性参与提供侵权内容 服务提供商还负责： 法官表示，自然人及其虚拟形象的精神权利，未经许可创作、使用自然人虚拟形象的行为构成侵犯自然人的精神权利。网络服务提供者通过算法设计实质性参与侵权内容的生成、提供的，应当停止中立技术服务提供者的行为，并应当作为网络内容服务提供者承担侵权责任。 使用人工智能软件冒充或诽谤他人是侵犯权利的行为。 AI照片修饰软件简单易用，让您可以为照片添加各种效果，以满足您的个人审美。无论你是减肥一个胖子还是减肥一个白人或黑人都没有关系。然而，有人可以使用AI照片修饰软件来冒充或诽谤他人的肖像。如果您有以下任何行为或行为，一经传播，您可能侵犯他人的精神权利，并将承担适当的赔偿责任。 北京互联网法院审理此案时，原告陈某、被告：孙女士是微信照片分享群的成员。未经郑女士同意，被告孙先生利用人工智能软件，将郑女士的正常照片制作成女性裸露乳房的动漫风格照片，作为微信头像，并发送给微信照片分享群。在原告陈某多次阻止后，被告孙某仍继续恶作剧，利用人工智能软件将陈某的微信头像照片重新制作成露乳、四肢变形的卡通风格照片，并以私信的形式发送给陈某。 陈女士能够将孙某在群发和私信中发送的涉嫌侵权照片识别为自己的照片，并认为这些照片含有诽谤和严重的性暗示，这会降低她的社会声誉，构成对她的形象权、荣誉权和公众人格权的侵犯。因此，单独传唤被告致歉并赔偿心理损害及其他经济损失1元。 法院经审理后认定，被告孙某在微信群中发布的侵权照片系采用人工智能技术生成，未经许可使用原告郑某的微信头像照片。微信群成员根据其外貌和群聊内容，能够将涉嫌照片违法者识别为原告。因此，被告的集体发表行为构成对原告肖像权的侵犯。被告利用人工智能软件生成了原告穿着考究、胸部裸露的微信头像照片，引发微信群内对原告的不当讨论。客观上，这导致了他人对原告的庸俗评价，构成了对原告形象权和荣誉权的侵犯。照片以个人信息形式发送给原告的暴露服装和身体畸形的 phs 也侵犯了原告的个人尊严，并构成对原告一般精神权利的侵犯。 法院的最终判决是，孙先生连续48小时通过个人微信朋友圈向陈先生公开道歉声明，并出具了书面道歉信。这就是我所做的。他赔偿郑某1元作为精神损失费。该判决已经生效。 北京互联网法院法官刘成祖：人工智能技术的发展无疑给我们的日常生活和工作带来了极大的便利。人工智能技术的使用者在使用hAI工具时应注意遵守相关法律和道德规范。人工智能生成的图像和内容必须尊重公共秩序和道德，不得利用人工智能技术侵犯他人精神权利。 中国风格短视频博主被他人深深“AI变脸” 如今，人工智能技术越来越成熟。 “AI换脸”不再困难，甚至成为一种新的商业模式。但利用人工智能换脸时，必须严格遵守法律法规，不得侵犯他人的肖像权和其他个人信息权。 廖女士是中国风短视频博主、汉服模特。他在抖音上有很多粉丝。一次偶然的机会，他发现某科技文化公司的一款换脸换装应用中，有几段与自己妆容、服装相同的视频。用户可以使用面部交换。该软件只需要一张照片来推广您的应用程序。用户通过支付会员费即可解锁所有脸部修改功能，包括照片、自动识别、脸部融合替换等。 廖女士认为科技文化公司的行为侵犯了她的权利的公开权和个人信息权。他向法院提起诉讼，要求公司书面道歉并赔偿他的经济和精神损失。 被告认为未对原告信息进行处理的行为不构成侵权。 被告某科技文化公司认为，其平台上发布的视频来源合法，且面部特征不属于原告，并未侵犯原告的形象权。请注意，该软件中使用的“面部修改技术”实际上是由第三方提供的，被告没有处理原告的个人信息，没有侵犯原告的个人信息权。 庭审后，法院判决，因被告未出示证据，法院认定该示范视频为示范视频，法院认为不相信被告的主张由于被告系涉案换脸软件的运营者，因此被告应承担由此产生的法律责任。本案中，被告使用原告的视频制作视频模板，但没有使用原告的图像。相反，他用技术手段替换了原告的面部特征。模板中保存的元素，如妆容、发型、服装、灯光、镜头变化等，并非与特定的自然人密不可分，而且与自然人原有的个性元素有所不同。公众通过替换视频识别出的主体是陌生人，并非这起诉讼中的原告。同时，被告向用户提供视频模板的行为并没有诽谤、污损或者伪造原告的形象。因此，被告的行为不构成对原告肖像权的侵犯。 孙明喜 副主任北京互联网法院院长：我们这个案件的特殊情况是它使用了深度合成技术。通过对比音乐、化妆、服装、发型等，可以确认确实使用了原告出现的视频。然而，在使用这个视频作为模板之前，我已经使用深度合成技术进​​行了这样的面部替换，将面部与原告的原始面部融合在一起。 法院认为，此举构成对原告个人信息权的侵犯。 法院认为，虽然被告的行为不构成对原告肖像权的侵犯，但被告在使用该模板的过程中，制作了包含原告面部信息的视频，并用第三方的照片替换了视频中原告的脸部。当用户使用软件修改脸部时，合成过程需要将新的静态图像的特征与面部特征相结合通过算法对原始视频的特征、表情等进行处理。上述过程包括投诉人个人信息的收集、使用、分析等，纳入投诉人个人信息处理范围。被告在未经原告同意的情况下对信息进行处理，构成对原告知情权的侵犯。 北京互联网法院副院长孙明喜：个人信息权益是民法颁布后确定的。我们的新型精神权益，无论是《民法典》还是《隐私法》，都规范着个人信息的权益。我们说，形象权通过允许他人识别自我、个人尊严和其他利益来解决社会表型利益。而在数字环境下，个人信息权更加具体化，保障了人们的权益。埃夫如果可以证明我的个人信息是在未经我许可或任何其他法律原因的情况下在该数字空间中处理的，则仍然属于违规行为。 法院认为，本案中，被告未经许可使用他人制作的视频，侵犯了他人的创作成果。由于原告廖先生只是涉案视频的模特，并非该视频的权利人，因此该视频的权利人必须单独提出索赔。 法院最终判决：被告某科技文化公司向原告廖女士书面道歉，并支付一定数额的精神损害赔偿金。该判决已经生效。 （央视记者 纪成海 李世贵）