4月26日，一名拥有百万粉丝的网红博主称自己的“脸被偷”，有人用AI换脸软件，制作她的不雅视频。
此前，“特效合成师”和迪丽热巴“接吻”、女子乘地铁照片被“一键脱衣”……不仅是网红、明星，普通人也难逃“换脸”“换装”，事件频频冲上热搜，引发关注。AI侵权事件屡屡发生，我们又当如何维权？
百万网红博主称“脸被偷”
4月26日，在社交平台有着百万粉丝的网红博主“caro赖赖_”发文称，有人盗了她的“脸”。据其介绍，大约在半年前，其视频评论区有多人说看过她的“视频”。本着清者自清的原则，她没进行任何回应。但前几天，其朋友给她发来一些截图和视频。但当她看到视频里的女演员的脸和自己一模一样，“caro赖赖_”称，这时她自己意识到“脸”可能被盗用了。
该网红博主称，她发现在境外社交平台上有人冒充注册了假账号，先是搬运其社交账号的日常内容，积累一定粉丝后，就会以会员订阅的方式贩卖视频。更让她惊讶的是，在另一个社交网站，制作ai盗脸视频账号的人很多。
该网红博主说，经过深入了解，她发现“AI盗脸”背后好像已经形成了一条完整的产业链。产业链的一端是不法分子通过ai换脸技术赚钱。这些不法分子，将明星、博主甚至普通人的脸制作成不雅照片或视频，明码标价获取利益。
明星的脸常常被“偷”
2023年3月25日，一男性在其社交平台表示，自己的脸被迪丽热巴的粉丝抓伤“破相”，并晒出受伤照片。该男子此前使用合成技术，将剧集《你是我的荣耀》中的一场吻戏中的杨洋的脸“改头换面”，变成他自己与迪丽热巴“亲吻”的视频。
该男子自称是一名“特效合成师”，其短视频账号发布大量类似的视频：截取一些影视片段，将当中某个角色换成自己的脸。除了《你是我的荣耀》，他还改动过《狂飙》《武林外传》《甄嬛传》《小李飞刀》等知名影视作品。
2023年4月7日，浙江杭州萧山区检察院曝光的一个“女神群”引发关注。
80后安徽小伙虞某在网上推广AI换脸技术及相关的软件，并从中获利，但他不满足与现状，将建成的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。
虞某表示，“内部群”里发送的淫秽视频根据顾客的需要，还可以使用不同的女明星的形象，进行“私人定制”。虞某短短几个月的时间里就收获了数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。
除了女明星，不少男明星也被“AI换脸”或被人盗脸牟利。
2021年8月，刘昊然工作室发布声明，表示演员刘昊然遭到恶意AI换脸，网传其脸被移植到不雅视频中，视频还被对外贩售。针对此事，工作室向警方报案。
2020年，曾发生“假靳东”事件，江西一位六旬已婚女性自称在抖音上结识了“靳东”，甚至在他的“召唤”下去长春找他，想要和他一起生活。事实上，她所结识的“靳东”是不法分子盗用名人的照片或视频片段通过剪辑配音制作出短视频。随后，不少中年女性被骗的案例被曝出，引起广泛讨论。
2023年2月，新快报记者通过关键词“东弟”搜索发现，仍有部分使用深度合成技术发布的虚假短视频在社交平台传播。
普通人的脸也难逃被“偷”
除了针对网红、明星，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。
2022年7月，一位女网友在社交平台发布了一组在地铁列车上拍摄的穿搭照片。2023年3月，她却发现有人将该照片上人物的衣物去除后，在网上恶意传播，称有人在地铁上拍摄裸照。不少网友对此十分愤慨。该照片的背景和博主上传的照片背景一致，头像也一致，唯一不同的是博主原本穿的衣服却不见了。
“AI去衣”软件在网上公开叫卖
极目新闻记者通过网络社交平台上找到几名贩卖“ai换脸”软件和提供“去衣”服务的卖家。一名卖家介绍，ai换脸收费30元、手机去衣软件收费50元、电脑去衣软件收费80元。
其发来的去衣软件手机版与电脑端的区别显示，电脑端能更好根据衣服阴影和曲线进行尺寸预测，有更好的合成效果。不过这名卖家告诉记者，现在只卖软件，不提供去衣定制了，“因为之前号被封了一次。”
另一名卖“去衣软件”的贩子称，软件便宜的只需要29元，贵的是259元，也可以“来图定制”，一张图片5元，5张图片20元。其介绍，便宜的“去衣软件”不太好用，使用过一次后还需要“冷却”，过一段时间才能再用，但是贵的软件可以一直使用。
其发来的价值259元的“去衣软件”制作过程显示，软件导入一张人像图片后，用“画笔”涂抹人像上的衣服，经过一些设置，再等待一段时间，导入的人像照片的衣服就消失不见，原本正常照片就变成了一张裸照。
像前述贩卖去衣软件或提供ai换脸服务的贩子，在网上并不少见。
“AI盗脸”涉嫌违法犯罪，已有多例判罚
2023年4月，羊城晚报记者用“AI+换脸”检索中国裁判文书网，得出8篇裁判文书，均系2022年以来作出，被告涉及多家运营AI“换脸”软件的公司。在这八篇裁判文书中，法院均判决被告构成肖像侵权，判赔数额为2500元至6000元不等，并判决被告赔礼道歉。
中国政法大学传播法研究中心副主任朱巍告诉羊城晚报记者：“利用深度伪造技术形成的图片，反映在立法上应该受到一定的限制——不是说禁止这个技术，而是技术在使用中要受到一些限制，比如，第一，不得侵害他人的合法权益。第二，不能恶搞。第三，基于热点事件生成的图片，必须向社会公众明确标示此照片系AI合成。”
“AI换脸”即使是用作搞笑，也有可能造成侵权。杭州市萧山区检察院发文提醒，“AI换脸”技术如果用来搞笑或者制作恶搞照片、照片，有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。
一旦被人利用“AI换脸技术”实施犯罪行为，应第一时间固定证据，并及时向司法机关报案。
来源 | 羊城晚报•羊城派综合极目新闻、新快报、中国青年报、济南时报、萧山检察微信公众号等责编 | 陈诗洁
4月26日，一名拥有百万粉丝的网红博主称自己的“脸被偷”，有人用AI换脸软件，制作她的不雅视频。此前，“特效合成师”和迪丽热巴“接吻”、女子乘地铁照片被“一键脱衣”……不仅是网红、明星，普通人也难逃“换脸”“换装”，事件频频冲上热搜，引发关注。AI侵权事件屡屡发生，我们又当如何维权？百万网红博主称“脸被偷”4月26日，在社交平台有着百万粉丝的网红博主“caro赖赖_”发文称，有人盗了她的“脸”。据其介绍，大约在半年前，其视频评论区有多人说看过她的“视频”。本着清者自清的原则，她没进行任何回应。但前几天，其朋友给她发来一些截图和视频。但当她看到视频里的女演员的脸和自己一模一样，“caro赖赖_”称，这时她自己意识到“脸”可能被盗用了。该网红博主称，她发现在境外社交平台上有人冒充注册了假账号，先是搬运其社交账号的日常内容，积累一定粉丝后，就会以会员订阅的方式贩卖视频。更让她惊讶的是，在另一个社交网站，制作ai盗脸视频账号的人很多。该网红博主说，经过深入了解，她发现“AI盗脸”背后好像已经形成了一条完整的产业链。产业链的一端是不法分子通过ai换脸技术赚钱。这些不法分子，将明星、博主甚至普通人的脸制作成不雅照片或视频，明码标价获取利益。明星的脸常常被“偷”2023年3月25日，一男性在其社交平台表示，自己的脸被迪丽热巴的粉丝抓伤“破相”，并晒出受伤照片。该男子此前使用合成技术，将剧集《你是我的荣耀》中的一场吻戏中的杨洋的脸“改头换面”，变成他自己与迪丽热巴“亲吻”的视频。该男子自称是一名“特效合成师”，其短视频账号发布大量类似的视频：截取一些影视片段，将当中某个角色换成自己的脸。除了《你是我的荣耀》，他还改动过《狂飙》《武林外传》《甄嬛传》《小李飞刀》等知名影视作品。2023年4月7日，浙江杭州萧山区检察院曝光的一个“女神群”引发关注。80后安徽小伙虞某在网上推广AI换脸技术及相关的软件，并从中获利，但他不满足与现状，将建成的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。虞某表示，“内部群”里发送的淫秽视频根据顾客的需要，还可以使用不同的女明星的形象，进行“私人定制”。虞某短短几个月的时间里就收获了数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。除了女明星，不少男明星也被“AI换脸”或被人盗脸牟利。2021年8月，刘昊然工作室发布声明，表示演员刘昊然遭到恶意AI换脸，网传其脸被移植到不雅视频中，视频还被对外贩售。针对此事，工作室向警方报案。2020年，曾发生“假靳东”事件，江西一位六旬已婚女性自称在抖音上结识了“靳东”，甚至在他的“召唤”下去长春找他，想要和他一起生活。事实上，她所结识的“靳东”是不法分子盗用名人的照片或视频片段通过剪辑配音制作出短视频。随后，不少中年女性被骗的案例被曝出，引起广泛讨论。2023年2月，新快报记者通过关键词“东弟”搜索发现，仍有部分使用深度合成技术发布的虚假短视频在社交平台传播。普通人的脸也难逃被“偷”除了针对网红、明星，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。2022年7月，一位女网友在社交平台发布了一组在地铁列车上拍摄的穿搭照片。2023年3月，她却发现有人将该照片上人物的衣物去除后，在网上恶意传播，称有人在地铁上拍摄裸照。不少网友对此十分愤慨。该照片的背景和博主上传的照片背景一致，头像也一致，唯一不同的是博主原本穿的衣服却不见了。“AI去衣”软件在网上公开叫卖极目新闻记者通过网络社交平台上找到几名贩卖“ai换脸”软件和提供“去衣”服务的卖家。一名卖家介绍，ai换脸收费30元、手机去衣软件收费50元、电脑去衣软件收费80元。其发来的去衣软件手机版与电脑端的区别显示，电脑端能更好根据衣服阴影和曲线进行尺寸预测，有更好的合成效果。不过这名卖家告诉记者，现在只卖软件，不提供去衣定制了，“因为之前号被封了一次。”另一名卖“去衣软件”的贩子称，软件便宜的只需要29元，贵的是259元，也可以“来图定制”，一张图片5元，5张图片20元。其介绍，便宜的“去衣软件”不太好用，使用过一次后还需要“冷却”，过一段时间才能再用，但是贵的软件可以一直使用。其发来的价值259元的“去衣软件”制作过程显示，软件导入一张人像图片后，用“画笔”涂抹人像上的衣服，经过一些设置，再等待一段时间，导入的人像照片的衣服就消失不见，原本正常照片就变成了一张裸照。像前述贩卖去衣软件或提供ai换脸服务的贩子，在网上并不少见。“AI盗脸”涉嫌违法犯罪，已有多例判罚2023年4月，羊城晚报记者用“AI+换脸”检索中国裁判文书网，得出8篇裁判文书，均系2022年以来作出，被告涉及多家运营AI“换脸”软件的公司。在这八篇裁判文书中，法院均判决被告构成肖像侵权，判赔数额为2500元至6000元不等，并判决被告赔礼道歉。中国政法大学传播法研究中心副主任朱巍告诉羊城晚报记者：“利用深度伪造技术形成的图片，反映在立法上应该受到一定的限制——不是说禁止这个技术，而是技术在使用中要受到一些限制，比如，第一，不得侵害他人的合法权益。第二，不能恶搞。第三，基于热点事件生成的图片，必须向社会公众明确标示此照片系AI合成。”“AI换脸”即使是用作搞笑，也有可能造成侵权。杭州市萧山区检察院发文提醒，“AI换脸”技术如果用来搞笑或者制作恶搞照片、照片，有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。一旦被人利用“AI换脸技术”实施犯罪行为，应第一时间固定证据，并及时向司法机关报案。来源 | 羊城晚报•羊城派综合极目新闻、新快报、中国青年报、济南时报、萧山检察微信公众号等
