他们给AI投币1美元，百万女人被拖入阴间

他们给AI投币1美元，百万女人被拖入阴间

那张相片，会跟着我一辈子吗？”

一年多前，伍华在韩国旅行，途中在交际媒体上发布了一张带有韩国定位的相片。回国不到三天，朋友发给她一张截图，是一个和她的头像、网名简直相同的账号。不同的当地是，账号里的文字被替换成韩语，个人简介里，还呈现了一个陌生网址。

令伍华震动的是，点开高仿账户里的网址，会导向一个色情频道，污秽不胜的付费视频陈设其间——主角，全都被AI换成了她的脸。

直到本年8月末，重视到韩国Deepfake作业时，“我被一阵巨大的后怕席卷。”伍华告知《智能呈现》，“太厌恶、太难受了。”

回想起点开这些AI视频的的榜首感触，伍华仍旧语带呜咽。尽管高仿账号现已被她告发删去，但她不确定自己的脸，还有没有被用在其他当地。

Deepfake（专指依据AI的人体图画组成技能）技能催生出的“N号房2.0作业”，正在让隔海相邻的韩国堕入巨大漩涡。不可胜数的女人，成为了男性用AI捕获的“猎物”。

仁荷大学的一位男学生，组成起了一个超越1200成员的谈天室。他们运用Deepfake技能，将校园中的女生的脸庞，安放到到各种黄色印象上，群聊中还揭穿共享她们的联络方法。他们给AI投币1美元，百万女人被拖入阴间！

从仁荷大学开端，一场巨大的合谋被敏捷揭开，Deepfake也因而被称为“N号房2.0作业”。从8月20日开端，韩国媒体、警方连续揪出了许多与校园、医院、戎行体系中的相似谈天室。

22万，这是韩国宣布的人数最多的Deepfake谈天室成员人数。而韩国规划内，简直每一个中学、大学都有这样的“凌辱房”。

在群聊中，男性以自己日子中熟识的女人为凌辱方针，用各种Deepfake东西，将女人的脸换到各种淫秽不胜的图画、视频中。然后，群内的男性会开端一同进行言语凌辱，乃至发展到线下要挟、打扰。

规划较大的凌辱房，乃至还会细分红不同的小房间，比方家族凌辱房。男性乃至偷拍自己的妈妈、姐姐、妹妹的相片传到群聊中。

△谈天室中，有男性将亲妹妹的相片上传其间（相片已被赤色马赛克遮挡），配文为翻译成中文的谈天记录。

2019年，震动全球的N号房作业发生时，就有网友语带挖苦：“全韩国的出租车总数只需26万台，这意味着，你在街上碰见N号房会员的概率，和碰见出租车相同。”

这句话，不只能用在今日的Deepfake谈天室上，实在的状况愈加触目惊心。

N号房1.0根本以实在的盗摄内容为主，这意味着违法者还需求自行拍照，获取资料。但Deepfake技能越来越成熟后，Deepfake房的违法本钱降至极低——AI生成的图画、视频，内容传神到让人含糊。

本年5月，一位40岁的首尔大学毕业生朴某被拘捕，他用48名女人受害者的相片，制造了1852份性克扣内容，受害者都是他在日子中知道的女人。

一位在首尔的教师，发现自己也成为了“熟人凌辱房”的主角，始作俑者是她执教班级的学生，但她无法得知是哪一位。

“那张相片会跟着我一辈子吗？”她溃散地向媒体倾诉。

Deepfake作业爆出后，志愿者依据媒体报道、匿名投稿核实，制造了一张触及Deepfake加害者地图。赤色符号鳞次栉比，简直要将韩国中心地带吞没。

△志愿者收拾的“加害者校园地图”，红点简直要将韩国中心地带的地图吞没来历：https://deepfakemap.kr

依据网络安全监测安排SecurityHero的计算，2023年韩国的Deepfake色性工业，就占到了全球的53%——与之相对的，韩国2023年的GDP，还不到全球的2%。

△2023年全球Deepfake色情工业散布制图：智能呈现

被失望和愤恨冲击的韩国女人，不得不在压抑的言论中四处奔走。

“我的日子不是你的色情片！”“女人没有国家！”她们愤恨地在交际媒体高呼。

缄默沉静中的围歼战

没人知道切当的女人受害者数字是多少。大学生智英每日灌下大杯大杯的咖啡，只为了坚持清醒状况。“我惧怕错失受害者的任何一条投稿。”

智英不敢停下。自8月下旬开端，她简直失去了睡觉。

一场围歼战正在进行中。

在推特上，智英与韩国男性不断斡旋。她的推特账号早已实时被男性们监控，刚上传的、呼吁咱们告发的厌女内容网址，下一分钟网址就被修改了。这意味着，厌女者们一向在盯着智英的推文。

在和咱们的沟通中，她还测验运用变声器——全部在推特上为这次作业活泼的女人博主，都是韩男“开盒”（人肉查找）的头号方针，她无法泄漏自己的任何信息。

在女人位置低下的韩国社会，女权主义者早已是个风险的标签。韩国最大的女权主义推特Queens Archive就因为最早宣布Deepfake谈天室作业，被韩国男性告发至炸号。

“有时候咱们底子不洗澡、不睡觉，一向熬到清晨三四点。”智英对《智能呈现》表明。她和推特上的“战友”，急迫地将全部Deepfake相关信息、受害者维护攻略、女人主义科普翻译成英语，在推特上不间断传达。

Deepfake作业触及的加害者、受害者两边，其年纪规划比起N号房1.0都要更小。2024年1月至7月，韩国立案侦查了297起深度假造性克扣违法，合计捕获178名嫌疑人，其间131人是十几岁的青少年，占比73.6%。

不少人将其比作“N号房2.0作业”，但与之比较，现在的言论热度，底子不能同日而语。在不少女人眼中，韩国政府和警方的情绪，可以用“消沉”来描述。

用AI制造的性凌辱内容，因为“并不是实在的”，一开端乃至没有进入到警方、政府的视界。

“当年的N号房作业，政府就没有进行合理的处理。所以，现在Deepfake作业中的男性，许多都是未成年，受害者中也有许多是未成年人，加害者更不会觉得有什么效果，也不会坐牢。”智英对《智能呈现》说。

在本次Deepfake作业中，现在韩国警方只拘捕了15个人左右，有的加害者直接跑到海外，以移民的方法躲避惩罚。

“Deepfake作业，加上此前的N号房、Soranet等数字性违法事例，受害者估计有超越100万人之多，没有人知道切当的数字。“智英感到遗憾，“所以假如咱们不尽快向政府施压，政府就不会做任何作业。”

韩国女人开端向外求救，接力将Deepfake作业的内容传达到我国、日本的交际媒体上。

△来历：微博

韩国大学生恩静就跑到小红书上，用机翻的陌生口吻恳求重视、分散，不断被封号、删帖也不曾抛弃。而在微博上的韩女呼救微博，在短短两天内就被转近15万次。

△来历：小红书

无人知道这些尽力终究可以导向何方。恩静告知《智能呈现》，她的亲妹妹现在也是一位中学生，校园除了简略吩咐女生维护自己，再无其他方法——她和妹妹只能将交际渠道上全部带脸的相片删去，每日穿长裤出门。

而海外言论迸发后，韩国政府才总算仔细跟进这一作业。近期韩国不同政党最近的揭穿讲话，都离不开Deepfake作业。“作业有必要短期内处理。”他们表明。

“Deepfake凌辱房”，无处不在

当一名毫无AI技能根底、留在“墙内”的我国男性，成为Deepfake加害者，前期需求支付怎样的作案本钱？

在SecurityHero的陈述中，我国的Deepfake色情视频数量，占全球的3%。与韩国（53%）和美国（20%）比较，这是一个并不高的数字。但是，因为陈述计算的数据大多来历于海外网站，我国Deepfake色情工业的实践规划，远不止这些。

在海外交际渠道X（原为Twitter）上检索“Deepfake”，很快呈现一名我国Deepfake东西卖家。他的帖文显露地写着“AI脱衣”“绑缚”“比基尼”等字眼，但主页却声明：“仅供给AI东西，对用处概不担任。”

X、Instagram、Facebook等海外交际渠道，只是是翻开潘多拉魔盒的一把钥匙。不少我国从业者，用“vx”“扣”“zfb”等字眼，隐晦地指代买卖的终究场所：微信、QQ、闲鱼，乃至还有支付宝的买卖界面。

经过留在X上的QQ号，咱们联络上了一名卖家。为了躲避渠道的监管，他的特性签名是“制止违禁词，仅供文娱运用，传达效果自负”。自始至终，他体现得和一般软件出售无异，整段对话没有提及任何“性”相关的词汇。

但“性”，又成了这场买卖心照不宣的意图。很快，对方用QQ“闪照（点开3秒后相片就会消失）”功用，发来两张打满马赛克的Deepdake效果图。

△作者与Deepfake东西卖家的QQ谈天记录，已告发给腾讯官方渠道

点开大图，马赛克随即消失——一张凹着不自然Deepfake照，呈现在了屏幕上。

3秒后，女人的相片，连同用以维权举证的依据，一同消失在了谈天记录中。

即使在国内，让女人阅历一场赛博凌辱，并从法令制裁中逃逸，也如此简略。

作为脱去女人外衣的新式凶器，AI的呈现，让网络性损害的本钱更低、速度却更快。在从业者发来的产品目录中，一段用AI生成的10秒内换脸视频30元，一张AI裸照只需10元，价目表上还特别注明：买5送1。

但一开端，Deepfake的背面、一项名为“生成对立网络（GAN）”的技能，还几近人畜无害。

2014年诞生在谷歌大脑试验室的GAN，有着难以遍及的全部要素：软件装置难度大、操作的技能门槛高，一同还需求贵重的练习数据集和算力资源。这让Deepfake一度待在试验室里，没有被群众广泛运用。

作业走向失控，大致在2019年。

2019年，一款声称“30秒就能一键脱衣”的运用DeepNude诞生了——挖苦的是，这款软件用了一万张女人裸体相片练习而成，当用户输入一张男性相片，他无法脱下男性的衣物，只会为其增加一个女人的阴部。

DeepNude的背面，是几年间功能飞速进步的GAN技能，以及让运用难度大幅下降的开源生态。这让一名匿名的男性程序员Alberto（化名），依据加州大学伯克利分校的开源GAN架构，快速开发出了DeepNude。

一边，是迅猛发展的AI技能，和逐步昌盛的开源生态；另一边，又是粗野成长的Deepfake，和没有做好预备的社会意识和监管体系。

DeepNude让非自愿裸照的制造，变得像点击按钮相同简略。迫于言论压力，DeepNude发布两周后，就挑选了自主下架。Alberto（化名）在采访中解说，这款软件的开发彻底出于“有意思”和“好奇心”：“我不是偷窥狂。我是技能的爱好者。”

DeepNude下架了，但千万个“DeepNude”，以更隐秘的姿势、更低的操作门槛、更传神的生成质量，开端在互联网众多。

Deepfake与色情工业的相关数据制图：智能呈现

在论坛Discord上，DeepNude的装置包以20美元的价格出售。匿名卖家在主页中表明，他们进步了DeepNude的稳定性，与此一同，还删去了正版DeepNude给生成图片增加的水印——这全部，都让Deepfake裸照，看上去愈加传神。

下架不到三周，DeepNude又被开发出了更易上手的方式，成了嵌了Telegram上的一键脱衣Bot。

尔后，作业的走向，和现在的韩国“N号房2.0”非常相似。Bot的运用者，自发在Telegram上建立了社群，超越10万名成员，成了“N号房”的初代居民。

最早监测到这款Bot的网络安全公司Sensity发现，上线不到一年，这款Bot现已发生了68万多名女人的虚伪裸照，约104852张女人相片被揭穿发布在这款运用上。

向下的维权螺旋

从2019年至今，围歼DeepNude的举动一向在进行。

2019年7月，美国弗吉尼亚州经过了一条有关色情禁令的法令修正案，制止出售或传达计算机生成的色情内容。同年年底，推特、谷歌、Facebook等渠道着手整治Deepfake视频，方法包含给Deepfake视频打水印、资助检测Deepfake的相关研讨项目。

但是，不管是韩国“N号房2.0”，仍是藏匿在QQ、支付宝、闲鱼中的地下灰产，都印证了一个令人懊丧的实际：Deepfake从未实在消失。

2019年，多伦多大学公民试验室曾宣布了一项研讨，企图探究微信怎样自动检查巨量谈天中的图片。效果显现，微信对朋友圈和群聊的检查力度，大于1对1的私密谈天，一同，政治和社会新闻，是微信图片检查的中心主题。

这意味着，渠道对色情内容的监管，仍然存在缝隙。私密谈天中进行的Deepfake色情买卖，很难经过渠道进行宣布，除非由人自动检举。

但人一定能自动站出来吗？

北京市两高律师事务所副主任张荆，20年来经手了不少损害女人权益的案子。多年来，她帮忙女人和详细到个人的加害者、不公平的结构，乃至法令体系的缝隙反抗。但Deepfake性损害的发生，让她觉得女人的斗争，又走到了一个更为杂乱的关卡。

“在技能不那么兴旺的曩昔，女人遭受性违法，最少能知道详细的受害者是谁，女人遭到的损伤可以经过司法鉴定被量化。”张荆告知《智能呈现》。但现在，不管是Deepfake内容的制造者，仍是传达者，都面貌含糊、数量难以确定，这对取证和量刑，都造成了极大的困难。

“报警不就好了？”在网络上，不少旁观者都提出了疑问，乃至有不少受害女人也曾以为，报警就好了。

但在报警之前，女人还要走过绵长的取证之路。张荆告知《智能呈现》，“想要立案为刑事案子，去司法机关报案的条件是有根本的依据。”

而这些根本依据又包含：Deepfake传达的详细网站、侵权图片的数量（数量过少缺乏以被立案）、传达规划（传达规划过小缺乏以被立案）。

“说实话，关于不常常上网的人来说，完结这一步并不简单，她们或许乃至连网站该怎样进入都不知道。”张荆总结。

即使女人顺畅走到了报警、立案的一步，加害者的处置效果往往不尽善尽美。

在我国裁判文书网中输入“AI换脸”，总共只需16篇文书，最早的一同案子发生在2022年。两年来，可以诉诸刑事案子的Deepfake损害作业，数量为0。

在层层阻止下，女人针对Deepfake的维权，成了一条不断向下的螺旋：社会的压力，和苛刻的立案流程，导致鲜少有乐意站出来的女人受害者；女人声量的缺乏，以及立案数量的稀疏，又让立法的推动变得益发困难。

2023年12月，在我国台湾省，曾有一同判例，给了Deepfake受害女人少许期望。网名为“小玉”的男网红朱玉宸，运用Deepfake技能，将100多位闻名女人组成A片，上网贩卖获利超越1300万台币（约288万元）。终究，他以违背《个人资料维护法》等罪名被申述，并被判处5年有期徒刑。

只是，五年就够了吗？

“曩昔的黄色录像带、3D影片，是一个详细的小众工业，传达很难对一个鲜活的人发生损伤。”张荆说，“但今日的Deepfake，和曩昔色情工业的本质区别在于，它的传达，会对日子中详细的人发生损伤。”

这意味着，“按照传达淫秽色情内容对Deepfake进行量刑，程度一定是会偏轻的。”她总结。

加害者面前的，是看得到头的5年惩罚，但伤口或许会随同女人走过更为绵长的年月。

15岁那年，阅历来自后桌男生的Deepfake打扰后，小鱼开端不期望夏天到来。白色的短袖校服一旦被汗水浸湿，就会透出女生的内衣和身体的曲线。挨近40摄氏度的高温下，小鱼仍然挑选穿两件短袖，阻挠男生的视野。

小鱼告知《智能呈现》，她觉得告知教师和家长，都是无用功。她记住，班上有男生从前开女生的黄色打趣，或是拽拉内衣的带子，但终究教师的回应是：都是小孩子之间的打趣。

现在，离被打扰现已曩昔了一年多的时刻。升入高中后，小鱼和后桌男生失去了联络，日子又归于平平。只是，夏天穿两件短袖的习气，被小鱼坚持到了现在。

人类，还没有做好应对Deepfake的预备

在很长一段时刻内，实际或许仍旧惨白。

看到韩国Deepfake作业后，鹿影科技联创李倩愤恨透顶，当即拉着创始人脑筋风暴到深夜，口干舌燥之余，二人都很懊丧。“或许要带给你一个坏消息：没有什么方法可以从技能上，直接把Deepfake性暴力给杀掉。”李倩对《智能呈现》说。

尽管无法直接铲除，“以其人之道还其人之身”，是一条惯例途径。

瑞莱才智联合创始人萧子豪向《智能呈现》介绍，公司内部会定时安排“红蓝对立”，把工程师会分为“赤军”“蓝军”两派，让“赤军”模仿实在的进犯，而“蓝军”担任应对处置。“赤军”一派的工程师们，为了了解黑产手法，乃至会潜伏到黑产集体中寻觅头绪，继续立异进犯手法。

关于用AI对立Deepfake的人们来说，每天的作业，便是对立各种意想不到的新事例。2周调优一个新版本、2个月迭代一版大模型，简直是标配。

但这更多是在问题呈现前后的预警提示。实在的损害发生后，要想维护女人，更多需求依托司法织造的网。

2022年11月，我国出台了榜首条清晰针对Deepfake提出的规则：《互联网信息服务深度组成处理规则》。这一规则对Deepfake内容制造者、技能服务供给商，以及制造、传达发布行为，都做出了规制。

但从法规的拟定到实在执行，还有一条绵长路途。近20年来，张荆观察到，不管是处理刑事案子的律师，仍是接到报案的差人、终究担任审判的检察机关，大多都是男性。

“这是一个结构性的问题，乃至立法机关，也根本上是男性。”张荆从前参加过一个有关废弃嫖宿幼女罪（比强奸罪量刑更轻）的研讨会。

在场的不少男性律师，给出了不少支撑保存嫖宿幼女罪的理由，其间一个是：假如改用强奸罪科罪，违法行为人或许会逼上梁山，反而让女人受害人堕入风险的地步。

现有的成功让加害者被拘留、科罪的个例，大多是女人活跃自救的效果。

2023年的苏州大学黄谣和AI换脸作业中，受害者就潜入传达AI假造图画的谈天房，进行取证，并运用扫除法，将不同符号的相片在朋友圈中分组发布，进行逐一扫除，终究将加害者捕获。

要进一步推动Deepfake性损害的立法，和社会意识的行进，还需求一个实在的判例。

“有了判例，这段女人被虐待史才更有或许被写进义务教育的教科书，让性别教育行进一步。”一名在日本的女权活动者告知《智能呈现》。

当下的AI职业，其实仍是一个适当由男性主导的范畴。某种程度上，从研制到产品落地进程中，都极易让女人成为被AI“压榨”的集体，成为工业中的一环。

李倩观察到的一个数据是，从互联网取得的视频模型练习数据，40%触及成人内容，而其间的8成，内容都是女人身体。

“色情，是当下AI C端产品最成功的商业方式。”一名投资人对《智能呈现》如此点评。终究，Deepfake的众多被归结到了一个商业实际：用AI贩卖女人身体，会给利益者带来丰盛的商业报答。

对立商业惯性，非常困难。

在融资进程中，部分投资人，不管男女都会告知李倩，YoYo（鹿影科技的AI视频创造渠道）假如对黄色擦边内容略微宽恕些，商业化会更顺畅。

从榜首天起女人友爱，对人力、资金有限的AI草创公司而言，要不要走出这一步，是个尤为困难的决议。李倩告知“智能呈现”，从练习数据中除掉40%的黄色数据，意味着要花额定的本钱补全；假如花人力和时刻给用户输入的提示词设置违禁词，产品迭代的速度至少慢两个月。

“做创业者，是不是就要无性别地，看待商业国际？”但阅历Deepfake作业后，李倩现已不这么以为了，“一旦开闸，职业又多了一块驱赶良币的劣币。”

假如女人可以在职业中获取更多技能主导权，未来会变得不相同。

2024年9月4日，中科院的女工程师张欣怡，将自己团队研制的Deepfake对立模型，向全球开源。一旦有人需求帮忙，就可以免费运用模型来检测Deepfake内容。

在自己的微博中，张欣怡写到：“假如一个人的火把太小，咱们就把火把传给国际的每一个人。”

当新技能席卷国际，司法、技能都没有彻底跟上时，普通人每一次的发声、举动，才是社会进程得以向前推动的原因。

韩国便是一个活生生的比如——在极度男性主义的国家，女人权益的每进一步，都由布满血和汗的斗争之路造就。

自2015年之后，韩国女人在#MeToo、消除网络性暴力、中止怀孕非刑罪化等议题上打开了一系列女人主义运动，经过打开议题评论、集会游行等等方式，这些活动从社会意识、立法准则层面，都争夺到了名贵的效果。

从前揭穿N号房丑闻的两位女记者姜京允、朴孝实，经受了长年累月的网络咒骂、凌辱和精力摧残，其间一位记者乃至屡次流产。

但韩女从没有停下脚步。N号房作业后，韩国就成立了专心于对立性克扣违法的女人集体“RESET”，推动了包含网络性违法相关法例的拟定进程。而本年5月，将Deepfake其间一名嫌疑人送进监狱的，正是此前曾揭穿N号房的两位大学生记者之一。

不能中止，不能抛弃，是咱们接触到的，奔走在Deepfake作业一线的韩国女人主意。“这不是只是为了咱们这一代而斗争，而是为了全部人的命运，”智英说，“我想要一个我的朋友、家人和全部女人都感到安全的国际。”

不同人种、国籍的女人，都开端了对韩国女人的支援。当地时刻9月3日，一群居住在伦敦的我国女权主义者，从特拉法加广场走到韩国大使馆，高唱起韩国女权运动的标志性歌曲《再次重逢的国际》，声讨韩国偷拍、AI假造等等非法行为。

赤色的字，被印在林林总总的横幅标语上：“我的日子，不是你的色情片。”

△当地时刻9月3日，一群居住在伦敦的我国女人主义者进行了反偷拍、反Deepfake游行。图源：伦敦的我国女权主义者

（为维护受访者，智英、恩静、小鱼均为化名。感谢星星、xwf、十月、lakyo、阿鸡、伦敦姐妹在访谈中供给的帮忙。）

他们给AI投币1美元，百万女人被拖入阴间！