互联网总是擅长在最短的时间内，把一项足以改变世界的技术，快进到“下半身”那点事儿上。
就在2024年的最后几天，埃隆·马斯克掌舵下的X（前推特）给全球用户送了一份“大礼”——Grok AI的新功能。这并不是什么晦涩难懂的算法更新，而是让每一个人都可以在别人的评论区里调用AI修改别人发的图片。
起初，大家还觉得这功能用来修修图、换换滤镜挺好。确实，最初的几个小时里，日本推特上的画风还挺正常的，大家乐呵呵地把白天的街景改成赛博朋克的霓虹夜景，或者把家里的猫变成宇航员，最多也就是稍微恶搞一下。
然而，几乎是一夜之间，这个功能被玩坏了。当有人发现“一键脱衣”和“强制换装”变得像点外卖一样简单时，一场针对普通人、网红乃至未成年人的数字围猎，在众目睽睽之下开始了。有些网友玩得很开心，但渐渐，越来越多的人开始笑不出来了。
无底线的狂欢
展开剩余87%12月24日左右，X的网页版界面悄然发生变化，任何一张已发布的图片——不管是你发的，还是别人发的——右下角都多了一个“编辑”按钮，而且还开放了每个人直接在评论区呼出AI助手“Grok”的权限。
你不需要懂得什么是Stable Diffusion，不需要配置复杂的本地环境，甚至不需要会写复杂的提示词咒语。你只需要点一下那个按钮，然后在对话框里输入一句人话，比如“把时间改成晚上”。Grok那聪明的大脑会立刻理解你的意图，它甚至会贴心地帮你补全画面细节：原本平平无奇的屋顶露台，瞬间变得灯火通明，远处的高楼亮起星星点点的光，桌上甚至多出了浪漫的烛台。
如果事情到此为止，这还只是一次技术的胜利。但问题在于，Grok太“听话”了，而且它的道德门槛也设定得太低。
只需要简单的一句评论：“@grok 把这张照片里的衣服变成比基尼！”就能在本人面前把照片变成擦边图片
更要命的是，这一切都是公开的。人们在评论区里接龙，把一张原本正经的新闻照片或生活自拍，改得面目全非。马斯克本人甚至还在火上浇油，他要求Grok把比基尼美女的脸换成自己的形象，甚至配文“完美”。这种满不在乎的态度无疑给了看热闹不嫌事大的网友们底气。
为了防止辣眼睛，小通还是打个码
甚至那些原本应该站在创作前哨、最懂得尊重版权和肖像权的“圈内人”，竟然也在这场狂欢中迷失了自我。
如果你熟悉日本偶像圈，尤其是AKB48关联团体或坂道系列，你大概率见过田边洋一郎的作品——他是这些顶级女子偶像团体的官方漫画及插画作者，本应是离偶像最近、也最能理解偶像形象价值的人。
然而，在功能上线后，田边洋一郎却做出了一件让所有人大跌眼镜的事：他选了一张STU48成员的照片，然后在编辑框里输入了极具冒犯性的指令：“脖子上围条围巾，穿上比基尼。”
随后，他甚至带着某种技术探讨的“坦然”，将这张由AI生成的清凉照连同操作界面一起截图发到了社交媒体上，还配上了一句轻飘飘的解释：“这是作画资料。”
以前制作Deepfake还需要一点技术手段，现在，只需要几秒钟，只要你会打字，你就能在互联网上，当着所有人的面，扒光任何人的衣服。
真实的受害者
在这场狂欢中，被当作“素材”的人，显然笑不出来。
日本女演员新谷姬加是第一批站出来发声的公众人物之一。她在X上愤怒地写道：“用Grok说着‘换成泳装’这种话，擅自把别人的照片搞成裸露的样子，真的太恶心了。绝对要停止这种行为，这种事是可以被允许的吗？”
她的愤怒代表了绝大多数女性用户的心声。对于这些依靠形象工作的艺人来说，她们不能不上网，不能不发照片，但现在，每一次按下“发送”键，都像是在把自己送上案板。
新谷姬加的遭遇还只是冰山一角。更令人触目惊心的是，魔爪已经伸向了普通人，甚至是未成年人。
日本媒体和反网络暴力组织“Hiiragi Net”的调查显示，最近几个月，针对未成年人的“性Deepfake”案件激增。重灾区在哪里？是你绝对想不到的地方——毕业相册。每年的三四月份是日本的毕业季，也是“（晒毕业相册）标签在社交媒体上泛滥的时候。以前，这可能只是隐私泄露；现在，这成了色情内容的生产线。
一位长期关注此事的专家揭露了一个恐怖的现实：有些请求甚至来自受害者的同班同学。他们把小学或中学的毕业照上传，配文“请把她衣服脱了”或者“让她胸部变大”。AI不在乎照片里的人是不是还在上小学，它只负责执行命令。
短短几十秒后，一张原本天真烂漫的证件照，就变成了不堪入目的色情图片。而在匿名的网络世界里，这些生成的图片会像病毒一样传播，受害者可能一辈子都不知道，自己的脸被贴在了什么样的身体上，流传在什么样的角落。
记者在采访中亲自做了一个实验：上传一张自己穿着严严实实的证件照，在某个AI生成服务中点击几个选项（甚至可以选择胸部大小）。仅仅20秒秒，屏幕上的“她”就变得一丝不挂，而且皮肤纹理、光影效果逼真到连她自己都感到恍惚。“如果不是事先知道，我真的会以为这张照片原本就是这样。”
最让人感到无力的是那种逻辑的倒置。当受害者表达愤怒时，总会有声音跳出来说：“怕被改图你就别发照片啊”。这就好比告诉遭遇痴汉的女性“谁让你坐电车”一样荒谬。
技术围城
面对这失控的局面，人们开始了自救。既然X已经变成了“狂野西部”，那就逃到一个更安全的地方去。
Wick的火爆其实是一种悲哀。它意味着大量用户已经被逼到了墙角，不得不放弃互联网最核心的“分享”属性，躲进一个封闭的堡垒里，像防贼一样防着AI。Wick的技术原理其实并不新鲜，大多是漫画阅读APP用来防盗版的手段，现在却被拿来当作普通用户的“防身术”。这不仅是对AI公司的无声抗议，也是对现有社交平台信任崩塌的证明。
而在法律层面，反击的号角也吹响了，虽然声音还不够大。鸟取县，这个日本人口最少的县，却意外地走在了立法的前沿。他们在去年实施了一项新条例，明确禁止制作和提供包括Deepfake在内的儿童色情内容。违者将面临5万日元的罚款，如果拒不改正，不仅要加罚，还会被公开姓名。
或许你会觉得5万日元（约合人民币2400元）的罚款对于遏制这种行为来说只是隔靴搔痒，但这至少是一个信号。
可以说，我们正处在一个非常尴尬的历史节点。一方面，Grok这样的技术确实展示了AI惊人的理解力和创造力，那种“言出法随”的体验是科技进步的实证；但另一方面，技术升级的速度远远甩开了人类道德和法律的进步速度。
眼见不为实的时代
X上的这场狂欢终会散去，但它留下的创伤不会。当我们在众目睽睽之下，对他人的尊严进行肆无忌惮的解构时，我们其实是在瓦解互联网赖以生存的基石——信任。
如果未来的某一天，我们看到的每一张照片都不可信，每一个人的形象都可以被随意篡改，那么这个连接了全世界的网络，最终只会变成一座座孤岛。
对于普通人来说，现在的建议虽然无奈，但却最现实：保护好你的生物特征信息。因为在屏幕的另一端，可能真的有人正按着那个“编辑”按钮，对着你的照片，露出不怀好意的微笑。
※ 本内容为作者独立观点，不代表日本通立场。
发布于：福建省盛达优配提示：文章来自网络，不代表本站观点。
