前段时间，全球顶流明星霉霉的大量虚假“不雅照片”在X、Facebook等社交平台上疯狂传播。

照片的尺度非常大，毫不夸张地说：不雅照片中的霉霉与真人几乎达到了百分之百的相似度。

这件事情引起了霉霉本人及广大粉丝的愤怒和不满，与霉霉相关的话题已经被各个社交平台屏蔽，连霉霉的名字在X平台上都已经成为搜索禁词。

在26日美国白宫记者会上，让-皮埃尔被问及此事时表示：“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”

虽然传播不雅照片的账号已经被封禁，但依旧可以在一些低成本小网站上看到这些不雅照片，并且浏览量非常高。

AI技术的发展大大提升了人们的生产力，但也滋生了灰色产业，发展的越快，灰色产业也就越多。

AI换脸视频

AIGC的初步探索最早出现在换脸视频上，大司马的“肌肉金轮”视频播放量至今已经达到千万级别。

尽管在那个时期，相关技术还未成熟，灰色产业却并未因此减少。

很多知名女星成为了AI换脸的受害者，不法分子利用AI将女星的脸恶意置换到日本成人影片中，私底下进行售卖或者放在不雅网站上吸引播放量。

加上最近HeyGen虚拟数字人的技术成熟，不法分子开始利用AI换脸加上虚拟人技术进行诈骗。

就在最近几日，IT之家就报道了四川一女子遇到换脸加虚拟人的诈骗：不法分子谎称其女儿被绑架。

AI不雅照片

除了换脸视频，AI不雅照片是灰色产业最多的一个领域，主要的方向还是不雅图片、敲诈勒索上。

一位AI领域的朋友曾经向小编透露：很早就有不法分子在Discord上建立私人加密服务器，提供不雅图片生成服务，只要提供明星照片就可以快速生成该明星的不雅图片。

该服务可以免费试用，但收费价格不低，一般通过加密数字货币支付，不知道霉霉的照片是不是在上面流传出来的。

在C站上，一些用户训练不雅图片大模型公开售卖，小编截了两张尺度比较小的图片模型，在C站上可以看到全裸的图片模型。

不仅如此，AI不雅图片已经开始制作成商品进行售卖。

前段时间有位朋友分享说：有人售卖通过AI生成不雅图片印制的扑克牌。

在某电商平台上搜索“真人扑克”，商品的销量还不少，想想还真是细思极恐。

还有人遇到了AI不雅照片敲诈勒索。

有小红书博主发帖称：一名自称裸体绘画艺术家的外国人利用博主的裸照向博主索要500 USDT（约合人民币3500元），否则将会把带有博主形象的裸照进行公开售卖，并且根据博主的社交账号内容继续制作裸照。

连博主自己都表示：“我看了那些照片，不知情的人真的会以为是我。”

最让小编震惊的是，已经有不法分子通过AI视频工具Runway或者Pika把霉霉的不雅照片做成了视频，目前只能制作短短的几秒钟，效果还不是很好。

如果AI视频发展的再成熟一点，不排除会有人会拿你的照片去做色情片。

社会面临的挑战

我们常说，技术本身并不带有善恶，它如一面镜子，反映的是使用者的道德观和价值取向。

随着科技的飞速进步，灰色产业也随之蓬勃发展，而在这一过程中，女性往往成为最大的受害群体。

技术进步的同时，如何解决技术滥用，确保科技的发展能够造福全人类，而不是成为特定群体的噩梦，将是整个社会面临的挑战。