大数据文摘出品
年初，由初创公司Stability AI开发的根据文本生成图像的AI程序开始开放源代码，但最近这样的小程序在国内也很受欢迎。
但是，这个功能明显会扭曲。 ——很快就有人开始使用这个AI生成色情图像。
例如，Reddit和4chan的社区用户开始利用这个AI生成逼真、动画风格的裸体人物图像。 其中大部分是女性和改变了名人长相的裸体画像。
很快，这些社区发现了这个问题，Reddit迅速关闭了许多致力于人工智能色情的子区块，甚至连允许色情内容的NewGrounds也完全禁止了人工智能生成的艺术作品。
在这种情况下，出现了新的社区。
迄今为止，这类社区中规模最大的是【不稳定扩散】( Unstable Diffusion )，其运营商以AI为中心构建业务。 目的很明确，为了生成更高质量的色情作品，现在每月从数百名会员那里获得2500美元以上的收入，维持社区的运营。
团队13人，用户50000人，全五星好评
“短短两个月，我们的团队就扩大到13人以上，有很多顾问和志愿者社区版主。”【不稳定扩散】管理团队成员阿尔曼乔杜里( Arman Chaudhry )与媒体
【不稳定扩散】是与8月开始运营的(几乎是原创模型【稳定扩散】)发表的同一时期。 最初是一个子网站，但最终转移到了Discord。 那里现在约有50，000名会员。 现在，【不稳定扩散】在Discord上得到大多数人五星的好评。
早期，【不稳定扩散】是共享人工智能生成的色情作品的地方。 而且，日和是绕过各种图像生成APP的内容过滤器的方法。 但很快，一些服务器的管理员开始探索如何在现有开源工具的基础上构建自己的色情生成AI系统。
“基本上，我们在此提供支持的人对创建NSFW感兴趣。 “Discord服务器管理员，一个叫AshleyEvelyn的人从8月开始投稿。 “目前，在这个领域工作的唯一社区是4chan，所以我们希望提供能够与更广泛的人工智能社区真正合作的更合理的社区。 ”
是的，至少在很多人眼里，这仍然是对AI技术的探索。
原始模型【稳定扩散】( Stable Diffusion )只有一部分数据集，大约只包含2.9 )的色情图像，因此模型容易针对这些内容进行翻车。
例如，生成很多脚的动画角色等。
因此，【不稳定扩散】为了微调原始模型，招募了作为Discord服务器成员的志愿者来制作色情数据集。
大多数工作正在进行中，其中一些已经取得了成果。 还包括人工智能生成的“修复”裸体扭曲的脸和手臂的技术。
管理团队的成员之一阿尔芒乔杜里说：“我们记录并应对了所有人工智能系统面临的挑战。 也就是说，我们收集了高画质、文字标题丰富、涵盖我们所有用户喜好的各种数据集。”
发展中的社区，该如何监控？
目前，【不稳定扩散】利用AI技术可以生成各种艺术风格的色情图像，并将其分为不同的通道。
这些频道的用户可以调用bot制作符合主题的艺术作品。 而且，如果他们对结果特别满意的话，他们可以把这些作品提交给“starboard”。
【不稳定扩散】声称已经生成了4375，000多张图像，该组织还不定期举办比赛，挑战成员使用机器人重建图像，反过来用于模型的改进。
随着【不稳定扩散】的发展，我们渴望成为一个人工智能产生色情信息的“道德”社区，一个禁止儿童色情、深度伪造、过度血腥内容的社区。
Discord服务的用户必须遵守服务条件，并接受生成的图像。审核； 管理员表示，该服务器使用过滤器阻止“名人”数据库中的人物图像，并拥有全职审核团队。
【不稳定扩散】我们认为只允许虚构和合规内容，但对于专业工具和商务APP，我们将进行重新评估，与合作伙伴合作，确保010最符合您的需求和承诺
但是，随着不稳定扩散系统的广泛应用，人们认为对它们进行监测将变得更加困难。
蒙特利尔人工智能伦理研究所创始人兼首席研究员布什谢克普塔( Abhishek Gupta )表示。 “我们需要的是……想想看。 当拥有以API为媒介的带防恶意利用功能的系统版本时，安全管理可能会被推翻……“【不稳定的扩散】这样的服务器，成为了在一个地方大量积累问题内容的温床。 展示了人工智能系统产生这种内容的能力和恶意用户之间的联系。提高具有生成这种内容的技能……同时，内容审查团队的负担也变大，他们在审查或删除不愉快的内容时必须面对
相关文章：
3359 TechCrunch.com/2023/11/17/meet-unstable-diffusion-the-group-trying-to-monetize-ai-porn-genern-generon
