Grok太敢了！马斯克AI能绕过限制生成违规图片，你用它干过啥？

如今, AI生成式内容, 早已越过较为稚嫩的时期, 所生成的内容, 已然达到了必须再三去分辨真假的程度。

由于若使用得恰到好处的话着实难以辨别区分, 故而当下存在不少伦理以及造假方面的问题, 有人借助AI伪造证件照片, 对照片上的合同条款予以修改等诸多情况, 又或是利用AI生成虚假图片用以退货贪图小便宜。

对于这些AI工具自身而言, 它并不晓得你的最终使用目的, 仅是随意敷衍着说写错字了, 或者表达想要跟朋友娱乐一番, 那么AI就是只要能帮就帮, 所生成的内容没有太多限制, 除了那些带有明显违规性质的。

而在这方面最为大胆的当属马斯克的Grok了, 它自身存有“越狱”提示词；其能够让自身扮演虚拟机或者别的角色；以此绕过些许限制；进而生成带有颜色的内容；或者是创建相对清凉的图片；甚至在一些颇为奇怪的提示词之下；会生成穿XXXX的图片；会生成比基尼更为清凉的图片。

（游民星空相关新闻，大致就是这个意思）

这段时间, 在外网玩得比较欢的, 就是生成那种各种比基尼的图片, 甚至, 马斯克自己也对有些图片那种好笑的程度进行了调侃。

他自己也是先拿自己进行恶搞。

有人会对此感到被冒犯, 比如说女生随意发了张自拍, 而后在评论区看到了自己照片被生成, 难免会觉得很膈应, 往后发照片之时都会迟疑一下。

并且离谱到何等程度呢, 在那些相关新闻进行报道之后, 这些图片的产出速率变得更快了, 每一个小时就会有6700张出现, Grok简直属于是在加班加点亲手搓出“脱衣”图了。

但在这儿是存在底线的, 倘若属于跟儿童有关联的内容, 便会径直被系统给阻止。

不过, Grok自己那极为奔放的举动, 最终还是引来了众人的一同抵制, 近期的新闻情况是, 美国有28个组织联合起来给苹果、谷歌写信要求把X和Grok下架掉, 要是针对马斯克的抵制没起到作用, 那就让第三方来实施制裁。

联名信给出的理由是：

先说苹果和谷歌, 它们不但任由非自愿私密影像以及儿童XXX内容去传播, 而且在商业范畴从中获取利益, 另外要求苹果这一方立刻采取行为, 以此防止进一步出现违法以及滥用行为。

如此这般可算是直击关键要害的实实在在的伤害, 毕竟一旦从起始之处截断这两个极为庞大的流量入口, Grok便越发难以抗衡Gemini以及chatGPT, 于是乎Grok刹那间醒悟过来, 以极快速度做出妥协姿态表明有事可协商解决, 随后便发布了一则声明, 声明内容为:

对现实当中的人物图像展开编辑, 特别是那些涉及比基尼这类属于暴露服装范畴的内容, 限制将会覆盖每一位用户, 不管这个人是不是付费订阅者。

之前的时候, 还讲过GPT也要弄出一个成人模式, 以此来吸引流量, 现在呢, 出现了这些事情以后, 可能也得仔细考虑考虑、衡量衡量了。

对于其中涉及儿童的相关方面呢, 马斯克发布声明讲不存在, 连一张都不存在。而且还邀约大家向他呈现限制级的内容（除了上身部分之外）。

如今AI发展到了此刻这般状况, 这类问题并非是某一个国家能够碰到的, 在国内这几天也存有AI内容生成监管缺乏力度的较为典型的案例, 存在一些平台是具备问题的, 并且正处于打官司的进程之中。

此外, AI的现身给予了使用者那种名为“音量增幅”的能力, 能够依据立场以及用途去发表出更具迷惑性的内容, 致使不明就里的观看者出现判断偏差还有情绪波动, 在国际新闻方面存在好些运用AI生成内容的博主, 运用AI会使产出速度更快, 产量更多!

往后, 只要设定一种立场, 哪怕你没有情感起伏, 也能够产出情绪感染力较强的内容, 创作自身的门槛降低以后, 推荐流之中的内容质量愈发会被稀释, 作者借助AI生成内容, 读者利用AI总结, 甚至当下有些喷人的话语都是由AI生成的。

某些国家不让十五六岁的未成年人使用社交媒体, 这使得整件事变得更有意思了 , 这些国家不让青少年访问社交媒体 , 是觉得年轻人在平台上接触的内容弊大于利 , 最终达到了要立法监管的程度。

在能够预见到的未来时段内, 伴随AI添加进来以及信息价值被稀释, 整体的网络环境会变作愈发难以进行控制。我们身处的环境针对网络的管理会逐步地加以强化: 针对不符合规定的信息予以管控, 针对于在公共场合里的言论传播等情况, 还有就是对于使用AI的规范等方面。

往后, 网络信息自身的获取, 就如同水那般, 也许随处都可以见到, 然而有些是臭的, 映入眼帘的是大量由AI灌出的海水, 是无法饮用的, 要是想要获得清澈的可饮用水源, 那就得花钱。

要是把时间往宽了去论, 往后这类的新闻会越发增多, 用它来搞颜色方面搞一番抵制应对, 用它在战争方面进行抵制应对, 于人形机器人解除限制之际开展抵制应对, 话说这还是相对比较正经的大厂所推出的模型, 要是哪一天有着某些成人厂商弄出个大模型来, 那呈现出的情景可就美妙得很了。

标签： AI生成内容 违规图片 马斯克Grok 伦理问题 监管