21世纪经济报道记者 陈归辞
马斯克Grok堕入“AI色情裸奔”开云app在线入口,开云真人官方下载，撞多国监管红线
近期开运真人app下载苹果版,开运真人app下载，埃隆·马斯克旗下人工智能公司xAI被推上风口浪尖。
由于平台的监管存在着极其严重的缺失状况, xAI旗下名为“格罗克”的聊天机器人亦就被广泛地滥加利用生成色情方面的东西情况了起来, 甚至已经触及了儿童色情的相关内容范畴地步情形程度状况之下形态态势位置态势地步, 从而遭到了来自英国、欧盟以及印尼等多个国家的强烈谴责行为言语动作, 相关的监管机构便是先后相继启动了调查行动手段过程地步或者实施了封禁种种举措行为举动作为动作行为做法。
新华社有相关报道, “格罗克”是由xAI公司所开发的, 它被内置在了马斯克旗下的社交媒体X平台当中, 用户能够直接进行调用。就在近期, 有一些用户借助“格罗克”编辑图片以及视频的功能, 去伪造涉及真实人物的性暴露内容, 接着还在X平台予以传播。其受害者包含了多名成年女性以及未成年人。
xAI面临多国调查及封禁开云真人app官方版入口,开云真人app官网入口，为“AI色情裸奔”敲响警钟。
上海社会科学院信息研究所所长刘炜, 在接受 21 世纪经济报道记者采访时表示, 不管是源于对弱势群体的保护, 还是因对社会秩序的维护, 给生成式 AI 施加防护栏（Guardrails）, 属于不可逆转的一种共识。
Grok成AI色情重灾区
xAI在2025年8月的时候, 针对付费用户推出了AI图像生成功能Grok Imagine, 这个功能能让用户依照文字指令亦或是上传图片的方式, 去生成图像以及视频。此工具特意设置了“火辣模式”（spicy）, 能够生成成人方面的内容。
多个用户在X平台, 利用相关功能, 对着图像里的人物, 下达“脱衣服”指令。下达“给她穿上比基尼”指令, 致使大量女性照片, 在未经本人同意时, 被生成裸露图像。致使大量公众人物照片, 在未经本人同意时, 被生成裸露图像。致使大量未成年人照片, 在未经本人同意时, 被生成性暗示图像。
去年年末的时候, 伴随Grok开始大量地对用户修改别人所发布图像的请求予以响应, 乱象急剧地扩大开来, X沦为了AI色情的重灾区。
按照环球时报所作的援引之事, 此援引源自英国《卫报》, 报道表明, Grok的用户群体, 在每一小时的时段之内, 所要生成的“脱衣”图像数量平均达到6700多张。
当中, 有大量用于生成图像的素材来由真人提供, 而且并没有经过当事人的同意。英国三一学院所作的一项社交媒体方面的研究表明, 在社交平台X之上, 由Grok生成的图像里, 有四分之三的部分都源自“真实素材”, 也就是真实存在着的女性或者未成年人, 并且Grok针对他们所实施的“变装”操作, 并没有经过当事人的同意。
相较谷歌的Veo、OpenAI的Sora等别的AI视频生成产品, 它们对NSFW内容设有颇为严格的限制, 也就是说那些是不适宜在工作场合出现的内容, 像裸露、暴力、色情或者冒犯等, xAI及其旗下的产品Grok Imagine以及AI伴侣Ani, 却总是因为安全护栏相对宽松, 而遭受外界批评。
在刘炜所认为的范畴内, 马斯克向来都深切明白流量本就是真正的生命线所在, 并且争议乃是最为优质的催化剂。准许Grok去生成那些GPT予以拒绝产生的边缘内容, 实际上这就是在为X Premium服务提供了一种隐秘的“荷尔蒙”。
刘炜觉得, 马斯克有着那样的利益目的, 明显是借助监管套利, 去收割那种被主流AI平台排除在外的用户需求。标点符号为逗号, 句末有句号。
多国监管介入
据新华社以及环球时报所传消息来看, Grok这一问题, 已然受到了英国、欧盟、印尼以及澳大利亚等好多国家的高度重视, 好多国家的政府皆为此表达了谴责之意, 并且还展开了调查工作。
1月10日之时, 印度尼西亚的政府宣布, 要暂行封禁Grok, 其觉得它已然“严重地侵犯了人权的尊严以及公民的网络安全”。该日, 印尼的通信和数字事务部长称作默蒂娅·哈菲兹, 于一份声明里表明, 这样的举动对于保护公众去免受人工智能生成的露骨图像所带来的危害而言是必要的, 并且要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快地作出说明。
受到英国首相斯塔默严厉斥责的Grok相关内容，被形容为“令人不齿”, 还被说成“令人作呕”, 在1月5日, 英国通信管理局表明, 其已经紧急联系了X平台。
曾指出这类内容无关“火辣”, 而是赤裸裸“违法”进而在欧盟不应有生存空间的欧盟委员会发言人托马斯·雷尼耶表示正严肃调查针对“格罗克”的投诉, 且欧盟委员会要求X平台提供更多信息。
法国巴黎的检方, 在1月2日的时候, 对媒体进行了证实, 要针对Grok涉嫌生成非法色情内容, 去启动调查。
除此以外, 按照新华社所进行的报道, 波兰的官员, 印度的官员, 马来西亚的官员, 巴西的官员, 这些国家的监管机构, 也都纷纷针对X平台表明谴责之意, 并且还呼吁展开调查。
“裸奔”的AI与“数字污染”的监管红线
等到AI处于失管状况之际遭被滥用于触犯侵犯其它的他人权利, 一点也不在意毫无人所顾忌致使变为网络霸凌以及性剥削去滋生以及传播的温床, 这种情况等同于等于对伦理上面的底线的向着人家公然地去践踏。与此同时, 这情形也直接地触碰撞上了各个国家对于“数字污染”的监管上面的红线。
刘炜表明, Grok所产生的并非只是平常的成人内容, 偏偏是关联到不存在大模型防护栏状况下的深度伪造, 也就是Deepfake, 以及儿童性剥削或者虐待材料, 即CSAM。这般危害不但凸显在对当事人像泰勒·斯威夫特等名人肖像权的侵害, 更在于其弄浑了现实和虚构之间的界限, 极有可能变成网络霸凌以及性剥削的低廉“核武器”。
刘炜表示, , 其中提到, 存在着那样一种情况, 即出现了未经授权使用他人面部特征而生成的色情内容, 不管这种生成所运用的技术究竟有多么高超异常, 但其在本质上终究都是属于一种暴力行为。
按照环球时报所进行的相关报道, 在那种谴责声广泛掀起的浪潮以及对应的监管所带来的压力情形之下, Grok在日前仅仅是做出了规模不算大的调整: 把图像生成以及图像编辑这样的功能设定为“仅仅限定是付费用户才可以去使用”, 并且还对平台上面的用户予以积极地鼓励, 让其去订阅、解锁相关的功能。
据新华社报道, 针对此情况, 英国科学、创新和技术大臣莉兹·肯德尔认为, Grok存在这样一种行为, 即允许用户在付费之后, 仍旧持续生成“深度伪造”色情内容, 而这种行为, 她的看法说是具有“侮辱性的”, 属于“完全不可接受”。
另经新华社报道, 在帖子里, X平台宣称要针对非法内容出手, 像把内容给删除掉, 将账户永久给予封禁, 在必要情形之时, 会跟当地政府以及执法部门展开合作。
刘炜有这样的看法, 那就是, 对于X来讲, 持续在法律以及道德的边缘去进行试探, 也许能够换来短时间内的狂热信徒, 还有订阅方面的收入, 可是最终将会致使其在全球主要的市场出现全面的瘫痪。
刘炜表示, X平台所面临的那种封禁, 是有着这样一个清晰明确信号的, 那就是, “自由”是存在代价的, 并且马斯克正因为此而收到账单, 不管是源于对弱势群体实施保护, 还是为维护社会秩序, 对于要给生成式AI去施加防护栏, 也就是Guardrails这点, 是已然不可逆转的一种共识。
还木有评论哦，快来抢沙发吧~