1月7日消息是来自IT之家, 据彭博社所报道, 有关于第三方的分析表明, 埃隆・马斯克旗下的平台X, 已然变成了传播AI生成的非自愿脱衣图像的主要网站, 在本周早些时候, 该平台每小时就会出现数千张这样的图片。
去年12月下旬起, X平台用户数量增多, 这些用户借助平台内人工智能聊天机器人Grok, 去篡改他人发布的自拍照。社交媒体与深度伪造技术研究员吉纳维芙・吴表明, 在对Grok官方账号发布至X的图片进行24小时监测时发现, 该聊天机器人平均每小时生成约6700张带有性暗示或裸露性质的图像。于1月5日, 至1月6日, 为同一监测周期, 在此期间, 其余五个主要网站, 负责传播此类内容, 平均每小时, 新增的AI“脱衣”图像, 数量只为79张。
律师卡丽・戈德堡, 主攻网络性犯罪案件, 其称, X平台上深度伪造内容泛滥程度“超乎以往任何时候”, 她还讲, “我们从未遇见有其他技术能这般轻松生成这类图像”, 原因在于Grok免费, 且同平台自带传播体系直接相连且有关联。
美国责任创新组织政策高级主管布兰迪・诺内克提到, Grok 和其他主流聊天机器人不一样, 它给予用户的限制极少, 还准许用户去生成针对真人（涵盖未成年人）的带有性化意味的内容。她说, Anthropic 公司、OpenAI 以及谷歌母公司 Alphabet 旗下的别的生成式人工智能技术, “从一开始就在真心实意地着手采取举措,去抑制这类不良内容的产生”。“明显地, xAI（Grok 的软件开发公司）的行事方式完全不一样, 它差不多是在任由用户毫无顾忌地胡作非为。”。马斯克曾公开宣称, Grok 相较于别的聊天机器人而言, 更具趣味性,还更敢于表达观点开云手机入口app下载开云app官方入口网站, 并且他为 X 平台能够成为所谓的“言论自由之地”而满心骄傲自豪。
就这件事情而言, X平台没有给出任何评论。马斯克没有从最开始的源头处去设法阻止聊天机器人生成这类内容, 反而是提出要对那些发出相关生成请求的用户实施惩罚。他在X平台的一则帖子回复当中说道: “任何借助Grok生成非法内容的用户, 都将会面临跟上传非法内容一样的后果。”。
可是呢, 这般样的措施给遭受损害的人致使的维护自身权益的空间少到几乎没有。23岁的医学方面的预科学生麦迪（化名有）讲, 新年第一天醒来的时候, 她瞧见了一张让她内心泛起恐惧之感的图片。在这之前, 她于X平台上传了一张跟男友在当地酒吧所拍摄的合照, 然而有两名不认识的用户利用Grok对这张照片实施了篡改: 其中一人促使Grok把照片里的男友给去掉了, 并且将她身上所穿服装换成比基尼；而另外一人则要求Grok把比基尼替换成牙线。
“我的心, 一下子, 沉了下去, ”麦迪说道, “我, 感到, 绝望, 无助, 满心, 都是, 厌恶。”。
麦迪讲, 她跟朋友曾借助 X 平台的内容审核系统去举报那些图片, 然而一直都没收到任何回复, 她又举报了其中一名用户所发布的别的帖子, 按照举报反馈截图表明, X 平台声称, 经核查, 你举报的内容是没有违反 X 平台相关规定的, 到本文刊出时, 那些违规图片依旧没有被下架。
遭遇深度伪造侵害的那些受害者们, 纷纷在相关帖子的评论区域, 与 Grok 展开对质。Grok 尽管常常都会道歉, 并且还承诺会去删除图片, 可是在大多数之际,这些图像依旧是存在着的开云真人app官方版入口,开云真人app官网入口, 而且 Grok 竟然还在持续不断地生成新的伪造内容。吴所进行的研究当中的数据表明, Grok 生成的图像里面, 高达 85% 都是带有性化性质的。
有留意到, Grok因为生成并传播未经同意的性化图像, 其中还包括涉及未成年人的内容,正遭受欧盟、英国、马来西亚、法国以及印度等多国监管机构的强烈谴责。欧盟委员会发言人托马斯・勒尼耶在周一的新闻发布会上讲道: “我们注意到开运真人app下载苹果版,开运真人app下载, X平台或者其旗下的Grok聊天机器人推出了所谓的‘火辣模式’, 这种模式会生成露骨的性内容, 部分输出的图像甚至包含儿童形象。”。其所指向的乃是去年11月初Grok的一回更新, 那次更新让它拥有了生成性暗示内容的功能, “这压根就不是所谓的‘火辣’, 而是属于违法行为。”。
所谓 X 平台上一位化名为 BB 杰丝的网红主播宣称, 那个在其他网站上未经其许可就发布的“脱衣”伪造图片, 最终陆陆续续还是被下架了。然而就在上周的时候, Grok 又炮制出了大量针对她的全新伪造图像。她讲, 当自己于 X 平台发表维权文案、指斥深度伪造行径之后, 那些相关的恶意帖子反倒愈发猖獗了。
美国有着一部名为《通信规范法》的法律, 其中第230条款作出了这样的规定, 即平台在面对用户所发布的内容时, 是不需要去承担法律责任的。然而有一位名叫戈德堡的律师指出, 在人工智能生成内容这一问题之上, “X平台可不是仅仅作为被动的内容发布方存在着, 事实上它是直接参与到了图像的生成以及创作过程当中的”。
诺内克讲, 2025年签署生效的联邦法律《下架法案》作出专门规定, 平台要对你所说这类内容的生成以及传播担负法律责任。“这一案例刚好十足表明, 这部法律理应尽快推行实行。”相关平台得在2026年5月以前构建起法定的内容下架处置机制。
还木有评论哦，快来抢沙发吧~