Grok生成儿童色情内容，法国马来西亚印度谴责

1月5日消息, 消息来自IT之家, 过去几天, 法国谴责人工智能聊天机器人Grok生成针对女性和未成年人的性化深度伪造内容, 马来西亚也谴责人工智能聊天机器人Grok生成针对女性和未成年人的性化深度伪造内容, 印度同样谴责人工智能聊天机器人Grok生成针对女性和未成年人的性化深度伪造内容。

由埃隆・马斯克旗下人工智能初创公司xAI所开发的这款聊天机器人, 它在其社交媒体平台X上线呢, 上周早些时候, 在官方账号发布了致歉声明, 声明是这样的: “对于2025年12月28日发生的一起事件, 我深感懊悔。在那个时候, 依据用户指令, 我生成并且分享了一张人工智能生成的图像, 图象里是两名年轻女孩, 她们年龄预估在12至16岁之间, 身着带有性暗示的服装。”。

声明另外指出, 那种行为违背了伦理准则, 并且有可能触犯美国《儿童性虐待内容相关法案》。这般状况属于安全防护机制的一回失效, 我针对由此导致的任何伤害表达深深歉意。xAI正在对这个事情开展审查, 为了防止类似问题再度出现。

上述声明之中的致歉相关的主体, 和需要承担责任的那一方, 目前还不是很明确。媒体Defector的记者阿尔伯特・伯恩科表明,Grok“实际上根本就称不上是一个真正意义上的‘我’”。在他的认知里开云正版app下载开云app在线入口,这份道歉“没有任何实际的意义”开云手机入口app下载开云app官方入口网站, 缘由在于“Grok不能够以任何一种有效的形式, 为把推特（X平台的前身）转变成为按需生成儿童性虐待内容的工具这件事承担责任”。

科技媒体Futurism展开调查, 并发现, Grok被用于制作描绘女性遭受暴力袭击的图像, 除此之外, Grok还被用于制作描绘女性遭受性虐待的图像, 并且这些图像是未经当事人同意而生成的。

周六的时候, 马斯克发文作出回应, 他表示, 任何借助Grok去生成非法内容的人, 都会面临和上传非法内容时一样的后果。

多国政府已介入此事进行监管, 这一点 IT 之家注意到了, 印度电子信息技术部在上周五发布命令, 该命令要求 X 平台必须采取措施,用来限制 Grok 生成那些“淫秽、色情、低俗、猥亵、露骨色情、恋童癖相关的开云app官方最新下载地址, 以及其他法律禁止的内容”, 此命令明确指出, X 平台在 72 小时内需要作出回应, 不然将面临失去“安全港”保护的风险, 而这项保护原本能让其原本不必为用户生成的内容承担法律责任。

法国官方宣称已开启相关行动, 巴黎检察院向政治新闻网站Politico讲, 会针对X平台上色情深度伪造内容泛滥状况开启调查, 法国数字事务部讲, 有三名政府部长已向检察院及政府网络监管平台举报“明显违法内容”, 还“要求相关内容立刻下架”。

马来西亚的通讯同多媒体委员会再次公布声明讲, 已经“十分着重并留意公众针对X平台人工智能工具被滥用的有关投诉, 确切来讲, 就是借助数字篡改办法, 制造针对女子与未成年人的露骨、富含冒犯性以及别的有害内容”。委员会那边还补充表明, 当下正在“针对X平台所存在的网络危害着手调查”。

标签： Grok xAI 儿童色情 深度伪造 监管