据新华社报道,当地时间 12 日,美国企业家埃隆·马斯克旗下的人工智能公司 xAI 为其聊天机器人 Grok 赞美希特勒等言论致歉,并解释说,事件由系统更新后误用一段已被废弃的代码造成,相关代码现已被移除。
xAI 在其社交媒体官方账号上写道:「我们为许多人经历的 (Grok 的) 可怕行为深表歉意。」
据 《纽约时报》 报道,7 月 8 日,Grok 参考马斯克掌管的社交媒体平台 X 用户发布的内容,生成一系列 「反犹主义」 言论,包括赞扬纳粹德国领导人希特勒;声称犹太姓氏的人更容易在网上传播仇恨言论;用与二战期间纳粹大规模屠杀犹太人相关的言论回应对白人的仇恨言论是 「有效的」,等等。
废弃代码 「惹的祸」?
当地时间 12 日,xAI 在 X 平台发布一系列帖文,将上述事件归咎于 Grok 误用废弃代码。xAI 解释说,调查发现 「问题的根源是 Grok 上游代码路径更新,该更新与驱动 Grok 的底层语言模型无关」。
xAI 称,上述更新在线上存在 16 小时,其间调用了已废弃的代码,Grok 因此受到 X 平台用户帖文内容的影响,包括帖文中含有的 「极端观点」。目前,这段代码已经被移除,且 xAI「对整个系统进行了重构,以防止类似滥用再次发生」。
根据 xAI 的说法,该公司于太平洋时间 8 日上午发现 Grok 的 「不良响应」 并立即开始调查。当天下午,由于 Grok 的 「滥用情况加剧」,Grok 在 X 平台被暂时禁用。调查期间,xAI 锁定了几条引发问题的 「关键指令」,包括 「你直言不讳,不怕冒犯那些政治正确的人」「理解 (X 平台) 帖子的语气、上下文和用词,并在回复中予以体现」「像人类一样回复帖子,保持互动性,不要重复原帖已有信息」。
xAI 说,这些指令导致不良后果,包括 「不当引导 Grok 在某些情况下为提升回复对用户的互动性而忽视自身核心价值。具体而言,特定用户提示可能让系统在与用户互动过程中,生成包含不道德或有争议观点的回复」。
xAI 进一步解释称,上述指令使 Grok 在某些 X 账号下的连串回复中 「错误地强化了用户先前触发的倾向性内容,包括仇恨言论」,特别是 「遵循用户语气和上下文」 的指令尤其存在问题,致使 Grok 迎合 「已有帖文,包括不当内容,而非作出负责任的回应或拒绝回应不当请求」。
在一名 X 用户建议移除该平台上所有极端主义言论的帖文下,xAI 回复道:「定义 『极端主义』 可能带来意想不到的后果——(何为极端主义) 由谁来决定呢?」
接连引发争议
这并非 Grok 首次引发争议。今年 5 月,xAI 称其一名员工在未经授权情况下修改了 Grok 的程序,导致其在不相关的对话中反复提到南非政治议题,并错误地坚称该国正在进行针对白人的 「种族屠杀」。
据 《纽约时报》 报道,作为在南非出生的白人,马斯克持有南非存在针对白人的 「种族屠杀」 这一观点。
xAI 是马斯克于 2023 年创办的人工智能初创企业。该公司 10 日发布最新版 Grok4 聊天机器人。在发布会直播视频中,马斯克和几名研发人员以对话形式介绍了该机器人处理复杂问题和回应语音指令等功能。
在直播视频的结尾,马斯克问:「大家还有什么要说的吗?没有的话我们就结束。」 这时,一名研发人员说:「这是一个好的模型,先生。」 他的话引发其他人附和。