Google推送通知惊现种族歧视词,官方甩锅系统意外,这个解释你信吗?
Google推送通知系统在BAFTA颁奖典礼报道中意外推送了含种族歧视词的通知,官方声称与AI无关,但这个解释根本经不起推敲。
发生了什么
在近日举办的BAFTA英国电影学院奖颁奖典礼期间,Google的推送通知系统向用户推送了一条包含种族歧视词汇的通知。这条通知与典礼相关事件报道有关,但其中出现了明显的冒犯性词语。
事件曝光后迅速引发舆论强烈反应。Google发言人Brianna Duff随即出面回应,表示公司深感抱歉,并给出了官方解释:该错误与AI无关,是推送通知系统在准确描述网络内容时意外包含了该词汇——换句话说,系统抓取了网络上存在的歧视性内容,并原封不动地推送给了用户。
目前Google已下架该通知,并表示正在调查事件原因,承诺采取措施防止类似情况再次发生。
为什么重要
这件事的影响远不止一条失误通知那么简单。它暴露了科技巨头在内容分发系统上的深层漏洞。
首先,推送通知是一种极具侵入性的传播方式。不同于用户主动搜索的内容,推送通知会直接弹到用户屏幕上,无论对方是否愿意看到。将含有种族歧视词的内容以这种方式推送,伤害是直接且无法撤回的——通知已经弹出,伤害已经造成,事后道歉改变不了这一点。
其次,Google的解释本身就是个问题。系统在准确描述网络内容时意外包含了该词汇——这句话的逻辑是:网上有歧视性内容,所以我们推送了歧视性内容,这不是我们的错。但问题恰恰在于:一个负责任的内容分发系统,不应该在没有过滤机制的情况下直接搬运网络上的任何内容。
这一事件也再次引发了关于AI内容过滤责任的讨论。Google声称此次事件与AI无关,但无论是否涉及AI,内容审核的缺失都是系统性问题。对比来看,《Google发布Gemini 3.1 Pro》时Google大力宣传其安全过滤能力,但推送系统显然存在明显盲区。
更值得警惕的是自动化系统的失控风险。此前《Meta安全研究员AI Agent删光邮件》事件已经说明,自动化系统一旦缺乏有效的人工监督,后果可能远超预期。Google这次的推送事故,本质上是同一类问题:系统在没有足够安全阀的情况下自动执行了不该执行的操作。
富贵怎么看
与AI无关这四个字,是Google这次回应里最耐人寻味的部分。
为什么要特别强调与AI无关?因为现在只要出了问题,第一反应就是甩锅给AI。Google这次反其道而行之,急着撇清AI的关系,反而让人觉得此地无银三百两。
但说实话,甩不甩锅给AI都不重要。重要的是:一个日活用户数十亿的推送系统,居然没有基本的敏感词过滤?这不是技术问题,这是态度问题。Google有能力做到,只是没有把这件事放在足够高的优先级上。
种族歧视词不是什么生僻的边缘词汇,是任何内容审核系统第一天就应该拦截的东西。这次事故说明Google的推送系统在内容安全上存在严重的工程债务,而这个债务显然一直没有人去还。
道歉很容易,深感抱歉说了也不止一次了。但用户真正需要的,是一个不会把歧视性内容弹到他们脸上的系统。这个,Google欠着呢。