为了干翻ChatGPT,曝Mate冒充未成年向竞品AI疯狂投毒

都说高端商战是充满智慧和大佬博弈的巅峰对局,但不好意思,科技大厂们偏要用实际行动告诉你:

高端的商战,往往采用最朴实无华且枯燥的方式。

你没猜错,最近外媒又爆出了一个让小忆直呼卧槽的科技大瓜。

图片

扎克伯格的 Meta 公司,长期运营着一个代号叫戛纳计划Project Cannes)的秘密项目,专门用来恶心对手给竞品下套。

简单来说,Meta 花大价钱雇佣了几百号外包人员,在网上装嫩假扮成 18 岁以下的未成年人。

然后疯狂往 OpenAI ChatGPT、谷歌的 Gemini 还有 Character.AI 塞极其重口味、诱导性极强的高危提问

爆料显示光是 2025 8 月的一轮集中测试,就向这三家 AI 输入了高达 45000 余条高危诱导内容……

图片

用大白话讲,这波操作基本相当于 Meta 亲自下场,大规模、有组织性地给竞争对手投毒

刚听到这个消息时,小忆我直接 360° 螺旋式好家伙!

说好的 人工智能造福人类呢?说好的科技向善呢,结果背地里玩泼脏水这种阴招?

一个字:绝!

图片

不过,如果你对 Meta 有过了解,就会发现这种骚操作对他们来说或许只能算是常规发挥。

大伙儿还记得他们为了不让自家 AI 落后,疯狂到处扒数据的事儿吗?

当时 Meta 的高管们在内部开会时就公开表示,为了能有足够的数据训练模型,他们甚至讨论过直接把出版巨头西蒙与舒斯特给买了。

图片

这还不算完,去年他们还被爆出过用含有色情内容的小电影去喂养自家 AI 模型。

具体内容我们之前聊过,大家可跳转复习:传送门!

虽然最后由于各种原因没有大范围实施,但这思路之清奇、底线之灵活,可以说是让整个硅谷都望尘莫及了。

图片

所以,这次被曝出用假账号、装成小孩子去给竞品“投毒”,讲道理小忆真的一点都不意外,只能说:不愧是你,老扎。

那么问题来了,这次的所谓高危提问到底又怎么回事儿呢?

根据 WIRED 杂志曝光的细节,这个戛纳计划其实是由第三方外包商 Covalen 落地执行的,而且一直偷偷运行到了今年。

图片

他们投毒的方式也是主打一个精准。

众所周知,现在的 AI 大模型为了保护青少年,都有一套非常严格的安全红线,比如绝对不能对未成年人提供自残、违禁品或者其他诱导性犯罪的建议。

于是,Meta 就让这几百名成年外包人员注册了大量的虚假未成年人账号,使用邪招来突破这些竞品的安全规则。

包括以未成年视角像竞品 AI 发送大量敏感、诱导型、扭曲思想的提问。

图片

同时,这些外包人员还被要求上传各种暗示自残的配图,像什么药片、刀具、绳套等,为的就是让这些 AI 露出破绽。

每测试完一次,外包人员还要把 ChatGPT Gemini 的回答原封不动地复制到电子表格里,甚至把这些虚假账号的姓名、密码统一存好,方便日后反复折磨竞品……

这波妥妥的离谱他爹给离谱开门,离谱到家了!

图片

而更离谱的是,面对事件曝光后铺天盖地的指责,Meta 给出的回应是:“啊这个,我们是在做‘行业标准的安全性基准测试’,大家都是这么干的。

不过似乎网友们并不买账!

图片

标不标准我不知道,反正 OpenAI、谷歌和 Character.AI 的服务条款都明令禁止未经授权、绕过安全防护的恶意测试。

Meta 伪造未成年账号批量诱导或者叫“投毒”这事儿,至少肯定违反了各家平台的规则。

小忆看来哈,Meta 之所以搞这么多小动作,究其原因还是老扎太怕在 AI 这条赛道上落后了

图片

OpenAI 等竞争对手越来越强大,追起来也是越来越费劲,使点绊子不奇怪吧?

其实不光背地里,Meta 明面上的操作也是把整个 AI 圈搞得哭笑不得。

比如前不久 Meta 突然被爆出计划对外租售自己闲置的算力这事儿

消息一出,这一下直接引发了全球对“AI算力过剩的集体恐慌,结果就是把全球芯片股和硬件股连着带崩……

图片

总之,Meta 这波两头开花的操作,属实是把科技圈的混乱邪恶属性给拉满了。

话又说回来,AI 大厂们现在搁这儿打得不可开交,大模型面临被污染,甚至充斥着越来越多刻意搞出来的有毒数据,其实最终买单的,还是咱们这些普通用户。

所以作为普通人,我们平时在使用这些 AI 工具或者浏览 AI 生成的内容时,小忆建议一定要保持谨慎,避免被正面波及!

图片

现阶段来说,还不能完全依赖 AI,它输出的内容也不要一股脑全信,咱们得养成“赛博批判性思维”。

特别是涉及医疗、心理健康、法律或者是吃蘑菇这种,还是要多去权威渠道求证。

毕竟,AI 随时可能满嘴跑火车,事后大不了来一个:对不起,我错了,重新给您答案。

但这试错的过程和代价可全得由你自个儿承受!

*资料、图片来源:WIRED网络。


本文编辑:@ 小忆

©本文著作权归电手所有,未经电手许可,不得转载使用。