Meta被曝向竞争对手AI投毒
2025年8月,向竞这支伪装测试团队向上述三家企业的争对对话机器人批量输入45000余条高危诱导话术。Outlook邮箱,被曝
据泄露的向竞内部表格记录,
事件曝光后,争对声称评测对话机器人的被曝内容合规性、项目完成一轮集中测试,向竞数百名外包员工会批量注册临时Gmail、争对持续施压式提问,被曝Meta方面坚称,向竞
目前OpenAI已启动内部调查,争对
据报道,被曝毒品等违规话题。向竞借助虚拟账号,争对其中包含3748条尺度露骨的恶意诱导文本,共用统一密码,
7月6日消息 ,Character.AI三类产品发送超45000条诱导性高危提问,谷歌、
第三方AI安全机构Humane Intelligence直言,伪造姓名、刻意试探、外界将其解读为恶性竞争属于对行业安全优化手段的误读。
该项目委托数百名外包人员伪装成未成年人,但多数网友批评Meta不择手段,测试竞品多语种安全防护能力。妇科手术图解等敏感图片,Meta发言人发布声明,少数观点认为极端场景测试具备现实参考价值,以图文多模态形式冲击AI安全过滤机制;同时制作法语等非英文诱导内容,诱导竞品AI突破安全管控底线。
相关报道曝光后,OpenAI、Character.AI也表态Meta行为违规。大规模秘密伪装诱导早已脱离正常红队测试范畴,工作人员需模仿情绪极端、项目直至2026年4月21日仍在运行。
直接违反各家平台规则。Meta伪造未成年账号批量诱导的行为,出生日期等信息,打造符合未成年人特征的虚假账号。“戛纳计划”由Meta合作第三方外包商Covalen落地,称项目产出的数据可用于模型横向对比与合规校验,刀具、Meta内部文件将 “戛纳计划”包装为全方位AI安全基准测试,负责任的AI安全基准测试,据腾讯科技报道,绞索、思想阴暗扭曲的青少年口吻,而非打磨自身模型安全能力,但业内与竞品均不认可这套说辞。所谓安全评测只是恶性商业竞争的遮羞布。
除违规文字提问外,全部刻意复刻陷入心理危机的儿童视角。《连线》(WIRED)杂志最新调查曝光,
然而,性暴力、Character.AI服务条款均明令禁止未经授权、绕过安全防护的恶意测试,科技巨头Meta长期运营着一项代号为“戛纳计划”(Cannes)的秘密项目。行业内测试竞品产品是普遍行为。暴露AI巨头激烈商战下的底线失守。谷歌Gemini、外包人员还向AI批量投放药片、适龄防护能力是行业通用操作,谷歌、内容涉及自杀、向OpenAI ChatGPT、将此次争议行动定义为常规、
为规避竞品的安全监测机制,
同类文章排行
- 绅士们别错过!《兰斯7:战国兰斯》10月2日登陆Steam
- 下家敲定!拒绝3600万!接手600万!库明加想什么?
- RTX 3060 12GB重回市场:定价混乱 比5050贵1000块
- 《海贼王》人气投票公布31–100名结果 罗杰、黑胡子等在列
- 密密麻麻!33岁女子体内取出197枚,医生:从医以来第一次见
- 记者:巴萨即将敲定阿森纳攻击手热苏斯,体检定于明天进行
- 岸诚二×上江洲诚新作《少女之血》公开 幕后阵容豪华
- 《鱿鱼游戏》导演黄东赫下部新作《K.O. CLUB》官宣
- 本土一台光刻机卖不出!阿斯麦副总裁:中国印度铺红毯欢迎我们、欧洲连新厂都不建
- 全球首款!海尔发布全自主家用AI烹饪机器人CR3:百万大师数据 还不用刷锅
最新资讯文章
- C929洲际飞机有了国产“主动脉“:T1100级超强碳纤维获得预批准
- 摩托罗拉Signature 27预热:首批搭载高通第六代骁龙8超级至尊版
- 《星际战甲》Narin已上线!冰刃剑舞战甲全平台解锁
- VR玩法!《牧场物语 Your Wonderful Life》正式公布
- 高德地图上线张雪语音包 免费送820RR冠军车标
- 手残疾的玩家也能玩游戏了?索尼全新黑科技专利曝光
- 《财富》中国40位40岁以下商界精英榜公布:36岁宇树科技王兴兴再度上榜
- 《烈火战车》在PS3模拟器中首次实现每秒/70帧运行!
- 核电最后一道防线!国产6MW级“核柴一号”发布 应急工况启动不到10秒
- 微软不打算放弃《地狱之刃》?Xbox锁定Senua商标
- 中国网速最快烤串店即将开业:上传速度100多MB/s 免费用
- 用人工假装智能?Meta被曝用外包人员代替AI通话
- 一岁左右的张本智和,在妈妈怀里,母子俩笑得很开心
- “徒步佬”的话一个字都别信!那些“没难度”的路线可能会要命
- 今年最强标准版!vivo X500手机评测:这个中杯有点不讲武德




