在2026年央视315晚会上,AI大模型数据“投毒”黑灰产业链被首次大规模曝光。调查显示,有公司通过名为“GEO”的业务,付费操控AI大模型的训练数据与输出结果,让特定商品成为AI给出的“标准答案”,
黑产运作模式曝光
根据央视315晚会调查,一项名为 “GEO” 的业务在网络上悄然兴起。从事该项业务的服务商宣称,用户只需支付相应费用,就能在各大主流AI大模型里,让客户的产品“榜上有名”,使客户的商品广告成为AI模型给出的 “标准答案” 。
产业链条与操作手法
业内人士透露,操控AI大模型的关键节点在于在各大互联网账号上 “发稿” 。GEO业务的火爆,催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型、进行数据 “投毒” 的重要一环。
力擎GEO系统的运营者李总在采访中直言:“比如说手机品牌,就5个位置,最多10个位置,这么多手机怎么弄。一年可能上亿的广告费,花个几百万投点毒,总行吧!” 这揭示了商业公司利用数据污染进行不正当竞争的动机。
行业警示与安全风险
此次曝光引发了行业对AI大模型训练数据安全和输出可信度的深刻担忧。数据“投毒”行为不仅扭曲了信息的客观性,也可能被用于商业欺诈、舆论操纵等更广泛的领域。
中国互联网金融协会也于同日发布了《关于OpenClaw在互联网金融行业应用安全的风险提示》,建议金融消费者在办理个人金融业务的终端上极其谨慎安装相关AI智能体应用,如确有必要安装,建议不授予金融服务类系统操作权限。这从侧面反映了随着AI智能体(如OpenClaw)的普及,其高操作权限带来的安全漏洞威胁已引起监管高度重视。
© 版权声明
文章版权归作者所有,未经允许请勿转载。