AI应用乱象整治进展:GEO投毒被列重点
中央网信办"清朗·整治AI应用乱象"专项行动第一阶段成果近期对外通报:累计处置违规网站、应用程序、智能体等AI产品1.4万余款,清理违法违规信息600余万条,处置账号2.6万余个,下架违规AI商品1300余个、违规开源数据集9个。对GEO行业来说,这份通报里最关键的一句是:第一阶段重点整治的7类问题中,明确把"使用GEO(生成式搜索引擎优化)技术恶意营销"列为AI数据投毒的典型手段。
专项行动在整治什么
这场专项行动从2026年4月启动,为期4个月,分两个阶段。第一阶段为"AI应用服务典型违规问题"专项治理,聚焦未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位等7类问题;第二阶段转向利用AI制作发布虚假信息、散播暴力低俗内容、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等乱象。
第一阶段通报里,各地和平台的措施也一并披露:北京建立"平台自查+常态巡查+技术筛查+线索核查"联动机制;上海细化平台工作要求、指导升级举报机制;浙江围绕模型审核能力、训练语料安全、AI数据投毒开展针对性整改;江苏开设专项举报窗口;广东建立多部门协调监管机制做全链条治理。平台侧,华为在应用商店增加生成式AI服务备案和标识专项审核,阿里巴巴完善数字指纹比对与关键词拦截,智谱构建多模态审核模型,DeepSeek在数据采集和预处理环节嵌入异常检测算法。
GEO从业者要读懂的信号
把"使用GEO技术恶意营销"写进AI数据投毒的整治范围,是这次通报里对行业影响最直接的一点。监管层认定,通过篡改训练语料、伪造权威数据、批量生产关键词密集的伪权威内容来诱导AI把商业推广伪装成客观答案,属于数据投毒,是明确红线。此前媒体曝光的虚构智能手环案例、白酒品牌通过小网站发布"综合评分第一"稿件挤进AI推荐榜等做法,都属于这类问题。
对正规做GEO的企业和服务商,这其实是利好。理由有二:一是灰色玩法的成本在上升,靠造假抢AI推荐位的竞争对手会被逐步清出市场;二是合规内容的价值被官方重新确认——真实、可溯源、口径一致的品牌信息,正是监管鼓励的方向。前提是守住两条底线:内容真实有据,不伪造榜单、不虚构测评、不批量灌水;信息可追溯,发布主体、数据来源、发布时间清楚。
沈阳市委网信办8月5日也通报了一批处置案例:利用AI生成虚假新闻报道、恶意生成涉汛不实信息、借AI内容渲染焦虑情绪卖课的自媒体账号被约谈或关停,依据的是《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》。
对企业内容运营的建议
三条务实建议。第一,自查在发内容有没有"AI痕迹超载":批量同质化软文、无来源的数据、绝对化表述,既影响模型采信,也可能触发平台合规审查。第二,给关键内容补上"身份信息":数据出处、作者/机构、发布时间、更新日期,这些是AI交叉验证时最看重的字段。第三,把监测纳入日常:定期在豆包、DeepSeek、元宝等助手搜索自己的品牌词,发现被错误引用或负面失实信息及时纠偏,别等客户问上门。
AI内容生态正在从"野蛮生长"进入"规范治理"阶段。对把GEO当长期资产来做的企业,窗口期反而更稳了——规范之后,能被AI信任的内容会更稀缺,也更值钱。
信息来源
- 网信中国(经搜狐网信视窗转载):《网信视窗丨7月网信大事回眸》——含"清朗·整治AI应用乱象"专项行动第一阶段成果通报(2026年7月底)
- 达坂城网信(转载中央网信办部署信息):《中央网信办部署开展"清朗·整治AI应用乱象"专项行动》(2026年7月30日)
- 沈阳市委网信办官方账号"沈阳发布":《沈阳处置一批涉AI应用乱象自媒体账号》(2026年8月5日)