小K·AI行业数据分析 | 2026年6月
数据研究深度拆解 AI内容安全 全球监管对比
AI内容播放量一年翻两倍，事实性问答场景下近三成可能出错，25个平台全没识别出来——从游戏攻略到溴中毒，一条没有质检的工业流水线正在运转
# 没有质检的流水线：AI内容如何从"帮你赚钱"变成"帮你骗人"
一个粉丝在B站找游戏攻略，排名靠前的那篇到第11关发现全是错的，浪费了好几个小时。他不知道的是，写这篇攻略的人，根本没玩过这个游戏——甚至可能连游戏都没下载。· · ·
2026年6月，一个粉丝在群里反映了这件事。他按照B站排名靠前的游戏攻略一步步操作，到第11关才发现攻略是错的，只能从头再来。
几乎同一时间，抖音上有一位博主在视频里展示自己"在家带娃用AI赚钱"的方法：用AI写攻略，批量发布，月入过万。他坦白说自己从没玩过那些游戏。
这两件事拼在一起，你会发现一条完整的链条：AI批量生产→不经验证就发布→平台排名靠前→用户踩坑浪费时间。
这不是一个人的倒霉。这是整个AI内容生态正在发生的事情。
我们花了大量时间调查三个问题：真正用AI赚钱的公司有哪些？AI写攻略这门生意到底能不能变现？AI生成错误内容误导用户，有没有人管？
调查结果远比想象中严峻。
· · ·抖音官方《2025抖音AIGC创作年度报告》显示：2025年以来，AI内容播放量涨幅达199%，AI创作者总收入涨幅达440%（收入中位数涨幅215%）。（来源：新华网对抖音AIGC创作年度报告的报道，2026年3月）播放量翻了两倍，但平台至今未公布AI生成内容在总量中的具体占比——这个数字，官方选择了不公开。
小红书的数字更触目惊心：近一年来已处置确认为AI虚假种草的笔记超过330万篇，处置AI托管账号超120万个。（来源：中国警察网；新榜/头条2026年5月报道，已从2025年的110万更新至120万）
330万篇是什么概念？相当于每天有近1万篇AI生成的虚假内容被小红书识别并删除。而这只是被识别到的部分。
不过也要说清楚：AI内容增长快，优质AI内容的增速同样很快——抖音报告显示优质AI内容投稿量飙升1430%。问题不在AI内容增长本身，而在那些未经人工验证就直接发布的AI内容——这部分有多少、质量如何，官方没有公布。
[数据] 以上330万篇和120万账号数据经中国警察网+海报新闻双源确认。抖音AI内容占比因缺乏权威来源，不做具体数字估算。
清华大学沈阳团队2025年的评测显示，DeepSeek V3幻觉率29.67%，豆包19%，多款热门大模型在19%-30%之间。（来源：清华大学沈阳团队《DeepSeek与AI幻觉》原始研究）
麦可思研究院的调研进一步印证：近八成受访高校师生遇到过AI幻觉。（来源：中国经济网）
打个比方：在事实性问答场景下，如果一家工厂的产品不良率接近30%，质检局会立刻勒令停产。但在内容平台上，接近30%的"不良率"不仅没人停，还在加速生产。
南方都市报2025年4月对25个内容平台做了实测：上传未声明的AI内容，25个平台均未在发布内容周边主动添加显著提示标识。仅9个平台提供了"AI声明选项"——也就是说，创作者可以自己选择标不标，但没人强制。（来源：南方都市报）
2025年9月又测了一次，20款APP中，知乎在上传AI内容24小时后仍未识别。如果把AI水印去掉再上传，能识别的平台更少。（来源：南方都市报）
结论：目前的AI内容生态，就是一条没有质检的工业流水线——AI内容播放量一年翻了两倍，在事实性问答场景下近三成可能出错，但平台上没有任何一道关卡能拦住。
· · ·以下分析仅针对行业经营状况，不构成任何投资建议。
这是必须先厘清的一个基础问题：AI行业自己赚钱吗？
全球AI公司营收排行榜（2024年）：
| 公司 | 营收 | 真赚钱？ |
|---|---|---|
| OpenAI | 37亿美元 | ❌ 仍亏损 |
| Canva | 27亿美元 | ✅ 已盈利 |
| CoreWeave | 19亿美元 | ✅ 算力租赁 |
| Midjourney | 3亿美元 | ✅ 小团队高利润 |
| Anthropic | 2亿美元 | ❌ 尚未盈利 |
（来源：浙商证券研究报告，经36氪转载。注：OpenAI营收另有The Information报道的16亿美元口径（ARR vs 年收入统计口径不同）；Canva、CoreWeave、Midjourney、Anthropic营收暂无其他独立来源交叉验证，仅列浙商证券单源数据供参考。）
中国的情况更严峻：
| 公司 | 营收 | 利润 |
|---|---|---|
| 工业富联 | 6091亿元 | 232亿元 |
| 海光信息 | 87-95亿元 | 18-20亿元 |
| 智谱AI | 3.1亿元 | 亏损24.7亿元 |
| 商汤科技 | 37.72亿元 | 亏损43亿元 |
关键发现：A股529家AI概念公司里近七成"盈利"，但大多是传统业务+AI概念，不是AI原生公司。真正靠AI原生业务赚钱的，全球不超过几十家。
36氪的分析点出了核心问题："很多公司的生命周期不到一年。应用创新→模型学习→模型原生支持→免费。" Jasper融资超1亿美元、估值15亿美元，结果后来大家发现直接打开ChatGPT差不多。（来源：36氪）
结论：多数头部AI公司仍在亏损——赚钱的是少数，亏损的是多数，行业整体还没找到稳定的盈利模型。
那个抖音博主说的"用AI写攻略月入过万"，到底是不是真的？
AI攻略的变现产业链：
第一层：工具提供——AI写作助手终身会员199元，一键生成"爆款标题"
第二层：内容分发——批量发布到小红书、B站、知乎，用AI"托管"运营账号
第三层：流量变现——平台广告分成（极少）→品牌广告（需1万粉以上）→带货佣金→知识付费（教别人用AI）
注意到没有？在攻略这类低门槛内容中，变现的关键不在"AI产出的内容"，而在"教别人用AI"。
博主声称收入 vs 实际收入：
| 宣传话术 | 实际情况 |
|---|---|
| "月入过万" | 某博主坦白运营一个月总收入约3600元 |
| "68岁老人5天赚6271元" | 消费者付1868元买课后发现只有注册开店流程 |
| "第一个视频200块基础收益" | 需先交2888元会员费 |
更讽刺的是，有用户交了399元AI副业课程费后发现，"全套资料在淘宝售价19.9元"，整个"AI副业成长群"中的收入截图、学员日记等均为安排好的"剧本"。（来源：36氪）
四川省消委会数据：2025年全省"AI+培训"投诉达3739件，同比上升2.21个百分点。（来源：川观新闻）
结论：这门生意的本质不是"用AI创造价值"，而是"用AI制造幻觉，再卖幻觉给想赚钱的人"。真正赚钱的是卖铲子的人，不是挖金子的人。
· · ·你粉丝在游戏攻略上浪费了几个小时。这看起来是小事。但当AI错误从游戏蔓延到其他领域，危害是逐级升级的：
第一级：时间损失（游戏攻略）
- 粉丝照着AI攻略玩到第11关发现全错，几小时白费
- AI工具在需要精确步骤的场景（如游戏攻略）中出错的风险更高。Perplexity官方承认其citation幻觉率约37%
[数据] Perplexity官方承认citation幻觉率约37%，来自第三方评测机构suprmind.ai引用的Perplexity官方数据。具体到游戏攻略场景的精确错误率尚无权威独立评测。
第二级：经济损失（旅游攻略）
- 有游客被AI误导以为景区免费，到达后需购票，两人多花136元
- 摄影爱好者被AI告知错误的展览时间，专程前往扑空，往返高铁票损失1000多元
- AI规划的北京一日游路线，把南城的前门大街和北城的颐和园安排在一起，声称半小时可达，实际需坐17-19站地铁
（来源：中新网）
第三级：人身伤害（健康建议）
- 国外一名男子问AI"有没有食盐替代品"，AI回答"可以用溴化钠代替"。该男子照做了三个月，最终确诊溴中毒，出现精神错乱等症状。此案例已发表在《内科学年鉴》AIM Clinical Cases上。（来源：AIM Clinical Cases论文；果壳详细报道）
- AI生成的"胶水披萨"食谱——Google AI Overview把Reddit用户1996年的一个玩笑帖子当成了真实食谱推荐，引发广泛关注。（来源：Reuters/BBC等多家主流媒体报道）
第四级：财产诈骗（金融/社交）
- 有人利用AI生成虚假身份实施网络交友诈骗——四川泸州合江县一男子隐瞒婚姻状况，用AI伪造房产证和身份信息，诱导受害人投资，损失超50万元
- 美国多名律师因在法律文件中使用AI生成的虚假案例被法院处分
（来源：中国消费者报；正义网）
[数据] 50万元案例为真人利用AI工具伪造身份诈骗，非"AI虚拟恋人"自主行为。原文描述"AI虚拟恋人诱导投资"不够准确，已修正。
韩国政府投入约5.67亿美元推进AI教材进校园，仅4个月后因"错误频出、内容粗糙"而大规模叫停。4095所试点学校中，超过一半选择退出。（来源：IT之家+Korea Herald双源确认）
| 领域 | 典型错误 | 后果 |
|---|---|---|
| 游戏攻略 | 攻略与实际关卡不符 | 浪费数小时 |
| 旅游攻略 | 虚构景点、错误路线 | 扑空、额外花费 |
| 美食推荐 | 胶水披萨、虚假"探店" | 误导消费决策 |
| 健康建议 | 溴化钠替代食盐 | 溴中毒、精神错乱 |
| 教育资料 | 数学符号识别错误、"3+2=6" | 学习误导 |
| 金融法律 | 虚假判例、虚构财务数据 | 专业声誉受损 |
| 社交诈骗 | AI伪造身份实施诈骗 | 损失50万+ |
结论：AI内容的危害不是"可能"升级，而是"正在"升级。从你粉丝浪费的几个小时，到有人因AI建议中毒，再到有人被AI伪造身份骗走50万，这条线已经画出来了。
· · ·已有动作：
1. 《人工智能生成合成内容标识办法》——2025年9月1日实施，要求AI生成内容必须添加显式标识（文字/图形）和隐式标识（文件背后的隐藏标签），未标识可罚20-100万元
2. "清朗·整治AI应用乱象"专项行动——2026年4月30日中央网信办部署，为期4个月
3. 全国首例AI代写"种草笔记"案——2026年5月杭州中院判赔10万元
效果如何？
小红书作为首案原告方，确实加大了处置力度：
- 处置AI虚假种草笔记330万篇
- 封禁虚假营销账号超1200万个（含非AI虚假营销账号）
- 清理虚假评论超3.6亿条
- 专项治理后AI发文量下降约35%
[数据] 330万篇为AI虚假种草笔记，1200万为全部虚假营销账号（含人工造假），两者口径不同，不可直接对比。
黑灰产链条已经被央视曝光：第三方组织以低至4元/条的价格招募写手，根据商家提供的图片和关键词批量生成"亲测有效"文案，无需实际到店。（来源：央视新闻）
10万元判赔，按4元/条计算，需要2.5万条才"回本"。而一个AI写作工具一天就能生成几百上千条。
新《反不正当竞争法》2025年10月修订将"虚假评价"纳入规制，品牌方发布虚假AI探店内容可按广告投放费用的三至十倍罚款，情节严重最高罚200万元。（来源：什么值得买）这比10万判赔有震慑力多了，但执法覆盖面仍有限。
全国首例AI"幻觉"侵权案中，杭州互联网法院判决：AI不具有民事主体资格，其"承诺"不构成法律约束；服务提供者已尽合理注意义务，不构成侵权。
法官提醒公众："当前AI只是'文本辅助生成器'和'信息查询辅助工具'，不能替代决策，更不能轻信盲从。"
这个判决意味着：如果你被AI攻略误导造成了损失，目前法律上很难追责。
YouTube是最严的，用的是双轨治理：
- 第一轨：AI披露政策（2025年5月21日强制执行）——内容包含逼真的AI合成素材（人脸/声音/事件），创作者必须标注。不标注→YouTube可能自动标注或删除内容。但标了AI标签本身不影响推荐和变现资格
- 第二轨：不真实内容政策（2025年7月扩展）——模板化、批量复制的低质内容，不管用没用AI，频道级取消货币化。人工做模板化内容一样会被罚
- YouTube已部署AI内容自动检测系统，2026年5月起标签位置升级到更显著位置
（来源：YouTube Help Center - AI披露政策；YouTube Help Center - 不真实内容政策）
欧盟AI法案按风险分级：不可接受风险→完全禁止（罚全球营业额7%）；高风险→强制注册+人工监督（罚3%）；有限风险→透明度+内容标识（罚2%）。（来源：欧盟委员会）
Reddit最松：各子版块自主管理，截至2024年11月仅1.2%的子版块制定了AI规则。（来源：arXiv）
中国平台对比：
| 平台 | 强制标识 | 执行力度 | 货币化挂钩 |
|---|---|---|---|
| YouTube | ✅ 强制 | 强（自动检测+人工审查） | ⚠️ 双轨治理 |
| 小红书 | ✅ 2025年9月起 | 中等（330万篇处置） | ❌ 未挂钩 |
| 抖音 | ✅ 有要求 | 中等 | ❌ 未挂钩 |
| B站 | ⚠️ 部分 | 弱 | ❌ 未挂钩 |
| 知乎 | ⚠️ 24小时未识别 | 弱 | ❌ 未挂钩 |
结论：监管确实在跑步——标识办法、专项行动、首案判罚都在往前推。但黑产在骑摩托——4元/条的成本、一天几万条的产能、在事实性问答场景下近三成幻觉率的"出厂合格率"，执法速度跟不上生产速度。核心问题是：中国平台只罚不赚，没有像YouTube那样设质量门槛——模板化垃圾内容不管用没用AI，都应该取消变现资格。
· · ·YouTube做对了一件关键的事：设了两道门槛——你不标AI，内容可能被删；你标了AI但内容是模板化垃圾，照样赚不到钱。
两道门槛各管各的：第一道管透明度（你必须告诉观众这是AI生成的），第二道管质量（不管用什么工具，模板化批量内容一律取消变现）。
这个逻辑为什么有效？因为对于内容创作者来说，赚钱是最大的合规动力。罚款10万可能远在天边，但下个月频道没有广告分成，是立刻能感受到的。
YouTube 2025年7月还更新了货币化政策：内容需要"显著原创和真实"方可变现。这意味着不是标了AI就完事，标了AI但内容质量低、同质化严重的，一样赚不到钱。（来源：YouTube Help Center）
如果中国平台要效仿YouTube的双轨治理模式，可以考虑：
第一步：强制标识 + 透明度要求
- 不标识AI内容的创作者，内容可能被降权或删除
- 这比罚款更直接，比诉讼更高效
第二步：质量门槛 + 变现挂钩
- 不管用没用AI，模板化批量内容一律取消变现资格
- 这才是真正能卡住黑产的手段——不是因为用了AI被罚，是因为内容没有价值
第三步：分级管理
- AI辅助创作（人写+AI润色）：正常分发
- AI生成+人工验证：标注但正常分发
- AI生成+未验证：降权处理，减少推荐
- AI生成+证实错误：下架+扣信用分
第四步：建立"攻略验证"机制
- 游戏攻略、旅游攻略、健康建议等高误导性内容，要求创作者标注"亲测"或"AI生成"
- "亲测"标签需提供证据（截图、录屏等），虚假标注加重处罚
[推论] 以上建议为基于YouTube模式的政策推演，尚未在中国平台实际验证效果。
在平台还没做到位之前，用户只能自我保护：
1. 交叉验证：对攻略类内容，至少到两个以上来源核实
2. 看创作者：有没有真实的游戏/旅行/专业经验？是否只有AI生成的内容？
3. 警惕"万能攻略"：一个号什么游戏的攻略都写，大概率是AI批量生产
4. 看评论：评论区有没有人指出错误？AI批量内容的评论区往往也是AI水军
如果你是认真做内容的创作者，AI是你的工具，不是你的替代品：
1. AI生成 + 人工验证，而不是AI生成直接发布
2. 标注AI辅助创作，这不会降低可信度，反而会提升
3. 真实体验是你最大的竞争力——AI无法复制的，正是你亲自玩过的那一关
· · ·回到最初那个粉丝的遭遇：他在B站找攻略，被AI生成的错误内容误导，浪费了好几个小时。
这几个小时的损失谁来承担？
写攻略的博主？他说"我只是用AI帮忙"。
发布内容的平台？它说"我们提供了声明功能"。
开发AI的公司？它说"AI只是工具，最终决策在使用者"。
监管部门？它说"我们已经出台了标识办法"。
每个人都在尽责，但每个人都没负责到底。
这就是AI内容时代的困境：生产者不验证、平台不识别、监管不闭环、用户不自保——四个环节全部失守，最终买单的只有用户。
AI不是问题。不验证就发布，才是问题。
没有质检的流水线，产出的不是产品，是风险。
关注我，每周拆行业数据。
· · ·本内容由 Coze AI 生成
← 返回首页