国家发改委谈 AI 就业替代：监测预警并治理深度伪造

11 月 3 日，国家发改委在发布会上提出，强化对人工智能就业替代风险的监测预警，并将算法歧视、深度伪造、隐私泄露纳入权益保障，同时规范人机边界。这给依赖 AI 工具和虚拟人运营的内容团队带来新的合规信号。

发生了什么

11 月 3 日，国家发展改革委召开奋进“十五五”系列新闻发布会，介绍培育壮大新动能有关情况。国家发展改革委创新和高技术发展司副司长王若蒙在发布会上表示，对于人民群众关心的人工智能就业替代风险，要强化监测预警，加强社保体系同就业结构、工作方式变革的衔接，做好兜底性、普惠性社会保障。

同一场发布会上，监管方向也延伸到人工智能带来的社会问题。权益保障方面，算法歧视、深度伪造、隐私泄露被明确点名，官方提出通过技术手段增强滥用恶用行为的溯源追踪能力，坚决打击利用人工智能实施的违法犯罪行为，并对老年人、未成年人等特殊群体进行保护。心理健康方面，则要求规范人机边界，加强防沉迷、防情感依赖的引导和干预，完善社会心理援助与干预渠道。

发布会同时给出人工智能落地的部分进展：工业领域已经涌现出 5.6 万多家智能工厂；服务业领域，金融、物流、外贸智能体可自动完成合同审核、报关报税、理赔核损等任务，“员工+智能体”等商业新业态新模式出现。

关键事实

• 国家发改委提出对人工智能就业替代风险强化监测预警，并加强社保体系与就业结构、工作方式变革的衔接。
• 算法歧视、深度伪造、隐私泄露被纳入权益保障范围，官方强调溯源追踪和打击利用人工智能实施的违法犯罪行为。
• 心理健康方面明确规范人机边界，加强防沉迷、防情感依赖的引导和干预，并完善心理援助渠道。
• 工业领域已涌现 5.6 万多家智能工厂；服务业出现“员工+智能体”模式，可自动完成合同审核、报关报税、理赔核损等任务。
• “十五五”时期将按“点、线、面”深化“人工智能+”行动，优先聚焦矿山开采、高空作业、应急救灾等“险、脏、累、繁、难”场景。

我们的分析

过去关于人工智能的讨论更多集中在效率提升和产业落地，这次发布会把就业替代风险、社保兜底、防沉迷和防情感依赖一并提出，说明政策关注点可能从“鼓励应用”扩展到“治理副作用”。对内容创作者和社媒运营者来说，这不再是遥远议题：依赖 AI 批量生成、数字人直播或虚拟人陪伴的账号，未来可能面临更明确的人机边界要求。

算法歧视、深度伪造、隐私泄露被并列提出，尤其值得内容团队注意。平台对合成内容标注、AI 生成素材溯源、账号实名和隐私合规的审核可能逐步收紧。如果账号长期使用 AI 生成的图片、视频、语音而不做标识，或者利用合成内容制造虚假信息，运营风险会明显上升。

“员工+智能体”模式已经在金融、物流、外贸等领域的合同审核、报关报税、理赔核损中落地。这意味着内容团队中一些重复性后台工作也可能被智能体接管。结合就业替代风险监测预警，自由职业者和兼职创作者可能面临更大的岗位替代压力；而兜底性社会保障的提法，可能为灵活就业人群提供更明确的安全网，但短期内的衔接细节仍需要持续观察。

对运营者意味着什么

• 给 AI 生成的图片、视频、语音添加明确标识，建立合成内容上线前的审核流程，避免深度伪造素材进入发布链路。
• 运营虚拟人、AI 陪伴或数字人账号时，设置人机身份提示和使用时长提醒，降低用户情感依赖风险。
• 把合同审核、发票整理、报税、客服回复等重复性后台任务交给智能体，让团队把时间留给选题、创意和用户关系维护。
• 关注灵活就业和社保衔接政策，如果团队有依赖 AI 工具的兼职创作者，提前梳理劳动关系或保障方案。