MIT实验：看AI篡改图片的人错误记忆概率上升

MIT实验用24张照片和200名受试者发现，看AI篡改图片的人错误记忆概率大幅上升，对虚假记忆更自信；新研究显示AI可植入从未发生的事件。内容创作者和运营者需重审AI素材的审核与信任风险。

发生了什么

据 Washington Post 报道，麻省理工学院媒体实验室教授帕蒂·梅斯（Pattie Maes）和同事进行了一项实验：准备 24 张普通照片，内容为婚礼、城市街道、赛跑场景，展示给 200 名受试者。短暂休息后，一部分人再次看到原图；另一部分人看到经过 AI 修改的版本——人物面部表情被改动、画面中新增军人形象，或是添加气候变化相关景象。

随后的记忆测试中，观看 AI 篡改图片的受试者，产生错误记忆的概率大幅上升。梅斯表示，更严重的是，他们对这些虚假记忆的自信程度反而更高。她评价：“基本上，我认为这一切非常危险。”

此前公众担忧多集中在“认知放弃”——机器承担更多思考类工作，人们越来越不愿、也越来越没有能力审视机器给出的信息。但新研究指向另一种可能：AI 或许正在改变我们的记忆本身。一批针对政治事件、罪案甚至新电影认知的研究显示，AI 生成的图像与对话，可以把虚假细节植入人脑。

关键事实

• MIT 实验使用 24 张普通照片和 200 名受试者；看过 AI 篡改图片的人错误记忆概率大幅上升，且对虚假记忆更自信。
• 一项实验中，受试者观看犯罪视频后由生成式 AI 聊天机器人问询，产生虚假记忆的数量是对照组的三倍。
• 另一项实验中，近半数受试者虚假记得一些从未拍摄的电影翻拍版，其中包括由威尔·史密斯主演的《黑客帝国》。
• 研究人员让 331 人观看汽车撞倒行人的动画视频；阅读 AI 生成的误导性摘要后，正确记住交通标识的比例约 45%，而拿到准确摘要组为近 84%。即使提前告知摘要是 AI 生成，影响依然存在。
• 2025 年发表在《柳叶刀·胃肠病学和肝病学》上的研究观察 19 名资深医生对近 1500 例结肠镜检查的评估，发现医生常态化使用 AI 后，独立检出癌前病变的能力下降约 20%。

我们的分析

这项研究对内容行业的影响可能比表面更深。AI 不只是生成文本或图片，它还会解读、总结、重构过往信息，并且有时会出错。原文提到，记忆提供知识与经验，帮助人们理解当下、预判未来，并指导决策；如果用户通过社媒内容形成对事件、品牌或产品的记忆，而这类内容由 AI 生成或篡改，错误记忆可能被固化为“亲历事实”。

更关键的是，人工监督这层常见保障可能并不牢靠。乔治城大学海量数据研究所助理研究员玛蒂亚·西姆的实验中，即使提前告知受试者摘要由 AI 生成，误导性信息仍然把正确率从近 84% 拉到约 45%。这意味着运营者不能简单假设“有人审核就能挡住 AI 错误”；如果复核者先接触 AI 输出，其判断和记忆本身也可能被影响。

对品牌和社区来说，这也提出新的信任问题。AI 生成的“回忆向”“现场还原”“用户故事”等内容，可能让受众难以区分哪些来自真实记录、哪些来自机器生成。原文提到，有实验显示一周后人们难以分清哪些想法来自机器、哪些属于自己。这会增加后续澄清和危机处理的成本。

对运营者意味着什么

• 不要把 AI 生成或修改的图片、视频、事故摘要直接当作事实发布；涉及事件经过、用户证言、产品效果时，先核对原始素材并在显著位置标注 AI 参与程度。
• 审核流程应让复核者先看原始素材，再看 AI 摘要或生成结果，避免 AI 输出干扰判断；不要只依赖“有人工把关”这一层。
• 社区运营中，谨慎用 AI 生成“回忆向”“纪实向”内容来替代真实用户记录，防止成员形成虚假记忆，后续引发争议时更难澄清。
• 如果品牌面向银发群体、记忆障碍患者或做怀旧营销，涉及 AI 记忆助手、自动记录类工具时，应明确说明局限，不夸大保存和回放能力。