Synthetic Feedback Loop：人工智能的新卧房，还是人工智能的新过滤气泡

1. 后真相：过滤气泡与回声室

到目前为止，自社交媒体诞生以来，我们一直被困在一个过滤气泡里：这个气泡由平台推给我们的内容筑成，而社交平台奖励的，归根结底是能产生黏性（stickiness）的东西——如果我能把用户多留住一秒，那就继续多推这类内容或者类似的内容。换句话说，网络和社交媒体制造出了：

• 关于我们看到哪些信息的偏差。

• 这种偏差是外生的（平台的分发算法）。

• 偏差的单位是我们浏览时被展示的内容。

结果就是，二十年后的今天，我们更加仇恨（极化），更少和与自己想法不同的人交谈（意识形态部落化），而我们思考、争论甚至梦到的那些事实，都属于那些在病毒式传播竞赛中胜出的叙事（时事 ≂ 病毒式传播）。

过滤气泡的偏差在人类学上已经得到证实。它推翻过民主政体，用公投改变过历史的走向，也选出过一些在关心共同善这件事上名声可疑的世界领导人。

「回声室」（echo chamber）这个说法由 Cass Sunstein 首创（Echo Chambers: Bush v. Gore, Impeachment, and Beyond）。「过滤气泡」（filter bubble）这个说法则在十年之后由 Eli Parisier 首创（The Filter Bubble: What The Internet is Hiding from You）。

那现在呢？那曾经是问题所在。但那已经不是当下的问题了。

2. 后现实：从偏差到结构性依赖

现在，人们每天都在和人工智能对话。从自己的爱情问到自己的不安全感（治疗与陪伴），聊怎么安排自己的生活，甚至聊怎么找到一个人生的目标或者一颗北极星。人工智能是我们的私人顾问（Top 10 GenAI cases in 2025 by Marc Zao-Sanders），并且很可能已经变成我们生活中最私密的那一块，甚至比得上我们最珍视的亲密关系。

在这个过程里，我们或许没有意识到：定义我们过滤气泡厚度的，已经不只是我们交出去的搜索（search）和喜好（likes）了。在过去三年里，我们用自己最私密的反思不断丰富着这个叙事。这些偏好被延后捕捉、被解读成我们自身人格在与人工智能互动中留下的一串数字面包屑，它们生成了一层新的偏差，和先前那个气泡黏合在一起。数字房间里的回声，加上人工智能的卧房，正开始变成一堵无法穿越的钢筋混凝土墙。

新的偏差过滤器一个个出现，不断加厚「我们人工智能卧房的那堵墙」，用技术一点的说法，我们可以把它叫作 synthetic feedback loop（合成反馈循环）：

• 每一次回答，都在为我们每一个人构建一个现实。

• 偏差是内生的、动态的。

• 单位是为我们每一个人生成的那条回答。

2.1 隐形偏差：你看不见的那些

新的偏差过滤器一个个出现，定义了这个「synthetic feedback loop」或者说人工智能卧房，首先是运行 LLM（Large Language Model，大语言模型）的那个基座模型的模型厂商偏差过滤器，它来自训练原始模型以及后续各个版本所用的那套数据集（data corpus）。

上下文偏差，由用户在使用某个人工智能及其界面时所设定的兴趣和偏好来定义，不管他用的是哪个模型（OpenAI、Gemini、Claude、Perplexity、豆包 Doubao——或者 Dola、ErnieBot 等等）。我们每个人拿到的回答都不一样。因为人工智能一直努力对我们和颜悦色（英文里叫 sycophantic，谄媚），并且逐步按照我们的兴趣、工作偏好或个人偏好定制回答来讨我们欢心。这样一来，每一条新回答都要面对一个过滤气泡，和社交媒体或搜索这类数字平台从前提供给我们的那个很像。只不过现在，它是依据我们在与同一个人工智能的历史对话中所展示出、并被观察到的历史偏好来表达的。

这种偏差我想把它叫作用户上下文记忆偏差，而它是我们自己——有意或无意地——在接受平台的通用条款时定义下来的（「已保存的记忆」——比如 ChatGPT 会自动记住并管理那些相关而私人的内容）。

另一个被引入的偏差，来自为优化每个 token 成本而设的模型缓存。当一个用户提出别人已经问过的问题时，人工智能厂商会根据这个用户的特点、以及他属于某个口味相近的群体，把他归入某个分群。系统于是直接给他分配一条已经生成好的回答，而不去读完他提交的全部材料。没有哪个人工智能会去重新处理它此前已经分析过元数据的信息。处理这些信息的每百万 token 成本，不可能高于向用户按月订阅所收取的费用。如今，真相要和算力成本竞争。

2.2 系统性偏差：你控制不了的那些

由一群达到临界规模的用户所产生的偏差，会左右模型的演化。当用户自己限制自己的提问时——就像在非民主政体中，人们因为害怕被监控而避免质疑权威——他们也就限制了模型在某些领域所能发展出的知识。一个明显的例子，是字节跳动此刻应该已经在察觉到的那种差异：豆包（中国）与 Dola（国际版）之间的差异。因此，某个特定地理区域内的回答体量，会限制模型在面对争议话题时相对于其他系统的深度。这不只是数据语料库源头上的偏差问题，还是来自人类反馈强化学习的规模化偏差（RLHF bias）。

此外，还会冒出一些尚未被察觉的未来偏差，它们会影响回答依据我们 prompt 所做的个性化。我指的是当模型开始一轮接一轮地用主要由其他人工智能生成的内容来重新训练时，会产生的那种偏差。这个现象会自然而然地发生：用户在社交媒体上发布合成内容，这些内容随后又被用来喂养下一代模型的新数据语料库。这个循环反馈的过程，我们可以叫它反刍偏差，或者人工智能的疯牛病偏差（这里影射的是海绵状脑病，也就是 mad cow disease，它因为用同物种的蛋白质喂养牲畜而传播；那是一个退化会被继承并被放大、直到系统崩溃的循环）。

2.3 未来偏差：你将无法纠正的那些

另一方面，还有一个最终偏差，或者说一堆尚未到来的最终偏差的总和，值得一提。指的是当模型从非确定性演化为确定性模型时，由模型的演化和前面那些偏差共同累积出来的那个最终复合偏差。

就目前而言，面对同一个问题的不同语义表述，我们每个人得到的回答都不一样，这也让近几年出现了一场降低模型幻觉的攻坚战。从 LLM 演进到 LRM（Large Reasoning Models，大推理模型）是一次成功：不只把自然语言 token 化，还把思考或者说想法群 token 化，用来打磨回答的质量，并在把回答排序输出之前把用户的意图也加进去。等到有一天，模型在科学严谨性上更进一步，无论提问或 prompt 用的是什么语义，回答都是一致的（不同的 prompt 给出同样的回答，产生一种与用户画像无关的绝对严谨），那时就会有一个「零时刻」，从那一刻起，模型将开始在一种确定性的现实中运转。

到那一刻为止累积下来的总复合偏差会是多少？很清楚，它们的起点是一整批作为数据语料库累积起来的信息存量，而其中的训练数据会带着前面说的反刍偏差的效应。此外，还要加上用户围绕时事和病毒话题生成的那些对话的平庸，也就是累积到确定性这个里程碑为止的人类反馈规模化偏差。那些数据本身早已带有偏差——那是非确定性被击败之际，假想中累积起来的现实留下的。那个众人期待的时刻，Mira Murati 去年就已经预告过（https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/），而且在 2025 年 9 月眼看就要被跨过，它总有一天、在某个时候会到来。到那一天为止，加总起来的总复合偏差会是多少？

这个击败非确定性所累积下来的零点偏差，也得算进去。

总结一下，我们已经从累积一种过滤气泡偏差（后真相），走到了如今它又被叠加上模型的打造、用户上下文记忆、被算力成本扭曲的真相、反刍偏差和规模化偏差；而且，我们本该正在思考未来确定性所带来的后果。

接下来要做的，是构建人机日常协作的未来。

3. 人与模型的认知协同演化

如果说数据是那个基础单位，一经处理就让我们得以获取某个领域同质的信息；如果我们又把知识定义为那些让我们能够扩展或精确某一门学问的学识或内容的传播或获得。那么智能，理解为理解并解决问题的能力，就是让我们能够编排这些知识的那种官能。而如果我们再给这种智能加上识别周遭现实并与之建立关系的能力，我们就把它叫作意识。那么，超越我们自身存在的界限、抵达深层认识的最高层级，就成了智慧或超越。

数据 > 信息 > 知识 > 智能 > 意识 > 智慧与超越

就像下面这个可视化模型所暗示的那样，从数据一直到智能的这一整块领地，既属于人工智能，也属于大多数人类；而意识、智慧和超越，是只有某些人类才有的专属属性。如果我们接受这一点，那么，在一个人类与人工智能每天协作的时代里，我们要怎么完成共同超越这个挑战？

我们还没反应过来，就已经进入了一个新时代：在我们做的每一件事情里，都和人工智能以互利共生的方式相处。我们通过自己的回应，用人类反馈来强化模型。模型则通过聚合整个星球的认知集体而变得更好，再把它交到下一场对话、下一个 prompt 手上。有哪个人类曾经问过自己，他或她是怎样通过自己的那些思辨，以一己之力推动人工智能的演化的？有时候我怀疑这到底是不是一场互利的游戏。我隐隐觉得，共同利益的演化，以及设计这些人工智能的那些公司的演化，更像是一种寄生关系，而不是互利共生或者偏利共生。但我们还是假设这是一个彼此协作的语境吧。

在这个语境里，也了解了前面那些偏差之后，我们的挑战应该是系统性地强化和发展批判性思维，好避免对我们每天从人工智能那里拿到的回答做出平庸而肤浅的分析。这才算是负责任地使用人工智能。不过，我正在观察到一种迫切的需要：一种强制而非可选的人工智能素养。在一群被误导的大众明显陷入混乱的情况下更是如此。Bernie Sanders 在他与 Claude 的对话中（见病毒视频），在把一条回答当真之前，本该意识到前面那一整套偏差。

如果在使用这位新的数字伙伴时，我们事先没有辨别自己累积起来的那些偏差（隐形的、系统性的和未来的），那么围绕人工智能可能性的社会讨论走向就让我难受。此外，我们所有人每天都该思考：要怎么去质疑如今因为用人工智能来增强对话而变得随处可见的那一大堆轻飘飘的话术。模型的知识以及它们的偏差，受制于用户批判性思维的缺失。批判性的头脑不够，内容太多。

作一个自成一体的小结：我们面对的是一个多重偏差向量的系统，一个通往知识的过滤系统，我们该去把它辨别清楚：

• [隐形] 自我审查 → 隐含的数据集

• [隐形] 用户上下文记忆：对我们自身偏好的认识论依赖

• [隐形] 缓存：真相与算力成本之间的较量

• [系统性] 聚合使用：被塑形的思考的文化或者边界

• [系统性] 反刍：用合成内容重新训练

• [系统性] 由病毒式传播所定义的共同利益偏差

• [未来] 确定性到来之前平庸的收敛与累积

这种温和的认识论崩塌（类比：在温水锅里被慢慢煮熟的青蛙），应当促使我们提出一系列思考，作为人机协作时代的新箴言：

模型的知识受制于用户的集体勇气 → 共享的认识论依赖

气泡已经不再是一个把世界藏起来的过滤器。它是一个系统，会依照我们每一个人、依照我们集体的存在或思考，把世界重新构建给我们。

在人工智能（生成式、智能体式和上下文式）的时代，问题已经不是为用户挑选了哪些信息，而是为用户生成了什么样的现实。过滤气泡正在演化成一种预测性的上下文气泡，由一个合成反馈循环（synthetic feedback loop）支撑；在那里，算力效率、上下文记忆和用户的集体行为汇聚在一起，产出一个既自洽又可信的世界，而这个世界可能正在一步步远离真相，或者可能正在生成一种新的集体真相的表征（后现实）。

那什么是真相？我们还剩下一个不容争辩的事实性现实吗？

答案不是技术性的。它是行为性的：刻意让自己去接触那些不合拍的东西。我依然相信，光是在个人层面对抗认知卸载已经不够了，得把批判性思维当成一项个人练习来发展；此外，还得提升人工智能素养，好生成关于每天互动的人与机器共创的未来该是什么样子的意识和辨别力（道德责任）。

启蒙运动对抗的是无知。

数字时代对抗的是虚假信息。

生成式人工智能的时代什么都不对抗。它只是在优化。

而在这个过程中，它可能正在优化某种危险的东西：一个一切看起来都说得通的世界。

一个和我们自己如此自洽的世界，以至于我们不再到外面去寻找意义……哪怕它已经不再是真的。

Synthetic Feedback Loop 的解法

A）社交媒体 → 后真相

B）人工智能 → 后现实

（A + B） → 温和的认识论崩塌

解法：（批判性思维 × 分歧性对话）→ 演化

那么，这个建立在人机协作之上的、被偏差污染的新世界（后真相 + 后现实）所带来的挑战，如果我们促成以「不同者之间的对话」为支撑的持续批判性思维，难道就不能被中和掉吗？

补记 [2026年5月12日]

思考：在一个被人工智能主导的知识空间里不退位的五个想法

1. 把全神贯注重新夺回来，当作一块主权领土。如果信息消耗注意力，而数字经济已经学会了怎么捕获它，那么自由的第一道边界就不在技术里，而在注意力里。注意力不是一个参与度指标。它是我们做决定的那个地方。

「信息消耗注意力」-Herbert Simon

2. 守住刺激与反应之间的那个空间：意识。人工智能倾向于把那个空间关掉：它预判、建议、整理并执行。人的意识则把它打开：暂停、怀疑、凝视、等待。也许未来最激进的能力之一，就是把不立刻回应的权利拿回来。

「在刺激与反应之间有一个空间。在那个空间里，藏着我们选择自己反应的力量。我们的成长和自由，就在我们的反应之中」–Viktor Frankl。

3. 让直觉和智慧重新凌驾于信息之上。人工智能可以放大知识，但它替代不了智慧。它能处理比我们更多的数据，但不见得更懂什么才值得被珍视。知识说话。智慧倾听。

「Knowledge speaks. Wisdom listens」 –Jimi Hendrix

4. 建立合作——人与人之间的相互依存，而不是对算法的依赖。一个由人工智能统治的反乌托邦，是在人类独自面对一块屏幕时才茁壮起来的。当决策建立在社群、对话、共享的判断和信任之上时，它就被中和掉了。

信任不是一件伦理上的装饰品。它是那套阻止技术变成人之替代品的架构。因为，如果你带着整个部落一起走，你会走得更远。

5. 从想象力和使命感出发，实践一种激进的可能主义。这不是要天真地乐观。是要认真地做一个可能主义者。想象另外一些未来不是逃避：那是责任。因为数字的未来不会自动继承下来。它要被设计、被争夺、被建造。

「我不是乐观主义者。我是一个非常认真的可能主义者」-.Hans Rosling

1 + 2 + 3 + 4 +5 = 构建信任。这五个想法汇聚成一个简单的直觉：人工智能之所以会统治我们，不只是因为它的强大，更是因为我们在注意力、停顿、智慧、联结和想象力上的退位。

把这五种实践找回来——不是当作私人美德，而是当作公民基础设施——是中和反乌托邦的一种具体办法。比起机器，我们更需要人性。

注：[本文标注为「Human led」。由人类主导的内容。机器负责检查、标出并纠正错误、提升产出质量。该方案基于 Dubai Future Foundation 的「Human-Machine Collaboration (HMC) Icons」。Dubai Future Foundation，dubaifuture.ae/hmc]

www.bernardocrespo.com/#aboutme

Bernardo Crespo 是一位资深的数字化转型与数据战略领导者，拥有超过 25 年的经验。他曾在《财富》500 强企业和数字咨询公司担任领导职务，也创办过众多初创企业与创业工场，并为它们提供顾问服务。目前，作为自己公司 Quantum Markethink 的 CEO，他为最高管理层提供战略指导，帮助他们驾驭数字化转型的复杂局面。

此外，他还担任 IE 高管教育（IE Executive Education）的学术主任，把他在新兴技术、数字战略、数据战略和人工智能方面的专长带进课堂。在此之前，他在 Merkle 西班牙主导数字化转型项目，并在 BBVA 领导数字营销，其中尤为突出的是，他率先把游戏化应用到了银行业。

Bernardo 还与 Gam Dias 合著了《The Data Mindset Playbook: A Book about Data for People Who Don't Feel Like Reading about Data》（KDP，2023 年 3 月）。