一个由人工智能创造的生成式世界，既让人怀抱希望，也让人心生恐惧

让我来聊聊我认为 AGI（通用人工智能）最非凡的价值（以及最大的危险）。简单来说，这个想法在于它通过语言生成现实的能力。

（本文内容由人类撰写。人工智能参与了其中一部分翻译工作。头图 100% 由人类创作。）

假设 #1 —— 人类是靠语言存在的

我们人类是靠语言存在的。我们用语言创造现实：

• 「我宣布你们结为夫妻。」
• 「本庭在此判定，你被指控的全部罪名成立……」
• 「我奉父、子、圣灵的名给你施洗。」
• 「Inventas vitam iuvat excoluisse per artes」……「今年的诺贝尔经济学奖授予……」

我们的信仰、我们的法律与契约框架、我们的货币、我们共同生活的公民规则，从金融体系到肯定与认可，一切都建立在语言构建之上。我们人类是以语言为基础来创造制度和稳定的。甚至连我们的创新方法、我们构想新现实的方式，也都是从语言开始的：

How Might We（我们该如何……）<插入一个极其宏大、出发点良善又大胆的目标>，借助 <一条非常乐观但过于宽泛模糊的路径>？

因此，我们所是、所经历、所行为、所借以社交的一切，都建立在语言构建之上。我们通过语言生成现实。我们是活在语言里的人。

「语言非常强大。语言不只是描述现实，语言创造它所描述的那个现实。」 ——德斯蒙德·图图

假设 #2 —— 人工智能生成的内容已经超过人类生成的内容（就过去这十年而言）

如今 AGI 有能力创造一切：从代码到图像和视频，甚至是书面或口头的自然语言，而没有任何一个人分得清它到底是人做的还是机器做的（图灵测试的终结）。

人工智能如今已经能骗过 IVR 语音客服系统，解锁银行服务。不只是银行，连亲人也一样会被骗过。

就连 Google 也早在 2023年2月就决定，从此以后按内容质量来优化自己的搜索引擎，不再沿用以往那套把人类生成内容排在非人类生成内容之前的做法。Google 已经放弃去区分人类生成的内容和人工智能生成的内容。

今天的现实（尤其是 2022年11月30日之后的现实）已经混杂着人工智能生成的内容，无论是文字、语音、图像还是视频。也许只剩下味觉和嗅觉还是人类的地盘，但也撑不了多久。不过那是另一个话题了。事实上，我们此刻正在读、正在看、正在听的内容里，很大一部分很可能出自人工智能的预训练模型，而驱动它们的，是人类用自然语言写下的提示词。

如果我把 The Atlantic 的这个标题分享给你：「欢迎来到小物联网：61.5% 的网络流量不是人类」，你恐怕根本不会相信这篇文章是十年前写的。但它确实是。想想 2022年11月之后的现实吧，那时 ChatGPT 开放了免费而大规模的访问。紧接着，其他人也都加入了这场全新的、全民人工智能生成的派对。

「计算机是没用的。它们只会给你答案。」 ——巴勃罗·毕加索

在这个全新的「增强智能」现实里，可能衍生出什么

把假设一和假设二结合起来会带来什么后果？这段又长又绕的推演，我就替你省了。你们当中有些人可能会觉得，这些根本不是假设，而是事实。我更愿意直奔主题，提几个简单的问题：

• 由人类提示人工智能来设计竞选纲领和政治宣言的政党，离我们还有多远？
• 由人工智能撰写的司法判决——依据是人工智能调取全球最大的历史判例数据库所做的大量检索——离我们还有多远？
• 人类为人工智能共同创作的研究与论文颁奖，离我们还有多远？
• 老师布置论文、由人工智能写成、再由学生交上来，离我们还有多远？
• 用人类提示人工智能工具所制定出来的规范和标准来治理这个世界，离我们还有多远？
• 把我们过去赋予人类智者的权威，转交给建立在人工智能之上的那些工具，离我们还有多远？

也许我们得承认，叙事不该再是「人类对机器」，而是被机器增强的人类智能，反过来也一样。如果我们正在大规模地进入 AI 的时代（这里的 AI 是增强智能 Augmented Intelligence，而不是人工智能），那么，要过渡到这个新现实，必要的步骤是什么？在这个新现实里，人类会用问题把那些出人意料、彼此无关的智慧领域连接起来，机器会替人类找出答案，然后，仍然由人类来决定未来的走向。

下面是一份用来避免不理想未来的宣言草案，一份负责任人工智能宣言：

1. 让人类监督人工智能的产出（无论是问题还是答案），并最终为算法的产出负责。
2. 不要让人类去和 AGI 竞争。
3. 当深度计算分析是找到解决方案的关键时，让 AGI 去做人类的工作。永远回到第 1 点。
4. 强制人类（企业）对喂给生成式人工智能的数据保持透明。换句话说，语料数据透明。
5. 强制使用 AGI 的人去质疑结果，并从相反的视角和框架去思考、去推理。强制人工智能保持批判性，以丰富我们这种有限而且带着认知偏见的思考。
6. 禁止人类利用 AGI 制造假新闻、散布虚假信息。对以散布虚假信息为目的使用 AGI 的行为设定界限（国际性的惩戒罚款）。
7. 禁止人类把人工智能用于战争目的。在任何情况下都不允许人工智能杀死人类。
8. 强制人类为人工智能生成的内容承担责任，并把任何人工智能生成的内容都如实标注出来。对那些试图隐瞒内容是借助 AGI 创作的人，我们要处罚、要罚款。
9. 让人类（企业）依据最终导出某个结果的原始数据来源和人类反馈，去为算法的结果打分。如果可解释性和性能之间的取舍无解，那就换一条路，用别的方式把可理解性补回来（也许给出来源，也许给出推理过程）。永远回到第 1 点。
10. 让人类的多样性在所有喂给算法的数据来源中都得到公平的呈现。

我们第一次可以毫不费力地增强人类智能，并改变历史的走向。只需要提示一台机器去重写历史。如果历史是由被压迫者（原住民）而不是由压迫者（殖民者）讲述的，它会是什么样子。我们第一次可以不费多大力气就基于更公平的前提展开复杂的推理：在守护这颗星球的视角之下、为着守护这颗星球的目的，量子计算最好的应用是什么？该如何监管人工智能，才能避免人工智能与人类竞争，并强制任何算法解决方案永远处在人类的监督之下？

「提问的能力是人类一切进步的基础。」 ——英迪拉·甘地

这些问题里有一部分，正是一个更值得期待的未来的基础，而现在我们可以毫不费力地提出它们。被迫 7×24 小时工作的时候，人工智能不会组建工会，也不会罢工。我们唯一该操心的，是使用 AGI 所产生的碳足迹、平等获取 AGI 的社会影响，以及对 AGI 使用方式的治理。这可不是小事。但我们现在多出了一点闲暇。在这段时间里，我们人类可以把时间花在思考更好的办法上：怎么拯救这颗星球，怎么为后代造就一种更可持续的走向。归根结底，决定我们的存在被保全还是被摧毁的，是我们意图的质量。难道不一直都是这样吗？

作为例证，我做了下面这张表，用来逼迫 GPT-4 直面 Center for AI Safety 于 2023年5月30日发布的八个人工智能风险案例，并用富有创造性的提示词让它提前找出解决办法。

一切都取决于我们意图的质量。别去怪罪那个推手。

来源：Bernardo Crespo 自行整理，基于本人在 GPT-4 上的提示词，取材自 Center for AI Safety 的「8 Examples
of AI Risk」（2023年6月）

数据和技术只不过是变革的推手。我们，也就是人，才应该去引领那场变革。

也许我们该从汇集人类的智慧开始：定下那颗北极星，铸造我们对未来的愿景：

金句 #1 「计算机是没用的。它们只会给你答案。」 ——巴勃罗·毕加索

金句 #2 「提问的能力是人类一切进步的基础。」 ——英迪拉·甘地

金句 #3 「语言非常强大。语言不只是描述现实，语言创造它所描述的那个现实。」——德斯蒙德·图图

来源：

• How Might We……？| https://medium.com/innovateforward/how-might-we-dceef75bb26c
• 人工智能与人类的未来，Yuval Noah Harari，2023年5月 | https://youtu.be/LWiM-LuRe6w
• Google 搜索关于人工智能生成内容的指引，2023年2月 | https://developers.google.com/search/blog/2023/02/google-search-and-ai-content
• 欢迎来到小物联网：61.5% 的网络流量不是人类 | The Atlantic，2013年12月 | https://www.theatlantic.com/technology/archive/2013/12/welcome-to-the-internet-of-thingies-615-of-web-traffic-is-not-human/282309/
• CAIS（Center for AI Safety）总结的 8 个人工智能风险案例 | https://www.safe.ai/ai-risk