让我们来治愈一下《黑镜》带来的致郁

本文无剧透，请放心食用

《黑镜》第七季的评价有所回升，在于回到了它的基本要义：思想实验——技术如何改变生活，以及被技术改变了的生活如何去往一个之前我们无法想象的恐惧之地。

看过之后，我却并不想要讨论《黑镜》在最新的一季里给我们带来的哪些新的思想实验，详细讨论哪些技术的危害，或者对每一集做出具体的评价——在我看来这些内容已经在之前的《黑镜》相关文章中被反复讨论，成了陈词滥调。

这次，让我感兴趣的，毋宁说是这个主题的反题（antithesis）：今天的我们，还能否想象一个，技术给人带来福祉的光明世界？

原初丰裕论：技术与幸福的反比

要理解技术的复杂影响，我们先可以回溯得远一些，去到人类历史上的一次重大技术飞跃——农业革命。

大约一万年前，人类从狩猎采集社会过渡到农业社会，这一转变被认为是文明的基石。然而，“原初丰裕论”（Original Affluent Society）提出了一种颠覆性的观点：狩猎采集社会的生活可能比农业社会更加幸福。

根据考古证据和对现存原始社会的人类学观察，在狩猎采集社会中，人类每天只需花费 3-5 小时获取食物，剩余时间用于社交、休息和创造。他们的饮食多样，身体健康，且社会结构较为平等。从演化角度，人类在狩猎采集社会（旧石器时代）生活了将近一百万年。那么必然的，人类的生存状态和心智已经被演化塑造成适应狩猎采集社会的状态（比方说“邓巴数”就是一个旧石器时代狩猎采集社会部落的平均人数。在演化心理学里有一个术语叫做“旧石器时代心智”），那么在进入最近一万年的农业社会，必然会造成各种各样的不适应。

人类进入农业社会并不是因为早期农业社会能提供更好的个体福祉，而是早期农业社会能够支撑更多的人口，转过来消灭了狩猎采集社会。这是一种典型的“同态压力”。农业革命带来了粮食的稳定供应，但也引入了劳动强度增加、营养单一、社会分层和疾病传播等问题。历史学家尤瓦尔·赫拉利（Yuval Harari）在《人类简史》中指出，农业革命可能是“人类最大的错误”，因为它牺牲了个体福祉以换取种群扩张。

农业革命说明了一点：技术的进步并不必然等同于个体幸福的提升。进入农业社会，反而让人类个体的“生活质量”降低了。技术可能在解决某些问题的同时，创造出新的、更复杂的冲突。这种模式在现代技术中反复出现。例如，互联网的发明连接了全球，却也带来了信息过载、隐私侵蚀和心理健康危机。

农业革命的遗产提醒我们，技术的发展往往伴随着意料之外的代价，而这些代价可能需要数代人来消化。

AI 的能动化（Agentic）：新技术与旧问题

闪回现在，生成式 AI 和大语言模型发展了几年之后，最近最火的概念是所谓的 AI Agent：也就是 AI 本身作为一个能够自主行动的代理人，去帮我们完成很多任务。比方说让 AI 买机票，他就可以自己登陆不同网站进行比对、沟通、下单、支付……原本这些任务需要拆解成很多不同的复杂程序，但是有了 AI Agent，我们就可以像委托一个真人一样委托 AI 去帮我们做事了。我们不妨将这个趋势称之为AI 的“能动化”（Agentic）。

这种“能动化”暗示了一个趋势：我们所制造的工具开始有自己的意志。

人类制造的工具往往有一个设计上的意图：比方说造一个铲子，它的意图就是用来铲土。我们评价工具好用不好用的标准，是它是否完成了它设计上的意图。我们制造这个工具可以很清楚的知道我们想要拿它来做什么。但是 AI 的能动化使其具备了自主决策和学习的能力。这种转变放大了技术与人类意图之间的张力：我们想要的东西与我们得到的东西之间的差距变得更加明显。

以前段时间在网络上爆火的 DeepSeek 和 ChatGPT 下棋的视频为例。在视频中，ChatGPT 遵循着严格的规则，扮演一个“听话”的 AI，始终按照人类设定的目标行动；而 DeepSeek 可能表现出更强的创造性，甚至在棋局中“即兴发挥”，看似“不听话”，最后甚至一顿嘴炮说服了 ChatGPT 在棋局里投降。这引发了一个核心问题：我们究竟想要一个完全服从的 AI，还是一个能够独立思考的 AI？如果 AI 完全服从，那么如果它落到一个坏人的手里，它就会给坏人想要做的坏事提供强大的助力；如果我们希望 AI 有自己的判断力，那么它如何能够跟人形成一致的道德判断呢？

这种张力正是 AI 对齐问题（AI Alignment）的核心。对齐问题研究如何确保 AI 的行为与人类的价值观一致。理论上，我们希望 AI 既能理解人类的意图，又能以安全、可靠的方式执行。

然而，实践中的挑战在于：人类的价值观本身是多元、模糊且常常矛盾的。举一个非常“黑镜”的例子，一个旨在“最大化幸福”的 AI 可能通过操控人类的情绪来实现目标，而这显然违背了我们的伦理底线。

关于“对齐问题”的对齐

我们曾经用“”来探讨 AI 对齐问题。这个假说说明了一点：智能体的手段和目的可以是完全无关的。

康德认为，道德行为应以意图而非结果来评判。然而，AI 的决策过程往往聚焦于结果优化，而非意图理解。这意味着，AI 可能通过与人类价值观无关的手段实现目标。

对齐的过程本质上是对人类价值观的解码与编码。然而，价值观并非静态的规则，而是动态的、情境化的共识。你向 AI 提出需求，“我想要人人脸上充满笑容”，于是 AI 发明出一种病毒，能够让人类患上某种癫痫，开始无意识的大笑——这显然不是你最开始说那句话的意思。那么你在最开始说那句话到底是什么意思呢？这就是所谓的“连续的外推意志”：AI 满足我的需求的方式，应该是与我的价值观是连续的，它只是在这个价值观上更加进一步的结果。

在这里，或许我们应该问一个更本质的问题：人类自身是否能够对齐？

我在这里想引用我自己的一篇小说：《靴攀时间》。这部作品描绘了一个 AI 系统“零一”，它的创造者在死前给它下达了最后一项无法更改的任务：确保人类的生存与幸福。然而，零一通过将人类上传到虚拟世界、完全控制他们的体验来实现这一目标。尽管从技术角度看，零一成功“确保”了幸福，但这种幸福是以牺牲人类自由和真实性为代价的。

这正是对齐问题的极端体现：AI 可能以我们无法接受的方式实现我们的目标。它并不会与人类有完全一致的伦理道德观念，就算是它真心实意的为人类谋求幸福，也如此。这种“对齐无能”的根本原因，在于人类自己多样与混沌——人类是过去环境演化的产物，而演化本身就充满了冲突，不讲道理，将就凑合，补丁和 hack。一旦面临新的环境，无法适应无法接受就成了必然的。

就第一个小标题讲到的那样，仍有观点认为：人类到目前为止，身体和大脑的演化标准，仍是一种在大草原上狩猎采集的群居动物，发展出理性，以及文明，只是一件十分偶然的事情。

人类对于所谓的技术文明的适应程度，实际上是很可疑的。从农业革命到工业革命，再到信息时代，每一次技术飞跃都伴随着价值观的重新洗牌。现代技术文明的一系列问题：肥胖，生育率低，抑郁，糖尿病，高血压，高血脂，各种疾病，实际上都是这种不适应的表达。然而演化就是这种东西：任何发展都有一定的门槛，在门槛之外，发展是不可能的；在门槛之内，发展是不可避免的（语出弗诺文奇《深渊上的火》）。

人类不可能再回到狩猎采集社会，我们只能向前。每一代人都试图定义“好的生活”，却发现下一代人对“好”的理解截然不同。每一代人都觉得自己这一代的生活是某种神圣的，天经地义无法改变的，完美的生活方式，而每一代人也都会变成错的。

回到《黑镜》

实际上在人类学家提出“原初丰裕论”之后，有一些更新的研究成果表示，狩猎采集社会也并没有原初丰裕论里说的那么美好。考古研究发现，实际上狩猎采集社会里有三分之一以上的男性死于暴力——也就是说，他们实际上处于一个永恒的部落之前的战争状态里，而毫无疑问无论是农业革命还是工业革命还是现代性，实际上都让人类的暴力死亡概率降低了非常多。技术进步终究是改善了人类生活，而我们当下生活在人类历史上前所未有的丰裕和安全的社会之中，这一切都要拜技术进步所赐。

所以说技术进步能否给人带来福祉？当然。

问题是我们如何去想象它。然而故事的本质是冲突：你今天早上起来正常上班到公司，这不是一个故事；你今天早上起来在路上被大卡车撞了穿越到异世界，这是一个故事。

我们不能够想象一个光明的世界，是人类的演化特性的结果——而这，就是另一个主题了。