说起人们太相信比特时，最糟的借口就是AI。我整理了本书出版时期内的AI话题如下。我和我的朋友曾就此展开过多次论辩。
在人们还把AI当成一种宗教（但其实是已经跨过的门槛）进行讨论时，我曾嘲笑过AI。现在AI成了一种敏感的信仰，相信它的人希望AI能带来不朽，联合分离的部分，或者自动解决人类所有的问题，用无限的智慧统治我们所有人。见证宗教的诞生真是一种神奇的体验。[8]
因为我见证了AI的诞生，在我眼里，AI起初是老式的、单纯的、没什么思考的实验，后来变成了获得融资的有效故事，最终爆发成为古怪的信仰体系，使得它本身的进步都显得不再那么有用。[9]同时，鉴于目前人们对AI的真实信仰，我必须把讨论姿态转换为自由和宽容模式。
宗教宽容必须是双向的。我认为除了人们解读的内容，比特没有任何意义。我希望至少能够有自由基于这个前提探索未来社会。但有些AI信徒已经变成狂热分子，甚至认为其他观点不可以存在，宽容根本都不在讨论范围内。
回到1990年左右的小湘菜馆。
一个硬件工程师一边吃饺子一边说：“好吧，拉尼尔，在AI问题上，我同意你的看法。我被AI吓坏了。我做噩梦梦到计算机突然进化了，只吃人类，直接除掉了我们。我不相信他们会喜欢我们或者把我们当成宠物。”[10]
“天啊，你并不同意我的看法。害怕AI比喜欢AI更糟糕。如果你害怕AI，说明你最相信AI。如果你让人害怕魔鬼，这不仅是在宣扬宗教信仰，可能还是在促进宗教的偏狭专断。人们害怕时就会变得偏执。”
“恶魔不是真的，但是计算机是真的。”
“如果AI只是我们在设置好的比特中看到的幻象呢？如果这是一种避免人类承担责任的方法呢？”
“这个问题已经争论了几十年。当人和AI难以区分时，AI就是真的。图灵测试就是这样。”
另一个大胡子黑客刚才一直在吃面条，现在他开口说：“他已经有了答案。”
“对。你认为人们会停留在原地等着AI赶上我们，然后超过我们。但是，如果人们是动态的，甚至比计算机更快呢？如果你在计算机之前改变了自己呢？如果你让自己愚蠢只是为了让计算机看起来很聪明呢？”
“这永远不会发生。”
现在我必须用最近的故事来捍卫自己之前的观点。这已经发生了！现在，计算运作着我们的生活，我们一直让自己愚蠢，而让计算机看起来很聪明。
想想奈飞（Netflix）。
奈飞声称它的智能算法可以了解你，为你推荐电影。奈飞还提供了100万美元的奖金，奖励能让算法更聪明的点子。
奈飞算法的问题在于它无法提供完整的目录，尤其是最近热门电影的目录。如果你想到某个特定的电影，可能它无法在网上播放。推荐引擎类似于魔术师的误导，它分散你的注意力，让你注意不到并非所有电影都可以看到这一事实。
智能算法也是如此。人们是不是让自己显得盲目愚蠢，让算法看起来非常聪明？奈飞的做法令人钦佩，因为奈飞就是要带给你戏剧性的幻想。做得好！
（顺便说一下，过去几十年，人们自以为是地恶意攻击版权，要求制作者“免费”自愿提供艺术和娱乐，可现在奈飞和HBO等公司让人们为好的电视节目付费时，你看看发生了什么？我们正处于所谓的“电视巅峰”复兴。）
与奈飞算法类似的误导行为为你带来了朋友、恋人、花销和不安全的经济诈骗。网络上似乎有太多的选择，我们无法自己挑选。生命短暂，所以你放弃了质疑，转而相信这些算法，一个傻瓜诞生了。
一位看起来甜美又悲观的数学家慢慢喝着馄饨汤，说道：“拉尼尔，你把VR当成了AI的对立面。但它们不会融合吗？我的意思是，想想摩尔定律，我们应该可以算出在哪一年VR性爱会比真实性爱更棒。算法会了解你，自动为你设计最终的伴侣。我做了些初步计算，我认为那可能就会发生在2025年。”
这个想法已经被称为“性奇点”[11]。你可以花一整天的时间去了解它。也许我可以把这个留作读者练习？在这里，我只引用几句我的典型回应：
“你是在倒过来想。这不是算法可以为你做什么，而是你是否可以拓展自己的想法。一天结束后，这就是计算机可以帮我们做的。为什么不把性爱看作你可以提升自己的事情？你不仅要和别人接触，你还会活着、成长、变化，而不是与算法陷入循环中。如果设备为你计算出了完美的性爱体验，那么真正发生的是，你在斯金纳箱中接受了完美训练。不要做小白鼠。”
人们告诉我AI算法有一天将可以谱出理想的音乐、写出理想的书籍或导演出理想的电影时，我的答案是相似的。前提从一开始就颠倒了。
“但是如果人们喜欢呢？你现在那么高傲，但是如果有人喜欢自动设计的虚拟情人，以及由算法专门为他们创建的完美书籍和音乐呢？你是在挑剔，我们都有权拥有自己的审美。”
“我们都想成为优秀的工程师，对吧？我的意思是，当我们把机器当成人时，我们就把让我们成为优秀工程师的反馈回路颠倒了。”
“你把简单的问题复杂化了。”
“不，想一想。当你让一个人信任人格，相信另一个人真的是人时，就会产生尊重。你不能重新设计人，那是法西斯主义。你要让人们自己发明自己，即使他们很烦人。他们确实经常是这样，但那就是我们爱人性的原因，对吧？开放的不可预测性、多样性。如果你决定把计算机当成人，你给了计算机同样的尊敬。这意味着你失去了计算机设计决策的基础。你无法让他们变得更好。”
“也许我们需要避免过于敏感，接受我们需要重新设计人的观点。”
“天啊，不。”
“我不明白，如果你不同意需要重新设计人类，那么怎样建立心智界。至少要有点儿！”
“我不觉得必须尽快地建立心智界。《星际迷航》的基本原则有错吗？[12]不要自上而下的设计者，让文明自行出现，然后才有深度和多样性。急什么？”
“听起来我们像是决定如何处理地球事务的高级外星人。”有人低声赞同。也许那就是我们当时的身份。
一个瘦得像铁轨一样的小伙子正在挑鱼里面的小骨头，他觉得该把话题转回来：“你说AI不是真实的，唯一依据就是它现在还不是真实的。等它实现后，就会有大量的证据。”
大胡子一边吃着面条，一边说：“小心，拉尼尔的‘过早的神秘减退’要抨击你了。”
“我想那个观点已经折磨过你很多次了。我们是否可以同意，所有人都可能对事情的发展感到惊讶，我们都不应该如此确定自己知道未来会发生什么？”
“这是不证自明的。摩尔定律告诉我们，计算机未来会比现在厉害数百万倍，之后会再进化，再进化。它们会超越我们的大脑。它们将享有权利，要求权利。”
“那我只能再次用我的移情圈理论来回应你。如果你的移情圈过大，就会变得无力，这不会帮助任何人。当你开始支持这些完美的小生命，也就是我说的“特殊代理人”时，你就会变得可笑，就像有的人会因为不想杀死细菌而不再刷牙。”
在座的人不自在地喃喃低语。
“你拿这一点举例，不太公允。我认为你真正不喜欢的是，你将因为虚拟生命支持而被起诉。”（我们会在下一章中看到这个故事。）
“我希望你们至少想想，我们该如何向世界上的非技术人员解释。如果你听到巫师说他们会创造出更高级的生命，守旧的人会被淘汰或者成为宠物或者其他的什么，你会怎么想？你不觉得这会让他们不信任现代世界吗？他们不会恨我们吗？他们不会成为骗子的目标，转而相信科学不是他们的朋友吗？我们要为非技术人员服务，这难道不是我们工作的全部意义吗？”
当你读到机器人值得同情的评论文章时，请记住以下观点：科技作家有个坏习惯，他们善于表述一些在特定时刻服务于大科技公司利益的“大想法”。谷歌通过侵犯版权迅速获得前所未有的财富时，曾有很多文章批判版权多么罪恶。同样，Facebook首次将个人数字身份变为商品并进行垄断时，有大量的“激进”文章赞扬隐私终结和集体性价值。[13]
“那么，如果巨型机器人或超智能纳米粒子群决定没必要留下你，你的想法也不重要。你会被消灭，你也无法继续讨论它们是否真实。”
“你现在惹着我了，还记得生存研究实验室中，那只操作带喷火器坦克的豚鼠吗？动物知不知道自己在做什么并不重要。为了看表演，你需要签合同，承诺不起诉把豚鼠放在驾驶座上的人，而不是不起诉豚鼠。”
发现摧毁人类的邪恶AI机器，与发现科技人员和军队无能为力，二者唯一的区别在于第二种解释可以被起诉。
你每次相信AI，你就会不那么相信人的力量和价值。你正在消解自己和其他人。
第46个VR定义：VR = -AI（VR是AI的对立面）。[14]
我知道这会怎样被解读。VR的推崇者说VR是实现数字信息的最好方法。他反对AI，反对社交媒体，还反对万维网！他是想告诉我们他做的才是最好的吗？谁不这样说呢？
我也只是人，不能说自己没有偏见。
我的观点是，VR是实现数字技术最清晰的方法，其原因类似于专业魔术师也是最好的魔术解密者。从霍迪尼到佩恩和特勒，再到神奇的兰迪，魔术师非常善于看穿和拆穿把戏。同样，《流言终结者》（MythBusters）也是电影特效专家。以创造幻想为职业的人都了解幻想。
VR科学家是科学的幻术师。我们告诉你我们在骗你时，说的是真话，我们指出我们不是唯一的骗子时，你应该认真考虑一下。
第47个VR定义：一种全面幻觉的科学。