如果你将大脑增大到一间工厂那么大，然后漫步其中，你不可能会找到意识。
——G·W·莱布尼兹
一个人可以不断地想起爱情？这就像是设法鼓起地窖中的玫瑰花香。你可以看到玫瑰花，但你永远也闻不到花香。
——亚瑟·米勒8
当一个人开始最简单地尝试思考哲学问题时，他往往会被这样一些问题困扰：当人明白某件事情时，他是否意识到自己已经明白？还有，当人对自身进行思考时，他想了些什么，是什么在进行思考。人在被这些问题困扰和折磨了很久之后就学会了不去深究：意识存在的概念完全不同于无意识对象。在说意识存在知道某件事情时，我们不只说他知道了某事，还说他知道他知道某事，还说他知道他知道他知道某事，如此往复，与我们对这个问题的关心一样长：我们认识到，它的长度无穷无尽，但它并不是在坏的意义上无尽的退化，因为相较于这个答案，这个无尽问题是没有意义的。
——J·R·卢卡斯，牛津大学哲学家，出自他1961年的文章/"Minds,Machines,and Gödel/"9
当我们做梦时，它们很真实，但我们能说比生活更真实吗？
——海威洛克
未来的机器将具有情感和精神体验的能力吗？我们已经讨论了非生物智能几种方案，用来全方位地展示生物人显现出来的情感丰富的行为。第一种情况是，到21世纪20年代后期，我们完成了人脑的逆向工程，那将使我们开发出可以匹敌甚至超越人类的复杂与灵活的非生物系统，包括我们的情绪智力。
第二种情况是，我们可以将一个真实人类的部分上传到一个合适的非生物的可以思考的培养基中。第三种情况是，也是最引人注目的，方案涉及逐渐的但不可阻挡的进程，从而使人类自身从生物过渡到非生物。这已经从设备的良性引入开始，如用于改善残疾和疾病的神经植入。它与血液中纳米机器人的引入一起进步。纳米机器人的开发一开始将会用于医疗和抗老化应用。然后，更复杂的纳米机器人将与我们的生物神经元交互，以增强我们的感官，从神经系统内部提供虚拟与增强的现实，它们可以帮助我们记忆，也可以提供其他常规的认知任务。随后，我们将成为机器人，从我们大脑的立足点出发，我们智能的非生物部分将以指数级扩大其能力。正如我在第2和第3章讨论的，我们看到信息技术的每一个方面都在以指数级增长，包括价性比、容量、采用率。由于每一bit信息计算和通信所需的质量和能量都非常小（见第3章），这些趋势将能继续下去，直到我们的非生物智能大大超越生物部分。由于我们生物智能的能力基本上是固定的（除了一些相对温和的生物优化技术），非生物部分将最终占主导地位。在21世纪40年代，当非生物部分有数十亿倍的能力时，我们还会坚持将我们的意识与我们智能的生物部分相联系吗？
显然，非生物实体会声称有情绪和精神体验，正如我们今天所做的。他们、我们会声称是人类，并且有人类声称的完全范围的情绪和精神体验。而这些将不会是无根据的声明，他们将证明丰富、复杂、微妙的行为与这种感觉相关联。
但如何将这些引人注目的声明和行为与非生物人的主观体验相联系呢？我们继续回到非常真实，但最终无法计量（用完全客观的方法）的意识问题上。人们经常谈论的意识就好像有一个实体清晰的属性，可以对其很容易地认识、发现和测量。意识问题为什么如此容易引起争议，如果我们可以对它做出决定性的领悟，那就是：
不存在可以最终确定它的存在的客观的测试。
科学是客观的测量及其逻辑的关联，但客观的本质是，你无法测量主观的感受，你只能测量它的关联性，如行为（我说的行为包括内部行为，也就是说，实体中元件的动作，比如神经元，以及它们的许多部件）。这一限制与“客观”和“主观”概念的本质有关。若采用直接客观的方法，我们根本无法看穿另一个实体的主观体验。我们能够对它产生争论，如，“观察非生物实体大脑的内部，看它的秩序多像一个人大脑里的”，或者，“看，它的行为多像人类的行为”。但最后，这些仍然只是争论。不管非生物人的行为如何有说服力，一些观察家仍将拒绝接受这样一个实体的意识，除非它喷出神经递质，是基于DNA引导蛋白质的合成，或有某些生物人特有的属性。
我们假设其他人是有意识的，但这只是一个假设。人们对非人类实体的意识如高级动物没有统一的意见。思考一下关于动物权利的争论，它将所有事情都与动物是否有意识或只是由“本能”操作的准机器。未来非生物实体展现出来的行为与智能比那些动物更加像人，到那时，在这一问题上将更加有争议性。
事实上，这些未来的机器甚至比今天的人类更加像人。如果这看起来像一个似是而非的陈述，那么请思考一下，今天很多人类思想都是自私而且是派生的。我们惊叹于爱因斯坦从一个思想实验中想象出普遍相对论的能力，或者贝多芬在听不到声音的情况下想象出交响乐的能力。但这些最优秀的人类思想是罕见的，稍纵即逝。（幸好我们对这些稍纵即逝的时刻有记录，这反映了我们与其他动物的区别。）我们未来主要的非生物自我将会更加智能，因此，将会把这些人类思想中的出色能力以更杰出的程度展现出来。
那么我们将如何来对待由非生物智能主张的意识呢？从现实的角度来看，这类主张会被接受。一方面，“它们”会是我们，所以在生物与非生物智能之间不会有任何明确的区分。另一方面，这些非生物实体将非常聪明，所以他们就可以说服他们意识到的其他人（生物、非生物，或介于两者之间）。他们将拥有所有微妙的情感暗示，这种情感暗示说服我们的今天人类他们是有意识的。他们将能够使其他人欢笑和哭泣。如果别人不接受他们的主张，他们会很生气。但是，这基本上是政治和心理的预测，而不是哲学争论。
一些人还在坚持主观体验或者不存在，或者是一个可以忽略的无关紧要的特征。我不同意这些人的观点。谁或什么是意识或者他人主观体验的本质，这个问题对我们的伦理、道德、法律等概念是十分重要的。我们的法律制度主要基于意识的概念，它对造成一个（有意识的）人痛苦的行为，特别是意识体验的剧烈形式，或者结束一个人的意识体验的行为，给予特别认真的关注。
人类关于使动物遭受痛苦的能力的矛盾心理也反映在立法上。我们有反对虐待动物的法律，特别强调规定了更加智能的动物，如灵长类动物（尽管我们关于大型动物在工厂、农场遭受的痛苦方面存在很明显的盲点，但这是另一论文的主题）。
我的意思是，我们不能把意识问题作为一个礼貌的哲学问题而摒除。它是社会中法律和道德基础的核心。当机器——非生物智能可以令人信服地为它自己辩论，它/他/她的感情需要得到尊重，这种争论将会改变。当它可以用幽默感做这些时——这对使他人信服十分重要，它可能会赢得辩论。
我期望法律制度中的那种实际的改变最初来自诉讼，而不是立法，因为诉讼往往会引起这种转变。例如，马丁·罗斯布雷特律师是Mahon,Patusky,Rothblatt＆Fisher的股东，他在2003年9月16日提出了一个模拟议案，用于防止一个公司从有意识的电脑中脱离。在国际律师协会会议上，该议案主张模拟生物数字准则的审判10。
我们可以衡量的主观体验的某些相关因素（例如，客观可测量神经活力的特定部分，与某种主观体验的客观需证实的部分联系在一起，如听到声音）。但是，我们不能把客观的量度深入到主观体验的核心。正如我在第1章中提到的，我们正在处理第三人的“客观”体验（这是科学的基础）与第一人的“主观”体验（这是一个意识的代名词）之间的差异。
想想看，我们无法真切地感受到他人的主观体验。2029年的体验束技术将会使一个人的大脑可以感受到他人的感知体验（情感与体验等其他方面在精神方面的某些潜在联系）。但是，作为一个人经历过得愉快体验，这仍然不能传递相同的内部体验，因为他或她的大脑是不同的。我们每天听到别人的经验报告，我们甚至可能感到同情，以回应他们内部状态导致的行为。但是由于我们只接触到别人的行为，我们只能想象自己的主观经验。因为它可能构建一个完全一致的、科学的世界观，省略了意识的存在，一些观察家得出的结论是，这只是一种幻想。
杰罗恩·拉尼尔是虚拟现实的先驱，他反对那些主张主观体验不存在或者因为它是外围或次要的影响，所以不重要的观点（引自他在《One Halfa Manifesto》中所谓的“控制完全主义”提出的六个反对的第三个）。11正如我曾指出的，我们假定没有任何设备或系统可以明确直接地与实体发生主观（意识体验）关联。任何此类设备将包含一种哲学假设。虽然我不同意拉尼尔大部分的意见（见第9章），但是在这个问题上我同意他的观点，我甚至可以想象（心领神会）到，他在面对“控制完全主义”时和我一样的无奈（并不是说我同意这样表述）。12就像拉尼尔一样，我甚至接受了那些主张不存在主观体验的人的主观体验。
正是因为我们不能通过客观的测量和分析（科学）来完全地解决意识问题，所以哲学起到了决定性的作用。如果我们完全想象出一个没有主观体验的世界（只有旋转的物质，没有有意识的实体来体验它），那么这个世界也许就不存在了。在一些宗教思想的某些流派的传统哲学中就可以看出人们是怎样看待这个世界的。
雷：我们可以讨论什么样的实体是有意识的或可能有意识的。我们也可以讨论意识是突然产生的，还是由某些特殊的生理上的或其他的机制产生的。但是关于意识还有另一种说法，这也许是最重要的一种。
莫利2004：好的，我洗耳恭听。
雷：嗯，我们假定所有看起来有意识的人事实上是有意识的，为什么我的意识要和这个特别的人（我）相关联呢？为什么我会意识到这个特别的人，他童年时读过小汤姆·斯威夫特的书，搞过某些发明，写过关于未来的书，等等。每天早晨醒来，我都会有这个特定的人的体验，为什么我不是艾拉妮丝·莫莉塞特或其他的人？
西格蒙德·弗洛伊德：嗯，你想要成为Alanis Morissette？
雷：那是个很有意思的提议，但那不是我要说的重点。
莫利2004：你要说什么，我不明白。
雷：为什么我会意识到这个特别的人的体验和决定？
莫利2004：因为那就是你啊。
西格蒙德：看起来你不喜欢你身上的某些东西，再多说一点儿。
莫利2004：以前，雷也不喜欢当人。
雷：我没说我不喜欢当人，我说我不喜欢在人体1.0中的这些限制、问题，以及高强度的维护。但是这跟我这里要说的没有任何关系。
查尔斯·达尔文：你质疑你为什么是你？这只是语义重复，没有太多需要质疑的地方。
雷：就像许多尝试解答关于意识的问题一样，这个问题听起来毫无意义。但是如果你问我，我在质疑什么，那就是，为什么我会持续地意识到这个特别的人的体会和感觉，至于其他人的意识，我只能接受它，但我没有体验过其他人的体验，至少不是直接的。
西格蒙德：好的，我现在明白你的意思了。你没有体验过其他人的体验，你曾经与某人谈论过共鸣吗？
雷：听着，我在以一种非常个人的方式来谈论意识。
西格蒙德：很好，继续说。
雷：事实上，这个例子很好地说明了当人们谈论意识时会发生什么。讨论无可避免地会转移到其他的话题，比如哲学、行为、智能或者神经。但是我真正质疑的是，为什么我是那个特别的人。
查尔斯：你知道是你自己创造了你自己。
雷：是的。就像我们的大脑创造了思想，思想又反过来创造了大脑。
查尔斯：因此你自己创造了你自己，可以说，那就是为什么你是你。
莫利2104：我们会在2104年直接体验到这一切。若成为非生物的，我可以非常容易地改变我是谁。就像我们先前讨论过的，如果我愿意的话，我可以把我的思维模式和其他人的思维模式合并起来，成为一种混合的个性。这会是一种深刻的体验。
莫利2004：哦，未来的莫利小姐。我们在2004也这样做过，我们把它叫做相爱。