我们正被推入这个新世纪，没有计划，没有控制，没有刹车……我觉得唯一现实的选择就是放弃：限制我们人类对于某种知识的追求，从而限制那些太过危险的技术的发展。
——比尔·乔伊/"Why the Future Doesnt Need Us/"
环保主义者现在必须牢牢记住，世界已经拥有足够的财富和技术能力，我们不应该追求更多。
——比尔·麦琪本，第一个写到全球变暖的环保主义者1
进步一开始还是正确的，但现在已经失控了。
——奥格登·纳什，1902—1971
在20世纪60年代后期，我变身为一个激进的环保活动家。我和一群乌合之众一起驾驶着一艘陈旧的、有点漏水的比目鱼船，穿过北太平洋，去阻止尼克松总统最新的氢弹实验。在这个过程中，我和别人共同创建了绿色和平组织。当我们在做一些好事时，比如拯救鲸鱼或者清洁水和空气之类的事情时，环保主义者经常持有貌似有道理的理由。但现在我开始后悔建立这个组织。环保主义者反对生物技术特别是反对基因工程的运动。由于对一项能给人类和环境带来如此多益处的技术采取丝毫不能容忍的政策，他们已经脱离科学家、知识分子、国际主义者。媒介和公众最终将不可避免地看到他们立场的错乱。
——帕特里克·摩尔
我们并不希望在网络中看到下面的文章：
让你的敌人铭记：如何用容易得到的材料2来制造你自己的原子弹。
如何在学校的实验室里修改流感病毒以释放蛇的毒液。
对大肠杆菌的10种简单地修改。
如何修改天花病毒以对抗天花疫苗。
使用通过互联网获得的原料来制造你自己的化学武器。
如何通过使用廉价的飞行器、GPS和笔记本电脑来制造一个无人驾驶、自我导航、低空飞行的飞机。
或者如何解决下列问题：
10种重要病原体的基因组。
主要摩天大楼的建筑平面图。
美国核反应堆的布局。
现代社会的100个大弱点。
互联网的10大弱点。
一亿美国人的个人健康信息。
色情网站的顾客名单。
任何人只要发布上述第一项，几乎可以肯定，美国联邦调查局很快就会来造访他。2000年3月，一个名叫纳特·齐格勒的15岁高中生就经历过这样的事情。为了一个学校的科学项目，他建立了一个原子弹的纸模型，结果十分的准确。在随后的媒体风暴中，齐格勒告诉ABC新闻：“你知道，就像某些人提到的那样，你可以上网获取信息，我并不是最早获得这些信息的人。试一试。我上网，点几下鼠标，然后就找到了合适的信息。”3
当然，齐格勒没有拿到核心配料钚，也没有打算得到它，但是这篇报道仍然在媒体界一石惊起千层浪，更别提担心核扩散的政府了。
据报道，齐格勒找到了563个关于原子弹设计的Web页面，报道的结果是这些网站很快被封杀。遗憾的是，试图在互联网上禁止一些信息就像是用扫帚把海水扫退。直到今天，这些网站都还很容易访问。我不会在本书里提供它们的网址，但是它们并不难找到。
虽然上述文章标题是虚构的，但是人们可以从互联网中找到许多关于这些问题4的信息。万维网是一个非凡的研究工具。以我个人的体验，过去需要在图书馆利用半天时间做的研究，现在只需要几分钟甚至更短的时间就可以完成。
这对于促进有益技术的进步具有巨大和明显的好处，但是这同时也为那些反社会的人提供了便利。那么我们生活在危险之中吗？回答显然是肯定的。有多危险？要怎样做才能规避危险？这些是本章的主题。
追溯起来，我密切关注这个问题已经至少几十年了。在20世纪80年代中期，我写《The Age of Intelligent Machines》那本书的时候，我对那时新兴的基因工程表示担忧，因为基因工程可以通过技术的手段使用大量有效的设备修改细菌和病毒性病原体的结构，从而制造新的疾病。5在破坏者或者粗心人的手中，这些改造的病原体可以组合成具有高度传染性、隐蔽性和破坏性的联合体。
在20世纪80年代，这些工作很难实现，但却是可行的。我们现在知道当时的一些国家从事过生化武器的计划。6当时我特意做了一个决定，在我的书里不去讨论这些恐怖之事，因为我不想给那些坏人任何破坏性的想法。我不想在某一天打开收音机时，听到一个灾难，然后犯罪分子说，他们的想法是从雷·库兹韦尔那得到的。
由于这样的决定，我会听到一些合理的批评：这本书只强调未来技术的好处，而忽视了其中的陷阱。1997～1998年，我编写那本书时，我试图对希望和危险 7两方面都做出解释。在那时公众有足够的注意力（比如1995年的电影《Outbreak》描绘了一种新病原体的释放引起的恐惧和惊慌）使我感觉可以向公众陈述这个问题了。
1998年9月，我刚刚完成手稿，就在塔霍湖的一个酒吧偶然遇见了比尔乔伊，这是一位在高技术领域令人尊敬的老同行。虽然我对乔伊在交互Web系统的领军语言（Java）上的开创工作以及创办Sun公司方面仰慕已久，但是在这次简短的聚会中我所关注的不是乔伊，而是在我们房内坐着的第三个人，约翰·塞尔。塞尔是加州大学伯克利分校杰出的哲学家，以保卫人类意识的深层奥秘为终身事业。
我和塞尔在刚刚闭幕的乔治·吉尔德的Telecosm大会上对进化了的机器是否拥有意识这一问题辩论。
这次会议的主题是“精神机器”，对我即将推出的新书中的哲学含义的讨论有很大意义。我给乔伊初稿并试图使他跟上我和塞尔关于意识的讨论。
原来乔伊的兴趣放在了完全不同的问题上，特别是三种新兴的技术：基因、纳米、机器人技术（这就是之前讨论过的GNR）对人类文明即将产生的危险。我对未来技术下降趋势的讨论警醒了乔伊，他后来将此和现在很著名的在线故事《Why the Future Doesnt Need Us》8联系起来。乔伊在文章中指出，他向在科学技术领域的朋友询问我做的工作是否可信，然后沮丧地发现这些功能多么得接近实现。
乔伊的文章完全集中于对下降趋势的描述，这引起了轩然大波。他作为一位技术界领军人物，指出未来技术会产生新的可怕的危险。这让人想起乔治·索罗斯，当这位从事货币套利活动的资本家对无限制的资本主义发表隐晦的批评言论时受到很大的关注。尽管关于乔伊的争议更加激烈。据《纽约时报》报道，大约有上万篇文章对乔伊的文章发表评论或进行讨论，超过历史上任何其他技术问题。我想在塔霍湖的酒吧放松下，所以没有进行这两个长期的辩论，因此我和约翰·塞尔的谈话持续到了今天。
尽管我是乔伊忧虑的起源，但我作为“技术乐观主义者”的声望完好无损。我和乔伊被很多论坛邀请去讨论未来技术的危险和希望。虽然人们期望我负责讨论“希望”部分，但是最终我总是花费大量时间来捍卫乔伊的立场，那就是危险可能发生。
很多人认为乔伊的文章是在倡导放弃技术，这并不是指所有的技术发展，而是指那些有害的技术，比如纳米技术。乔伊现在是一名风险投资家，为硅谷传奇的Kleiner、Perkins、Caufield＆Byers公司服务，这些公司现在正在投资类似纳米技术的技术，用于可再生能源和其他自然资源。他说“广泛放弃”是误解了他的立场，而且这从来也不是他的想法。在最近的私人电子邮件交流中，他说重点应该是“呼吁限制危险技术的发展”（参见本章前面的介绍），而不是完全禁止。例如，他建议禁止自我复制纳米技术，这与先知学会倡导的路线相似。先知学会是纳米技术先驱埃里克·德雷克斯勒与克瑞斯汀·彼得森创建的。总的来说，这是一个合理的指导路线，尽管我认为有两点例外，在接下来的内容中我将讨论到。
另一个例子，乔伊不提倡在互联网上发布病原体的基因序列，我也同意这一点。他希望所有国家的科学家自愿地遵循这些规则，并且他指出：“如果我们一直等到大祸临头之后，我们也许最终会制定更加严格和有伤害性的规则。”他说他希望“我们遵循这些规则，简单却能得到最多好处”。9
其他人，例如环境学家比尔·麦琪本，他就是最先提醒提防全球变暖的人之一，他提倡放弃大量领域，例如生物技术和纳米技术，甚至所有的技术。正如我将在接下来的内容中详细讨论的，只有从根本上放弃所有技术的发展，否则放弃大量领域是不可能实现的。这反过来需要一个新世界体系来禁止开发所有的技术。这个方案不仅与我们的民主价值观相悖，而且实际上它会使危险更加严重，因为通过秘密操纵技术，最没有责任心的从业人员会得到最多的专业技术。