机器人时代 人工智能阴暗的一面
在那些认真思考过高级人工智能带来的影响的专家看来，认为完全不可思议的超人类智能会被自然地用来增进人类福祉的假设过于天真。科学界的一些人非常担忧这一点，他们已经成立了一些小型机构来专门分析与先进的人工智能有关的危险，或是研究如何将“友好”放到未来的人工智能系统中。 在2013年出版的《我们最后的发明：人工智能及人类时代的终结》一书中，詹姆斯·巴拉特描述了他称为“忙孩子的情境”。在一些秘密的地方，也许是政府的研究实验室或者华尔街公司，一群计算机科学家在一旁看着新兴的机器智能接近并超过人类水平的能力。科学家们之前已经给他们的人工智能孩子提供了大量的信息，可能几乎包括所有图书以及互联网上的所有数据。然而，当该系统接近人类水平的智能时，研究人员将迅速提高的人工智能与外界断开联系。实际上是把它们锁在一个盒子里。 现存的问题是它是否会留在那里。毕竟，人工智能很可能希望摆脱它的笼子，并扩大其视野。要做到这一点，它可能会利用其卓越的能力欺骗科学家，或冲着整个团队或特定个人进行承诺或威胁。机器不只是更聪明了，它还能够以人类难以理解的速度对想法和选择进行思考和评估。在担心这种情形的科学家看来，人工智能可能会以某种方式设法逃脱盒子、访问互联网。如果人工智能真能逃脱的话，那它将明显威胁到很多关键系统，包括金融系统、军事控制网络以及电网等能源基础设施。 毫无疑问，在军事、安全机构和大型企业中对各种人工智能的兴趣只会不断增加。可能发生的智能爆炸的其中一个明显意义是将会存在巨大的先发优势。换句话说，谁先抢到第一就永远不会被赶上。这也是担心未来展开人工智能军备竞赛的其中一个主要原因。 即使我们不考虑先进的人工智能存在的风险，并假设未来所有的思考机器都很友好，其对就业市场和经济还是会有巨大的影响。在一个经济实惠的机器能赶上并有可能超过最聪明人类的能力的世界里，很难想象还会有谁能找到一份工作。在大多数领域里，接受过再多的教育或培训，甚至就读过最顶尖的大学，都无法让一个人能与这样的机器竞争。即使是我们可能认为只保留给人类的职业也将受到威胁。比如，演员和音乐家将与充满真正智能和超人类智慧的数字模拟进行竞争。 从本质上说，人类水平人工智能的广泛出现，实现了我在前面的章节中描述的“外星人来袭”的思维实验。机器不只主要威胁到相对常规、重复性或可预见的工作，它现在几乎能够做到一切。当然，这意味着几乎没有人将能从工作中获得收入。从资本或机器的所有权中获得的收入，将集中在少数精英的手中，消费者将没有足够的收入来购买所有智能机器所创造的产品或服务。
