2009奇点峰会：我们未来的机器人霸主的十个未回答的问题

虽然我在奇点峰会上无疑学到了很多，但会议最大的好处是它没有回答的问题。关于奇点的悬而未决的问题为我公认有限的智力工厂提供了许多哲学依据，解决这些问题和我在峰会上看到的任何演讲一样令人兴奋。

为了结束我们对奇点峰会的报道，我将倒数我关于库兹韦尔理论婴儿的十个最令人烦恼的未回答问题，人类和人工智能的最终融合，我很想听听你们对我们未来任何或所有这些仍然无法解释的方面的任何观点、问题或（希望）答案。

10.是否只有一种意识或智能？

在演讲中，奇点概念的先驱Ray Kurzweil将智能称为预测。它的进化是为了让人类能够观察草原上的动物，并猜测它下一步会去哪里。显然，计算机已经在预测广泛的事件（象棋走法、天气、经济趋势等）方面超越了我们。

当然，我们知道人们预测不同领域结果的能力，比如说，我女朋友更喜欢这朵花还是那朵花，差异如此之大，以至于它们实际上是不同形式的智力。

假设有不同形式的智能，我们怎么知道机器不会接受一种我们不会识别为智能的新智能？如果有不同种类的智能，是否也有不同种类的意识？机器会不会产生一种我们无法识别的新意识，导致我们错过奇点？

9.你将如何利用你的数字智能杀死我们所有人？

许多人在会议上担心我们最终会在我们的自动机创造中灭绝。但是尽管有这么多偏执，没有人真正解释计算机程序是如何杀死我的。

它会侵入核导弹司令部并发射所有核武器吗？它会撞坏所有的飞机吗？我们就不能拔掉插头吗？仍然需要有人向我解释我对一个没有物理存在的生物有什么恐惧。

8.你是“汤米”吗？聋、哑、瞎？

当第一个人工大脑上线时，它的第一个想法怎么会不是“天哪，我瞎了！”机器中的无实体智能将严重缺乏感官。也许它能看到和听到，但感觉到？值得怀疑。一个没有感觉的意识如何保持不抓狂？我会生气的，我想第一个人工智能也会生气。这也导致了…

7.你有情绪吗？

人工智能会变得抑郁吗？第一个毫无疑问会相当孤独。作为一个物种的第一个（也是唯一一个）成员，将如何影响人工智能的发展和人际关系？第一个数字意识可能会像小镇高中里唯一的哥特孩子一样来到这个世界：孤立，没有任何能同情的人。这不是我想要的那种拥有我们所有武器和经济工具的人。

6.人类是否比我们想象的更像你的人工智能结构？

Dalle Molle人工智能研究所的哲学家尤尔根·施密德胡伯在他的演讲中指出，人脑像压缩. zip文件一样压缩信息，我们通过测量我们吸收的新信息有多少允许我们进一步压缩信息来区分无聊和兴趣。

我真的认为他在描述大脑如何处理我们个人经历扩展的新数据时有所发现。这让我想知道，我们的大脑已经有多像电脑了？我们的大脑已经运行了各种软件，导致生物上相似的大脑产生了截然不同的个性。奇点的出现有可能不是因为我们创造了类似人脑的机器，而是因为我们揭示了人脑天生有多像电脑吗？

5.编程对你的自由意志有多大影响？

在关于避免机器人末日的讨论中，一个接一个的演讲者强调了教导数字意识具有人类价值观的必要性。许多人想知道为什么我们不能给机器人编程，让它不杀我们？嗯，大概我们会，但是一旦计算机程序实现了自我意识和自由意志，它们就不能选择不遵循那个程序吗？ 无论是节食还是一夫一妻制，人类总是避免遵循他们的程序。是什么让我们认为一个有感觉的程序不会同样无视它的基本欲望？

4.你有潜意识吗？

如果人工智能的思维像人脑一样复杂，这是否意味着它们将拥有无法理解、控制或进入的领域？本我、自我和我们潜意识中的其他元素是生物学的结果还是感知的必要组成部分？人工智能会有非理性的信仰或心理问题吗？如果人工智能认为我们是他们的上帝，或者至少是他们的创造者，它会有恋母癖的问题吗？如果是这样，这可能解释了为什么它试图杀死我们。

3.你真的会帮助我们超越人类不愉快的一面吗？

任何阅读互联网评论板的人都知道，每一个使用网络开阔视野、质疑自己偏见的人，就有十几个白痴使用同样的技术传播关于全球变暖是骗局的虚假信息，将奥巴马比作斯大林和希特勒，并向其他白痴要钱来帮助尼日利亚王子。除了赋予永生和让每个人几乎无所不知之外，奇点不也为人们传播人类追求了数万年的欲望、贪婪和仇恨提供了最终途径吗？忘记人工智能杀死我们吧，我仍然担心其他人类。

2.你在乎什么吗？

有什么好说的呢？一个比我们自己强大得多的智能不会发现生命的毫无意义，成为虚无主义者，并关闭自己？或者，如果它如此聪明，根本不在乎人类呢？会议上的每个人都预测会有一个非常需要的人工智能，但没有人能回答为什么人工智能不会像参与人类一样退出人类。

1.最后，如果有人扔了一个奇点，但没有人来怎么办？

演讲结束后，安娜·萨拉蒙告诉我，奇点将在几分钟到几年内影响世界上的每个人。当她告诉我的时候，我想到了这些照片。

去年，一名飞行员发现了一个以前从未接触过的部落，生活在亚马逊深处。在南美洲、亚洲和非洲的部分地区，有些人的生活方式在过去300年里没有太大变化，更不用说过去30年了。奇点为什么会不同？当然，我可以想象上西区拥有大脑芯片的人可以获得更高的智力，但是这项技术还要多久才能到达南布朗克斯？或者索马里？或者阿富汗？

如果奇点只影响一小部分人，而其他人要么负担不起，要么根本不想参与，那么奇点承诺的超人类未来会发生什么？奇点不只是让人类为它已经处理的另一个富/穷、北/南问题做好准备吗？再说一次，我担心的是其他人，而不是机器人。

好了，这就是我们2009年奇点峰会的报道。我希望这次会议给了你们所有人一些思考的东西，和往常一样，我迫不及待地想听听你们都有什么要说的。谢谢你关注这些帖子，记住，当奇点到来时，吃蓝色药丸，你会更快乐。