Winter Mute » 日志 » 搞了篇技术奇点的summary
搞了篇技术奇点的summary
温特穆特 发表于 2007-03-09 12:48:24
昨天和朋友乱聊，扯到科学，宗教，不可避免又扯到人工智能。我想找找看网上是不是有了弗诺文奇的那篇论文的翻译，结果译文没有，倒是找到了两个有趣的blog，都在LiveSpace。都有谈到技术奇点和超人剧变。
一个是 Jian's discovery of the world 。匆匆浏览了一下，大概了解他叫Zhou Jian，是类似计算机语言专业的吧，和编程和算法有关。81年生人，现在美国进修。
一个是 Hythloday即空谈见闻家的接待室 。还没有时间看他的东西，刚浏览到他的两篇关于技术奇点的网志。
我在这里转载zhou jian 的一篇网志，是对弗诺文奇的那篇论文的summary。在我没有找到译文，自己又没有翻译好，又在犹豫是不是要把科幻世界那个翻译版本打上来前，这篇summary是很好的介绍。（本来想在他的space留言通知引用的，但是windows live ID 出问题，无法登陆，算了，先引吧，以后再通知他）
原文地址
------------------------------------------------
技术奇点
一个是 Jian's discovery of the world 。匆匆浏览了一下，大概了解他叫Zhou Jian，是类似计算机语言专业的吧，和编程和算法有关。81年生人，现在美国进修。
一个是 Hythloday即空谈见闻家的接待室 。还没有时间看他的东西，刚浏览到他的两篇关于技术奇点的网志。
我在这里转载zhou jian 的一篇网志，是对弗诺文奇的那篇论文的summary。在我没有找到译文，自己又没有翻译好，又在犹豫是不是要把科幻世界那个翻译版本打上来前，这篇summary是很好的介绍。（本来想在他的space留言通知引用的，但是windows live ID 出问题，无法登陆，算了，先引吧，以后再通知他）
原文地址
------------------------------------------------
技术奇点
昨天看了一篇弗诺。文奇在93年写的关于技术奇点的论文，觉得很有意思，summary一下，让大家看看:D
他的观点是30年之内，人类能够通过技术手段创造出拥有超人的智力的实体，随后人类时代就将结束。随后，他讨论了这样的进步是否能够避免，如果不能避免，我们怎么才能将这样一个事件导向最后我们还能够幸存下来。
什么叫技术奇点呢？按照他的观点，人类的技术正在指数级的发展，因此就像宇宙爆炸前那个奇点一样，人类可能也正在不断逼近更加恢宏的技术爆炸的奇点。这个奇点是由超人类来完成的。而超人类则有以下几个方向可以达到：
1。超级电脑（Artificial Intelligence）
2。超级网络以及他们的使用者作为一个整体成为拥有超人类的智力
3。高级的人机接口，把人和机器完美的结合在一起
4。生物科学使自然人飞速进化
由于所谓的超人类是指在各方面都比人类聪明，所以他在设计更加聪明的实体时也要比人类厉害，于是他会设计出比他更聪明的实体，最后人类的智力就被迅速的抛栽了后面。所以，有人认为超人类智力的实体将会是人类最后一个发明。
那么，人是不是能够限制这样的智力出现呢？
一种可能是说，人类由于自身的限制，发展不出超人的智力（比如说摩尔定律在能够制造出人类相当的硬件之前失效了），于是在不久的将来人类的技术会达到一个顶峰，那时候就是人类的一个黄金时期，然而却再也没有任何进展，一定年代之后就会像古希腊当时一样又沦落到中世纪的黑暗（比如发生了核大战）。
另外一种可能是人类政府制定法律限制人们开发类似的机器，但由于人类竞争的本性，这样的法律唯一的用途是保证别人第一个开发出类似的机器。
第二种可能是使用像《 我，机器人》中的机器人三定律，不允许他们伤害人类，但有这样限制的机器人一定比没有限制的机器人要弱小很多，同样的由于竞争优势的需要，定律到最后仍会被抛弃。
还有一种可能是把这样的智力看管起来，比如物理上把他们看惯在一间小屋子里，只给他们有限的数据。但被关在小屋子里的可是比人快几千几万倍的电脑，即使他的智力和人一样，如果他思考1万年，人只能思考1年的话，他一定能想出方法来逃脱，更何况这还是考虑"weak superhumanity"，想象一下如果把狗的思维速度加快1000倍，它仍然是一条狗，不会有人的智力，而未来的超人类智力更可能是"strong superhumanity"，即本来就比人聪明，速度还快无数。
那么，如果这样实体的出现以及不受限制是不可避免的话，人类的结局会是怎样的呢？首先当这样的实体出现后，人类就走出了历史舞台的中央，可能的结局是物理上的灭绝，但那还不是最差的，更坏的一种可能是人类被用作超级智力实体的一个能够自主的部件，最好的一种结局也就是人类会被有着几乎神一样能力的奴隶所伺候着（即使这样，人类作为一个种族，也已经失去了新鲜的活力，成为了一种寄生生物了）。其实，想想人是怎么对付动物的就知道了。
当然，刚才所设想的都是AI方向的超人类，Intelligence Amplification即我所说地第2，3种可能性也是存在的，而且从现在的科技来看是更可能的。事实上，想象一下，如果人的大脑能够直接和电脑相连，而且走在任何地方都能够访问到Internet，那样的人是不是会比二战前所有的人都聪明。到那时，所有有这些设备的人对于没有那些设备的人来说（这种情况肯定会出现，就像手机，电脑的普及在非洲现在仍然是那么地差），就是一个超人类的智力实体，简直就像神。Maybe，未来的某个年代，人类真的会变成2个亚种，统治者和被压迫者。因为这条技术造成的鸿沟实在是太大了。
文奇的论文虽然只是在93年写的，但即使在12年后的今天读起来仍然觉得十分震撼。如果他的猜想是真的，那么我们这一代人应该都能够看到这一天。不过，无论这个技术奇点出不出现，二十年后肯定是totally different的一个世界，就像现在回过头去看1985年，也恍如隔世。
相关日志:
收藏:
QQ书签
del.icio.us