霍金:机器人更聪明终将摧毁人类

幻想天蝎 · 发表于 2017-9-6 21:51:11

周四，著名天体物理学家斯蒂芬·霍金在Reddit名人访谈栏目《Ask MeAnything》(问什么都可以)上回答了用户感兴趣的各种问题，如人工智能、最喜欢的电影等。
霍金一项对人工智能的威胁直言不讳，他曾表示“人工智能可能会摧毁人类”。自从患上运动神经元病之后，霍金本人就是利用某种形式的人工智能帮助自己发音。
以下就是霍金在《Ask Me Anything》上回答的一些问题：
问：你在人工智能方面的观点经常被媒体解读为“具有终结性质的邪恶人工智能”，你自己是如何认为的？
霍金：你说的对，媒体经常错误地解读我说的话。人工智能真正的风险不在于它是否邪恶，而在于它的能力。超级智慧的人工智能能出色地完成一些目标，如果这些目标与我们的利益不一致，那么我们就麻烦了。即使恶意地踩死了几只蚂蚁，那也没多大关系。但如果你负责一个水电项目，一个蚁丘将被冲毁，那对蚂蚁来说就是灭顶之灾。
问：机器人可能变得比他们的发明者还聪明吗？
霍金：很明显，一件事物变得比它的祖先更聪明是可能的。我们人类就变得比祖先类人猿聪明，爱因斯坦也比他父母聪明。问：如果机器人能设计自己，而且比人类设计得还要好，那会怎样？
霍金：如果出现这种情况，我们就可能面临智能大爆炸。最终机器人的智能将超出我们人类智能，超出的幅度要远远要高于人类智能超出蜗牛的智能。
问：短期内我们是否面临智能机器人的威胁？或者是我们是否需要为将来做准备呢？
霍金：关于何时能开发出与人类智能相当、甚至超出人类智能的机器人，人工智能研究人员还没有达成一致。因此，如果有人说这种情况你这辈子肯定会发生，或者肯定不会发生，都不要相信。
当这一切最终发生时，对于人类而言可能是好事，也可能是坏事。如果利用得当，那就会创造出巨大价值。因此，我们要把创造人工智能的目的从单纯的创造转变为创造有益的人工智能机器人。要做到这一点可能需要数十年的时间。
问：你认为机器人会完全取代人工吗？
霍金：这还要取决于物质最终是如何分配的。如果机器人创造的财富能够共享，那我们每个人都能过上奢华、休闲的生活。如果机器人的主人反对财富再分配，那我们的生活将变得很可怜。而当前的趋势似乎趋向于第二种，即技术推动不断恶化的不平等现象。
问：什么奥秘你觉得最有趣，为什么？
霍金：女人。我爸爸和我说，尽管我拥有物理学博士学位，但女人仍是一个谜。
问：你最喜欢的歌曲？
霍金：《Have I Told You Lately》(我最近有没有告诉你)。
问：你最新喜欢的电影？
霍金：《Jules et Jim》(祖与占)。
问：你最近在网上看到过的令人捧腹的内容？
霍金：电影《The Big Bang Theory》(生活大爆炸)。