AI:未来最大的不确定性  

阅读:56799 评论:458

第九节 来自有书共读主播放公子

00:00/05:20

智力,是人的核心。文明的一切是智慧的产物。

DNA是传递生命的蓝图。在我们138年的宇宙历史中的某个时刻,发生了一件美妙的事。

这个可以被称为奇迹的事儿,让生命获得了意识。而我们的宇宙现在也已经醒来,意识到了自己。

地球漫长的历史中,生命不再是智慧唯一的拥有者。20到21世纪的发展,产生了另外的一个智慧——电脑。

原则上电脑可以模仿人类智慧,甚至更好。如果它继续遵守摩尔定律,它们的速度和记忆容量每18个月翻一倍,那在接下来100年的某个时刻,电脑很可能在智力上超过人类。

在过去20年,人工智能高速发展,发展的方向围绕着智能代理人的问题。

由于建立了合理的框架,语音识别、图像分析、自动驾驶等任务,被出色得完成了。

资金的投入是巨大的,取得的成功也是巨大的。

对于它的在研究,也正在稳步发展,我们很难预测AI未来可以变成什么样子,彻底消除疾病和贫困将成为可能。

AI的成功,将成为人类历史上重大的事件。

不幸的是,它可能也是最后一个,高收益的同时,也会带来巨大的风险,除非我们学会如何规避风险。

霍金担心,未来的AI过于强大,会自己起飞并不断加速,重新设计自己。而人类受到缓慢的生物进化的限制,无法竞争,将会被超越。

与此同时,AI过于智能,还会带来一些风险。比如智能化武器、以及AI自我觉醒。

它们对我们的短期影响在于谁来控制AI,长期影响在于,最终AI是否能被控制。

总之,对于人类,超级智能的问世,是有史以来要么最好,要么最坏的事。人工智能的风险不是恶意,而是能力。

一个聪明的AI非常擅于实现目标,如果他们的目标和我们的目标不一致,就会遇见麻烦。

比如,我们不是蚂蚁的敌人,也不会恶意去杀害他们。但如果有一个工程碰巧需要灌水入一片洼地,而洼地里有一个蚂丘。

这对于蚂蚁来说就是灾难。

有人发出疑问,为什么我们这么害怕人工智能,我们总能拔掉插头吧?

霍金举了这个例子:“人们问一台电脑,‘存在上帝吗?’电脑说‘现在有了。’并焊住了插头。”

不过,幸运的是,现在这些正在发生变化。2015年霍金和埃隆马斯克等AI专家,签署了一份关于人工智能的公开信,呼吁人们研究其对社会的影响。

埃隆马斯克警告说,超人类的人工智能能提供无法估量的好处,但如果不谨慎部署,将对人类产生不利的影响。

我们不应该害怕改变,但是我们需要改变对我们有利。

当我们发明火时,给我们带来了温暖的幸福感,但是我们也反复被火搞砸了一些事,再发明了灭火器。

除了人工智能,我们还拥有很多强大的技术:合成生物学、核武器等。在我们使用它们的同时,应该预先计划未来,因为这可能是我们仅有的机会。

我们的未来,是技术飞速增长和使用它们的智慧之间的竞赛。

让我们确保,我们的智慧能胜利吧。

作者:囧囧,有书智库导师,一个好人。        

主播:放公子:电台主播。愿将世界的一切美好,用声音描绘,讲给你听。微博:江城董放。   

       

学习了今日共读,你收获了哪些?你想做出哪些改变?强烈建议书友们将今天的学习心得分享至下方评论,与书友们一起交流,共同进步!书友们的每一条评论,有书都能够看到,并且尽量地去给您回复!


热门评论

头像

-刘梓澄

2019-05-23 23:35:55 0 9

我们不应该害怕改变,但是我们需要改变对我们有利。

头像

明月清风(武中伟)15838688535

2019-05-25 05:28:30 0 6

就像师傅教徒弟武功一样,要留一手,徒弟走正道,再好不过,倘若走了邪门歪道,成为害群之马,师傅正好用这一绝招,治服他,教育他使之回归正道。如国家法律,一旦触碰,必付出代价,

头像

袋鼠杨欣庆

2019-05-25 17:24:00 1 5

任何事物都有正反二方面,好的为我所用,控制好风险,造福人类。

头像

2019-05-24 06:48:48 0 2

未来的AI过于强大,会自己起飞并不断加速,重新设计自己。而人类受到缓慢的生物进化的限制,无法竞争,将会被超越,终生学习不说不被淘汰但是能看清方向

头像

♬ 及时行乐

2019-05-24 21:02:57 0 2

我们的未来,是技术飞速增长和使用它们的智慧之间的竞赛。

头像

文十三

2019-05-24 07:01:47 0 2

AI技术的发明有可能会让人类走向衰败,因为那个时候的人已经不用大脑去思考问题了,我们依赖AI 技术给我们带来的方便,就好比现在大多数人信赖手机一样。所以世间万物的演变都有两面性。