注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

周云网易评论

 
 
 

日志

 
 
 
 

发展人工智能,人类应有风险意识  

2017-05-27 08:20:58|  分类: 默认分类 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

AlphaGo(阿尔法狗)和中国棋手柯洁之间的人机大战正在进行,柯洁首战即告失利。与此同时,AlphaGo之父杰米斯·哈萨比斯(Demis Hassabis)近日在剑桥大学做了一场题为“超越人类认知的极限”的演讲,演讲中有些内容引起了笔者的关注:以AlphaGo为代表的新一代人工智能可以在不同的环境进行适应和学习,并尽力实现自己要达到的目的。而之前,人工智能的运行环境是既定的;AlphaGo具备了创新能力。创新,哈萨比斯认为就是在已有知识和经验的基础上,产生一种原始的、新的观点。阿尔法狗很明显地示范了这两种能力。

演讲的这些内容比棋局本身更加令人震撼,虽然AlphaGo战胜李世石并领先柯洁,这样的结果就已经非常震撼,并且实际上已经告诉世人,AlphaGo具有超强的学习能力和创新能力,但从AlphaGo研发者口中得到印证和更加深入的阐释,得悉这是研发者主观意图的实现,还是让人产生“一个新的时代来临了”的感慨。

这个新的时代,最大的特点就是人类的智慧不再是独一无二的。之前的人工智能,包括战胜国际象棋大师的deepblue,虽然在记忆、数据储存和分析等方面,具有超强的能力,很多能力也超越了人类,但人类尽可以处之泰然,因为这些能力都是人类赋予的,都是在人类输入的数据、编写的程序之下来运行,再厉害的人工智能,也不具备自主学习和独立思考的能力。离开了人类,这些人工智能什么也不是。

而这正是阿尔法狗让人感到震撼的地方,阿尔法狗不仅具有之前人工智能的所有优点,更为重要的是,能够在不同的环境下进行自主的学习,并且具有独立的判断、思考能力。众所周知,围棋的变化之多,人类既定的程序无法穷尽。人工智能要战胜人类,必须能够自主产生“原始的、创新的观点”,这一点,阿尔法狗做到了,甚至它的一些成功的下法,人类从来没有尝试过。根据哈萨比斯的说法,就是人类独特的、引以为豪的直觉,阿尔法狗也初步具备了。对于阿尔法狗具备的这些能力,笔者并不是感到欣慰,而是多少有些惶恐。阿尔法狗的这种自主学习、独立思考的能力,究竟会发展到什么程度?最后的结局不难想象,这在科幻小说已被多次描述过了。

现在的问题是面对人工智能,人类何去何从?诚然,人工智能会激发人类的潜能。哈萨比斯也指出,阿尔法狗的横空出世,实际上加深了人类对围棋的认识。去年阿尔法狗战胜李世石之后,棋手们已经创造出了之前从未有过的新走法。从这里,我们可以看出人工智能发展对于人类的正面影响,人工智能将促进人类在各个领域更为深刻地认识世界,激发潜能,提升自身的能力,这是最为理想的前景。但前提是人工智能必须在人类的控制之下。不幸的是,这就产生了一个悖论,人类对人工智能的控制越宽松,人工智能发展水平就越高,对于人类的激发和帮助就越大,但风险也就更大,人类对于人工智能的控制越紧密,人工智能对于人类的激发和帮助作用就越小,当然风险大抵也可控。

就目前的发展水平来看,人工智能还是一种技术。人类与人工智能的关系,还属于科技伦理思考的范围,也就是说,人工智能还是人类手中的工具,可以用来行善,也可能被用来作恶。总之,还取决于人类自身。但如果没有风险意识,有朝一日,人工智能变成了人类的“他者”,人类的命运就将受到严峻的考验。尽管这个危机可能出现的临界点,会是在很遥远很遥远的将来,但当下对这个问题进行思考,却并不算太早。

    

    本文发表于2017年5月25日《羊城晚报》

    扫一扫二维码,关注我的时评微信公众号:

发展人工智能,人类应有风险意识 - 周云 - 周云网易评论

 

  评论这张
 
阅读(6)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017