财新传媒

机器人打人?算了吧,最危险的还是人

2016年11月18日 22:21 来源于 财新网
围观的群众非常兴奋,大谈机器人的安全性问题。但是从这件事上看,没有什么新鲜感

  文|于达维

  虽然看到这类题目就知道是忽悠,但还是想知道到底是怎么回事。事情发生在11月17日下午,在深圳举行的第十八届高交会现场,一台名为“小胖”的机器人突然打砸展台玻璃,玻璃台倒地划伤现场观众。

  一位在场观众用“原力觉醒”还形容这次事故。据其描述,自己亲眼看到,小胖机器人没人操控自己突然跑起来把玻璃墙给撞倒了,砸伤旁边一路人。。。围观群众还在喊,机器人闹事啦。

  但是后来经过高交会组委会的调查,实际上这起事故是工作人员操作失误。

  11月18日下午4时许,高交组委会回应称,17日下午13时50分左右,第十八届高交会1号馆1D32展位深圳展景世纪科技有限公司展台发生意外事件。由于该展商工作人员操作不当,误将“前进键”当成“后退键”,导致用于辅助展示投影技术的一台机器人(又名“小胖”,北京进化者机器人科技有限公司生产)撞向展台玻璃,玻璃倒地摔碎并划伤一名现场观众,致其脚踝被划破流血。

  经医院详细检查,该伤者脚踝缝两针后自行回家。

  就是这么点事,围观的群众非常兴奋,大谈机器人的安全性问题。但是从这件事上看,没有什么新鲜感。

  很多人说机器人是不是最终要攻击人类,是不是要奴役人类,从霍金到马斯克,都发出过不止一次这种警告,但是在笔者看来,现在机器的智能还完全不到这个地步,他们的警告,更多是出于商业目的。

  这种观点笔者在阿尔法狗挑战李世石之前就已经说过,当时阿尔法狗战胜了欧洲冠军。作为一种复杂程度最高的棋类游戏,围棋被看作是在人工智能面前捍卫人类尊严的最后防线。但是自从深蓝战胜卡斯帕罗夫之后,人们都知道人工智能在围棋上战胜人类的这一天迟早来,但没想到这么快。

  这是因为按照传统的人工智能计算方法,现在的计算能力绝对达不到战胜专业棋手的能力。

  如果按照传统的人工智能方法,将所有行棋可能构建成一棵搜索树,然后在其中搜索最优的下法,那么对于围棋来说,这颗搜索树过于巨大,其面临的可能性数量,甚至超过宇宙中所有原子的总和。

  但是谷歌的团队在传统的方法之上,加入了深度神经网络,靠着更精准的评估和更聪明的棋步选择,这种算法与人类的思维方式更接近,计算量实际上比20年前的深蓝计算机还要少几千倍。

  之所以能够达到精准的评估,关键是它不仅仅是一种算法,而且拥有自我学习的能力,从人类围棋高手的几十万局棋谱中,它掌握了如何赢棋的规律。这就是说,人工智能已经从人类历史上几乎所有围棋高手的棋谱上学习了经验,这样它的落子就不仅仅靠计算。就像很多高手一样,更多的是看棋形,看定式,然后比拼的才是计算能力。

  之所以在之前的人工智能程序只能达到业余的水平,是因为虽然计算机本身的计算步数,搜索深度本身已经超过了人类棋手,但是他们没有经验,只知道傻算,但是这样还是算不过拥有更多经验的专业棋手,但是当人工智能也拥有了同样甚至更多的经验之后,战胜专业棋手就不在话下了。

  后来李世石真的输给了阿尔法狗,但这只能说明,计算机在计算能力、记忆能力上超过了人类,但这跟人类的智慧失守,还扯不上一点关系。

  让计算机模拟人类、战胜人类,实际上从计算机诞生后不久的时候,很多人就有了这种想法。1946年世界上第一台电子数字计算机ENIAC出现,此后维纳建立了控制论,香农建立了信息论,模拟人脑看似不再遥远。

  1956年美国的几位心理学家,数学家,计算机科学家和信息论学家在达特茅斯大学召开了会议,提出了人工智能这一学科。此后“认知模拟”,“语意信息理解”,“专家系统”等名词,开始陆续出现。这一年也被看作是人工智能诞生的元年。

  但是人工智能领域推进了十几年后,到上世纪70年代就到达了第一次低潮,因为大家对它的期望过高,但是实际上计算机本身发展水平和预期距离太大。到了70年代末、80年代初,人工智能的重点开始从推理转向知识工程,人工智能实现了第二次崛起。但这主要开始依靠计算机越来越强大的计算能力和存储能力完成的。

  当时日本就提出了雄心勃勃的第五代计算机计划,希望创造能把信息采集、存储、处理、通信同人工智能结合在一起的智能计算机系统,具有形式化推理、联想、学习和解释的能力,能够帮助人们进行判断、决策、开拓未知领域和获得新的知识。

  到了上世纪末,这一计划宣告失败。尽管这项计划在技术上取得了部分突破,但最终没能攻克关键性的技术难题。使得第五代计算机基本丧失了商业价值,产业化更是无从谈起。

  最关键的问题,是当时的计算机不能进行联想、推论、学习等人类头脑的最普通的思维活动,虽然它能在一定程度上配合、辅助人类的脑力劳动,但它还不能真正听懂人的说话,读懂人的文章,还需要由专家用计算机懂得的特殊的“程序语言”同它进行“对话”。

  最近人工智能又开始热了起来,其中标志性的事件就是谷歌收购机器人厂商波士顿动力公司,收购深度学习技术公司Deepmind,而后者就是研发AlphaGo人工围棋程序的主力。此外,facebook,IBM也都在开发深度学习和机器认知,尝试让计算机获得更多“人性”。

  这一轮的崛起,主要依赖于硬件计算能力的发展,云计算的分布式架构,大数据平台的成熟,依靠深度神经网络,将机器学习算法进入实用化。

  但是在为计算机注入人性方面的进展,还乏善可陈。牛津大学的信息哲学与伦理教授Luciano Floridi在一次研讨会上就提出,现在的计算机还都是图灵机,也就是按照既定的程序,为既定的输入完成相应的输出,而图灵机是没法理解、没有意识更没有直觉。它在智力上,还不如一只老鼠。

  可以说,人的创造性,无法用机器代替。举一个例子,如果在一个屋子里挂一个香蕉,地上摆一个箱子,这时候猴子就会把箱子搬到香蕉下面,把香蕉拿下来。但是这么简单的方法,从人工智能概念的诞生到现在已经是60个年头,已经可以在围棋上战胜人类的人工智能,还是想不出来。

  Floridi的这句话,可以说是对马斯克、霍金等人对于人工智能威胁的言论的一种回击。在后者看来,人类最大生存威胁,可能是人工智能,研究人工智能如同在召唤恶魔。

  正如Facebook人工智能实验室主任,NYU计算机科学教授Yann LeCun 所说,有些人是因为对人工智能的原理不理解导致恐惧,有些人是为了个人名望宣扬人工智能威胁论,而有些人是为了商业的利益推动人工智能威胁论。

  Luciano Floridi看来,霍金和马斯克的言论,可能是被摩尔定律所迷惑,而摩尔定律所代表的进步速度,只是计算能力的进步速度,而不是人工智能的进步速度。对于超级智能机器的恐慌,实际上是站不住脚的。

  现有的智能技术,和真正的全面战胜人类的超级智能之间的差距,就像是你爬上了一棵树,就以为你登上了月球,但是你只能爬这么高了。在他看来,最大的问题不是机器,而是人,而人的问题在可预见的未来一直持续下去。

  对于阿尔法狗的胜利,李喆七段也这样评价,“工具无善恶,善恶在人心。未来的路通往何方,将由我们自己决定。”

  在上海的一次人工智能研讨会,上海机器人学会理事长钱晋武的一句话就说的更加直接。他说,机器人不可能比人更坏。如果有人做坏机器人,肯定是坏人,好人比坏人多,肯定是好机器人多。

  在他看来,逻辑思维不可能产生创造性思维。还没有人知道,创造性思维是怎么来的。200年之内,不可能做出跟人一样的机器来。如果要做出来,必须要先把人研究透。

  如果说计算机超越人类,实际上机器人早就在力气上、精准度上超越了人类,哪个人能够说,脑子里可以装下整个大英博物馆。但是要说全面超越人类,在可以预见的将来,还看不到这个可能。

  问题最大的还是人,最危险的,还是人本身。

责任编辑:崔筝 | 版面编辑:张柘
文章很值,赞赏激励一下
赞 赏
首席赞赏官虚位以待
赞赏是一种态度
  • 1
  • 3
  • 6
  • 12
  • 50
  • 108
其他金额
金额(元):
赞 赏
财新传媒版权所有。如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
推广

2017年02月26日    13:54
【已有432家境外投资者参与境内债券市场】人民银行副行长潘功胜近日表示,截至目前,世界银行等国际开发机构、波兰、韩国等外国政府及多家国际性商业银行和非金融企业已累计发行人民币债券或SDR债券达687亿元;中国债券市场已有432家境外投资者入市,总投资余额近8000亿元人民币。下一步,人民银行将继续积极推进完善各项配套政策安排,为境外投资者提供更加友好、便利的投资环境。
2017年02月26日    13:52
【2016年中国债券市场余额全球第三】人民银行副行长潘功胜在近日会见彭博公司全球执行副总裁Jean-Paul Zammitt时表示,截至2016年末,中国债券市场余额达63.7万亿元人民币,位居全球第三、亚洲第二;公司信用类债券余额16.5万亿元人民币,位居全球第二、亚洲第一。中国市场债券品种丰富,交易工具序列齐全,基础设施安全高效,已经具备相当的市场深度与广度。
2017年02月26日    11:46
【刘氏金句:谁是大鳄,我告诉你了还怎么干活?】刘士余说,证监会第一是监管,第二是监管,第三还是监管。我来证监会工作,花了较长时间来了解资本市场的乱象,开了眼了。我就找了一些通俗语言,来给每一种乱象贴上标签,比如“野蛮人、妖精、害人精、大鳄”等。这些行为披着合法的外衣,打制度擦边球,在资本市场上巧取豪夺。市场上的金融家和金融大鳄,只有一步之遥。现在市场上的任何行为都有数据记录,违法违规的线索,证监会会盯住不放。“那些套路不管用了”。“我说的是具体行为,不是具体的人,如果我告诉你了,下一步我还怎么开展工作?”
2017年02月26日    11:40
【刘士余谈科技金融公司A股上市:尊重企业自主选择】上市地的选择是公司自主权,证监会对此尊重。境外上市同样可以募集资本金,可以获得监管,提升公司治理水平。国内市场也在改革,过去有三年盈利的要求,金融科技企业往往不能满足,现在创业板和新三板已经顺应了这些企业的需求。投资也希望分享这些科技金融公司发展的成果。
2017年02月26日    11:34
方星海:今年将推出新的期货产品,包括农产品期权、石油期货等。重视发挥定价功能的措施,比如引入更多的产业客户,包括国际产业客户;推进期货市场国际化。
2017年02月26日    11:32
方星海:现货需求和投机资金,导致去年煤钢焦期货的炒作。发挥期货所持价格发现功能,不需要那么高的交易量,因此监管提高了交易手续费、保证金,对部分账户进行了开仓限制,查处违规账户。
2017年02月26日    11:28
【证监会主席助理赵争平:支持区域性股权市场发展】制定出台统一的区域性股权市场的业务和监管规则;加强对省级人民政府监管的指导、协调和服务;加强检查督导,查处违法违规行为。还将加强新三板和区域性市场的对接,鼓励证券公司参与服务。
2017年02月26日    11:08
方星海:推进中国与美国、欧盟资本市场双向对等开放
2017年02月26日    11:00
【李超:遏制证券基金行业盲目扩张 促进其回归主业】2015年证券公司钱没少赚,但是行业的声誉没有同步增长。2015年股市异常波动,对机构监管也是一个重要的警示。
2017年02月26日    10:55
证监会副主席李超:基金投资者可以多借鉴社保基金在证券投资和资产配置方面好的经验,避免快进快出。
财新微信