2018人工智能想要发展还需迈过这5个门槛！

在使用文本和语言时，机器比以往有了很大的进步。举个例子，Facebook可以为视觉障碍者进行图像描述；谷歌也在自己的Gmail邮箱里添加了“智能回复”的功能。尽管已经取得了一系列的进步，但是机器软件仍然不能真正理解人类语言的含义以及人类的想法。

”人类可以将学习到的概念，用不同的方式组合起来，并将其应用于新的情况，”美国波特兰州立大学Melanie Mitchell教授表示，“但人工智能或者机器学习系统并不能做到这样。”他认为现在的软件存在“意义障碍”，一些领先的人工智能研究团队正在试图找出跨越这个障碍的办法。

其中一项是让机器在常识以及支持人类思维的物理世界中获得基础。比如，百度的研究人员正试图通过观看视频来教授软件理解现实。另一项则是让机器模拟我们对世界的理解。举个例子，谷歌一直在尝试可以学习隐喻的软件，也曾尝试做一些系统，通过类比及教授机器世界的概念，让这些系统可以对照片中发生的事情做出解释。

从现在的情况来看，机器人硬件已经相当不错了。人们可以花3000元的价格买到一台带有高清摄像头的手掌大小的无人机，当然，对于和人类一样用两条腿走路的机器人来说，也取得了不小的进步。那么，为什么我们现在还没有被熙熙攘攘的机器人助手包围呢？因为现在的机器人还缺乏一个可以与之复杂的肌肉相匹配的“大脑”。

机器人做事，特定的任务需要特定的编程。他们可以从重复性的试验或者错误中，学习类似于抓取物体的操作，但这个过程相对缓慢。一个很有希望的捷径是让机器人在虚拟世界中展开训练，然后把获得的知识下载并植入到物理机器人的身体中。

然而，这个办法却被现实中的“差距”所阻碍——将虚拟世界里机器人在学习中获得的技能的语言描述，转移给真实的机器人时，并不总是奏效的。

值得一提到是，这个差距正在逐渐缩小。今年10月，谷歌公布了一系列带有积极意义的研究成果。在他们的实验中，不管是模拟的还是真正的机器人都学会了捡起各种各样的物体，像磁带机、玩具和梳子。

进一步讲，这些进步对自动驾驶技术的发展也十分重要。进行自动驾驶汽车研究的公司可以在虚拟的街道上进行虚拟汽车的部署和试验，这样可以减少在真实交通环境下进行测试时所需要的时间和资金。

在我们的生活中，运行网络、安全摄像头以及手机的软件，时常会受到安全漏洞的困扰。当然，我们不能天真的以为自动驾驶技术或者机器人是不存在这种情况的。事实上，在这些领域，安全问题可能会更糟糕：有证据表明，机器学习软件的复杂性可能会带来新的攻击途径。

研究人员今年曾表示，如果在机器学习系统中隐藏一个秘密的触发机制，在某种特定的情况下，这一系统便会处于“邪恶”的模式下。纽约大学的研究团队设计了一个街头标志识别系统，除了看到黄色便签（Post-It）的情况，其他时候一切正常。之后，他们在布鲁克林的停车标志上贴了一个相应的便签，这一系统会将这个标志识别为限速标志。这也就意味着该技术可能会给自动驾驶技术带来麻烦。

而这个潜在的威胁具有很大的影响力。本月，世界著名的机器人学习会议的研究者们召开了一次为期一天的研讨会，就机器欺骗的潜在威胁展开讨论。比如，可能会存在这种情况，对于一个数字，我们看到的是2，但是机器识别出来的是3。此外，研究人员还对防范此类攻击的预防措施进行了商榷，他们表示，也会担心人工智能技术被某些人用来愚弄人类。

该研讨会的组织者Tim Hwang说，随着机器学习变得更容易部署并且更强大，利用这项技术掌控人类，是不可避免的。他指出，2016年美国总统大选期间，俄罗斯的反信息运动便是”信息战“的一个信号。根据Hwang的预测，其最有效的愚弄人类的方式是利用机器学习生成虚假的视频或音频。

Alphabet的棋类“冠军”系统，在2017年获得了巨大的突破。今年5月，化身为AlphaGo Master击败了中国的围棋冠军；随后，DeepMind创立了AlphaGo Zero可以在不需要人类资料的情况下，自学棋类游戏；12月，终极AlphaZero问世，除了围棋，还可以下象棋和将棋。

这些情况着实令人印象深刻，但是也提醒了人们关于人工智能技术的局限性。棋类游戏虽复杂，但是却都有着相对简单的游戏规则，而且双方可见。人工智能可以快速地计算潜在的落子位置的可能性。但是，在生活中，大多数的情况和问题可不是那么井然有序的。

这也是为什么DeepMind和Facebook在2017年着手研发多玩家游戏《星际争霸》的原因了，因为在这种情况下的人工智能，还并不成熟。DeepMind的研究人员Oriol Vinyals接受连线杂志采访时表示，目前的软件缺乏必要的计划和记忆能力，需要仔细地收集数据，以便能指挥一支军队，并对对手的行动进行预测和反应。

或许，这项技术的进步，在真正的军队执行任务时会发挥重要的作用。2018年《星际争霸》类游戏中人工智能技术的进步，可能预示着AI更强大的应用。

尽管人工智能在识别是非的问题上，尚未取得进展，但是现有的人工智能技术已经得到了广泛的应用，经济和社会等许多方面可能会发生翻天覆地的变化。最近，不管是公司还是政府都急于让人工智能在明辨是非方面取得进展，在小智君看来，这有可能会让人工智能或机器学习给人类带来伤害，意外或有意，都有可能。

如何让这项技术在安全和伦理范围内都是对人类有益的呢？这也是此次机器学习会议上的一个重要的讨论话题。研究人员发现，机器学习系统在接受数据训练时，可以摒弃令人讨厌或者不想要的行为，比如，放弃性别歧视的特征。现在，一部分研究人员正在探究用于审计人工智能系统内部工作的技术，并确保他们在从事金融或医疗领域的工作时，会做出公平的决策。 

2018年，各个科技公司将会提出如何在人性方面对人工智能做出正确引导的想法。谷歌、微软、Facebook以及其他的公司，已经开始讨论这个问题了。这些公司是一家名为Partnership on AI的非盈利组织的成员，该组织致力于研究人工智能的社会影响。此外，其他的组织也在做同样的事情。一个名为The Ethics and Governance of Artificial Intelligence Fund的组织正在对麻省理工学院、哈佛大学和其他研究人工智能和公众利益的机构提供支持。

不管怎么样，人工智能的发展还有很长的路要走，跨过种种障碍，终将会朝着对人类有益的方向迈进。

来源：人工智能观察