本文是对斯坦福大学的Michael Webb的采访实录，他接受了马斯克的资助，正在研究如何使人工智能的经济影响保持对人类有益。本文来自forbes，作者：David J. Parnell 。机器之心编译出品。参与：iCombinator，微胖，汪汪，Wei。本文头图由海洛创意授权，未经许可，不得转载
史蒂夫·霍金在接受BBC采访时表示：「人工智能将会自己起飞，并保持一个持续的增长率进行自我的重新设计。而人类则受限于缓慢的生物进化，将无法与之竞争，从而被取代。」
比尔·盖茨在Reddit上说：「我站在担忧超级智能的阵营。一开始，机器将为我们做很多工作并且不会变成超级智能。如果我们管理到位，这会取得较为积极的结果。但在那之后的几十年，人工智能有可能变得非常强大，足以引发我们的担忧。在这一点上我同意伊隆·马斯克等人，我不理解为什么有些人对此漠不关心。」
伊隆·马斯克在麻省理工学院AeroAstro百年学术研讨会（MIT AeroAstro Centennial Symposium）说：「我越发倾向于认为应该对人工智能的发展加以管控和监督，或许应该在国家和全球层面上，以此来确保我们不会做下蠢事。」
人工智能日益变成现实，全世界的许多聪明人都非常严肃地对待这件事。虽然人工智能末日的情节看起来不大可能实现——至少从目前看来是这样，但今天的确带来了对经济和劳动力市场的实际挑战。
马斯克一直努力确保「人工智能对人类永远有益」，向未来生命研究所（Future of Life Institute）捐助了1000万美元来支持存在性威胁、人工智能相关政策等方面的研究。今天我们采访了斯坦福大学的Michael Webb，他是马斯克的被资助者，正在研究如何使人工智能的经济影响保持对人类有益。
定义人工智能
Parnell：你可以定义一下人工智能吗？这个词目前被滥用了，有着太多的定义，在你看来，应该如何定义人工智能？
Webb：对这个问题，我有一个有意思的答案和一个严肃的答案。有意思的答案是，人工智能就是可以完成现在的计算机所无法完成的所有工作。50多年前，人们按照某些任务来定义人工智能，比如说会下国际象棋。下国际象棋曾经被认为是一种机器永远无法做到的典型的人类能力。这个定义很明确——如果你能下国际象棋，就具有智能。之后就出现了一些特定算法使计算机能像人类一样下国际象棋。
之后，人们开始建议说，或许国际象棋不是对智能很好的定义，于是又想出了其他典型的人类能力。这种定义智能的模式不断重复。在10年前，人们定义的智能标准是能够完成驾驶行为中的一系列复杂决策：在三维环境下的移动以及与多个自主实体的交互。结果我们现在有了自动驾驶汽车，但人们依然不是很确定我们是否已经拥有了人工智能。
关于那个严肃的答案。首先需要声明的是，「人工智能」经常与「机器学习」混用。机器学习有一个被广泛认可的定义：一些通过使用数据（通常是大量数据集）来学习特定事物的计算机算法。它们所学习的可以是物体识别、图像识别，也可以是阅读法律文件，等等。
人工智能应该分开来理解。「人工」意味着它需要被计算机控制，或者它是我们创造出来的某些东西。「智能」可以被定义成人类能够做到的任何事情，以一些较为抽象的术语来表示。
创造人工智能的挑战
Parnell：我们在创造人工智能时面临哪些主要挑战？
Webb：我认为这个故事的背景应该从摩尔定律开始，它是指计算能力的指数级增长，具体来说，是指我们在一个微型集成芯片上能安装多少电路以及成本是多少。这项技术在过去几年中表现越来越好，带来了计算能力的巨大提升。我们也看到了在过去5-10年间特定算法的能力发生了巨大变化。算法是指令的基本设置，能够告诉机器如果获取数据并从中学习。其中的一些算法在很久以前就被发明出来了——比如说在70年代和80年代，在很长一段时间，这些算法没有体现出任何价值。但结果发现，如果我们有了足够的计算能力，它们可以表现的非常出色。
另外一个关于摩尔定律的重要事实在于，我们现在拥有了更多数据，机器可以从中学习。消费者可以借助互联网完成的事情数量呈指数级增长。例如，亚马逊获得了大量关于用户购买习惯的数据。我们可以轻易列举出很多这样的例子。
近期人工智能领域的进步主要体现在哪几个方面？
Parnell：过去5-10年中出现了哪些进步，可以说明我们正在真正实现人工智能？
Webb：其中一个令人异常兴奋的经典算法就是卷积神经网络。这些非常复杂的算法在近几年给计算机的能力带来了巨大提升，可以让计算机去做更多的事情，让它们可以看、听、甚至是翻译，在某些领域已经达到甚至超过了人类水平。
因此，目前计算机基本具有了「看」的能力。例如，如果我交给它一张图片——一堆像素——同时它拥有正确的训练过的算法，它就能看懂图片并加上标签。这在两年前根本是不可能的。而今天这个问题解决了。
计算机还能「听」和「理解」。和计算机视觉领域一样，语音识别也同样取得了进展。这些进展目前还没有完全体现在Siri和Google Voice上，但你或许会发现Siri或者微软的Cortana已经比十几年前好了太多。请记住，这些东西还完全没有达到人类水平，但它们正朝着那个方向前进，并且将很快到达那里。
近期，我们也看到了机器人领域的巨大进步。对于机器人来说，困难在于让它「看懂」和「理解」它所在的世界，然后再与这个世界进行交互。结果表明，（机器人）行走是一个难题。我们近期看到了在让机器人「看见」这方面取得的巨大突破，将卷积神经网络应用在机器人视觉上，然后将它们与那些能够训练机器人有效行走的算法结合起来，从而使机器人能够去做一些人类要求的事情。
例如，近期有一个具备了不可思议学习能力的机器人。如果你交给它一本某品牌咖啡机的使用手册，它能够从手册中学习到很多东西，当你把一个不同的咖啡机排在它面前时，它已经能够学会这台新咖啡机的工作原理，然后就可以使用这个全新咖啡机帮你做一杯浓缩咖啡。
更酷的事情在于，一旦你将这些机器人释放到真实世界，它们能够全部连接到一个统一的「云引擎」，这里保存着所有接入机器人的「主算法」，这意味着外面任何一个机器人所做的事情和学习的东西，都会立即传给中央引擎，然后其他机器人都会在第一时间学习到这些经验。因此，这些机器人不仅能够各自学习，还拥有一个能够从所有机器人中进行学习的超级大脑。这必将使整个系统的学习速度实现指数级提升。
技术性失业的历史教训
Parnell：我们已经看到了历史上的多次科技革命。在有些时候，它们和失业、社会化抵制紧密联系在一起，比如说之前的卢德革命，你对此怎么看？
Webb：是的，历史经验告诉我们，这种事情已经不是第一次发生了。从第一个工业革命开始，人们发明了取代大量劳动力的机器。但在每次变革中，在一定时期的错位和产业转型之后，对于那些相同的劳动力，就会出现新的机会，并且他们会变得更有效率。因此，历史经验的第一课就是，我们非常擅长为过去的劳动力寻找新机会。
第二点是关于伴随着人工智能所出现的担忧。这类似于19世纪大家对蒸汽动力的讨论和对其波及范围的担忧。这一次也许有些不一样，因为现在的机器更加智能，更加接近人。但我们在历史上也遇到过类似情况。我最近做了许多关于历史研究，如果我们看一下19世纪60年代，就会发现当时就有很多和我们今天相同的担忧。事实上， 美国总统Lyndon Johnson执政期间的劳工部长Willard Wirtz就曾公开表示，如今的机器有着和高中毕业生相同的技能，这种新技术即将创造「a human slag-heap」）。有一份诺奖得主Linus Pauling所领导的总统报告，它警告说会出现一场带来「几近无限的生产能力」的革命，这需要从根本上对现有的价值观念和体系进行一次重新审核。
因此，有人会问什么原因使当今时点与历史上产生了不同。在上世纪60年代就存在这些技术进步，机器能够完成一些令人印象深刻的任务。但当涉及到一些认知任务时，那些机器所擅长的是处理一些经过预先手工编程的任务，或者进行一些预设程序的计算，它们实际上不是在学习东西。
因此，如果你想要去训练一台机器来识别银行交易中的诈骗交易，你必须预先准确的告诉它所需要查找的内容。而今天的区别在于，你完全不需要这么做了。你所做的一切就是将一些标记上「欺骗性的」和「非欺骗的」数据交给计算机，然后机器依靠算法就能学会应该去查找哪些内容，然后告诉你是否存在欺诈行为。这就是今天本质的不同。
Parnell：我看到了在法律行业有些特定的劳动力正在被取代。这种现象在其他行业也很常见，一些逐渐智能化的软件取代了人们的工作。在你看来，这个过程有迹可寻吗？在未来5-10年将如何发展？
Webb：有个粗略的答案就是，这毫无疑问将会对经济产生重大影响。但很难精确的说谁将获益，谁将受损，以及这个过程（取代人类劳动力的过程）将以何种方式，按照何种顺序，遵循那种时间框架进行下去。
诚然，关于人工智能的进步如何付诸行业应用，以及按照何种速度进行应用等，依然存在很多问题。有些问题是关于人类劳动力被取代的程度。例如，是否造成了有些劳动力过剩并使它们再也找不到其他工作？如果是这样的话，工会是否会组织一场努力抗争来抵抗这种现象，他们会成功吗？哪些公司能想象得出，要如何重置生产流程以充分利用这些新技术，然后利用风险偏好和资金渠道，切实实现这一重置？政府——我们的政策制定者——会参与其中，试图放缓或实际上加速这一过程，让人口中那些否则就会处于劣势的特定阶层更加受益吗？
确切的答案是我们不知道。我们现在能做的事情就是观察历史上的特定判例，然后尝试着发现其中的异同。我们也可以更加审慎的研究目前所发生的事情。我们能做一些在一定程度上可信的建模演练，建立经济模型，希望从拥有的现实世界的数据中获取尽可能多的信息，然后借助这些模型来理解技术自动化（取代工作）所造成的影响。
这尤其会对中产阶级产生哪些影响？
Parnell：这对中产阶级将产生哪些影响？如果你将这个过程看成是一条连续的曲线，技术未来将取代人类的大部分工作内容。在那种情况下，我认为很多财富可能会被重新分配给全球范围内的上层人群中：资本从更大的中产阶级中逃离出来并集中在少数人手中。对无技能劳动力的需求会上升，因为用自动化技术取代他们在经济上不划算。因此，全球财富将出现两极分化，你如何看待这个问题？
Webb：你提到一个有趣的事实，在最近的20年或者30年，高技能工作的工资和就业率出现了巨大增长，低技能工作的工资和就业率也出现了增长。而处在中间的群体仿佛被掏空了，就业率出现了下降。尽管他们的工资也有所增长，但是与就业谱系中的上层和下层相比，差得很远。
我们依然不知道这个原因是什么。我们知道，有一个确定的因素是服务相关职业的崛起，这解释了一大部分，但并不能解释全部。现在，我们并不知道，其中有多大比例是由于自动化引起的，有多少是由于外包和其他因素引起的。
展望未来，这种空心的趋势是否会继续发展，取决于导致它的原因是否会继续存在。很肯定的事，随着新的机器学习算法被用在自动化中，用来取代人类劳动，而非增强（人类的劳动能力），那么这些算法带来的大部分收益很可能进入资本所有者以及提供这些算法服务的人的腰包里。这将导致失业率上升，社会不均恶化等——如果没有相应的政策法规进行干预的话。
但是，为什么算法会取代人，而不是增强人呢？技术史的大部分，包括最近，创新都会让人类变得效率更高，而不会取代人类的工作。也有可能，这些算法最终将通过增强人类的能力，从而增加工资和就业率。这很难说。
如何影响知识经济
Parnell：那些主要依赖知识产权的专业性服务产业——都有可能受到巨大影响。如果当前这一趋势继续下去，机器日益智能化并最终可以像人一样思考和学习——我认为这最终会发生的，不过谁知道多久才会发生呢——这些服务性产业会有什么变化？当机器处理问题速度越来越快，越来越智能，它可以获取地球上任何有关给出事例的信息，如果你是律师或者会计师，工程师等等，可能会变得多余。对此，你有何看法？
Webb：我认为这并不是事实的全部。是的，这些事务所的部分价值在于他们的智力所有权和智力能量，而这只是事实的主要情况，但并非所有。比如，我雇佣一名律师，我并不仅仅是雇佣他的知识服务，还包括我和他的客户关系，我需要找个我可以信赖的人。一旦你想实现更高水平的合作，某种程度上，你也是在雇佣名声甚至恐吓的能力。当然，那些事情中的某些部分可能难以抵制自动化，不过，有些却不那么容易被自动化。
这将如何影响大型律师事务所
Parnell：实际上，雇佣一家律师事务所的同时还会涉及大量无形的东西，其中主要部分就是这些事务所解决问题的能力。你认为计算机和软件会发展到这样一个程度：可以像今天那些最好的代理人一样很好的「思考」，善于解决难题吗？
Webb：我认为这有可能，你可能会看到律师事务在重构其运营方式，以及自身增值的方式。本能地说，我发现不太可能看到律师事务所真的消失。理论上，有可能会出现某种软件可以做到合伙人所做的事情。人们可能会雇佣算法而不是雇佣一家真实的事务所。不过，即使这些成为可能——我认为，技术上看，路漫漫，其修远兮——即使如此，人们从雇佣一家事务所中得到的并不只是解决难题；也是在雇佣事务所的品牌声誉。
如果我是财富500强公司法务部门的头儿，我会去找CEO说，「 我们需要哈佛法学院的毕业生来做这些工作」，这是看中了他们的声誉。或者雇佣顶级咨询公司，当你雇佣麦肯锡时，你不仅仅是在雇佣他们找到问题的解决之道，也是在雇佣他们的声誉，你可以告诉公司的人这些高智商的人会找到解决问题的办法，因为他们是这个行业最棒的，可以信任他们，即使你已经知道了他们将要提供给你的解决方案。
结果，你会看到市场还是会越来越诉诸那些稀有的职业技能和精英品牌。我不会怀疑精英律师的创造力，他们会想办法通过使用这些算法以提高自身地位，而不会坐以待毙。
这将如何影响大型律师事务所以外的事务所和律师？
Parnell：那么，那些没有解决最困难案子的事务所和律师，会怎样呢？
Webb：除了精英企业一边的事情之外，还有两件值得关注的事情。实际上，它们比声誉更加普适和重要。
首先，这个国家有太多没有被满足的法律需求。你会听到刑事司法体系内发生的可怕事情；但是，对所有部门法律来说，有太多人和公司想要获得好的法律建议和代理，却付不起法律服务的钱。如果算法取代了这部分法律工作，这对律师来说很经济，因为他们可以承担以前两倍多的案子。那部分「额外」的案子过去没有人做，因为它不经济。所以，现在，律师的效率是以前的两倍，薪水也比以前多，但你所雇佣的律师总数却没有变化！所以，没有人会失业，但每个人的薪水都增加了。我并不是说着一定会发生，我只是说，这是一个明确的可能性。
其次，律师的一大部分工作是向客户、陪审团、最高法院法官等起草意见和解释事情。现在，机器学习算法在解释上的表现还很糟糕。它们不能起草意见。它们擅长于预测事情，甚至也可能擅长于预测「如果你对法官说这些话，你赢官司的可能性会增大」这样的事情，或「如果你在这份合同中使用了这些表达，那你可能会遇到麻烦」。但是，我想，在许多需要创造性逻辑推理的法律语境中，预测是非常困难的。当然，如果你与研究自然语言处理（NLP，可能正是解决这个问题的领域）的AI研究者聊天，他们不会认为机器的这些能力会很快出现——至少在5年内不会出现，或许在10年后有可能出现。
但是，再次强调，或许这些预测将令人疑惑，就像象棋算法和无人驾驶汽车一样。我们明年圣诞节会拥有全功能的机器超级律师吗？我不这么认为。花上100年，或许机器才能完成人类能做的事情——那个世界将与我们现在的经验大不同，因此很难推测究竟是什么样。对我们的人生来说，甚至对我们孩子的人生来说，我认为我们依然处在我刚讲过的世界里。但是，我很欢迎大家来辩论这个预言。
聚焦在职业发展技能上
Parnell：想到这些，你如何才能准备好，在接下来的10－20年里成为一名年轻的专业人员呢？我认为，刚刚我们已经讨论了很多，那就是较软性的技能，人类的特征——例如，创造力、沟通力、领导团队的能力——在未来将拥有更高的价值。这些都是非常「人类」的特征，在科技不断开发出更好的问题解决算法的同时，你能保持自己与众不同的特质。
Webb：一部分是正确的。有很多证据证明社交能力在劳动力市场上变得越来越重要，这是毋庸置疑的。最近有一篇新发表的论文发现，在过去20年中，社交技能的回报变得越来越重要。我很肯定，这对律师来说尤为如此。
但是，还有一些其他事情不容忽视。首先，律师将承担重要的角色，帮助我们思考社会如何才能最好地管理这些新算法，以及使用这些算法的公司和产品。比如说，无人驾驶汽车出事后，谁应该负责？目前的法律根本无法想象未来的用户数据会被怎样使用，那我们如何保护数据的安全？我们想要算法地做出哪些影响我们生活的重要决定？这些决定是由算法单独做出的，没有任何人类干预，并且决定的过程不透明，不清楚它们是如何「思考」的。法律问题简直无穷无尽。我们想出来的答案，大部分将位于最坏与最好的结果之间。
第二，我之前提到过，律师可能被算法增强（效率更高）的一些方法。一些人和公司可能会通过重新想象律师的工作，以及人类律师与新兴算法之间的交互来获得这种增强。真正做到这一点的人将得到很多很多钱，这些人将在本世纪及之后的时间里，重新塑造法律界的模样。
转载请联系公众号：机器之心（almosthuman2014）获得授权，个人微信号“jiqizhixin2014”