30年后，再来看霍金的“人工智能威胁论”

　　

　　【未来科技范 报道】3月20日消息，短短几天内，一个又一个重量级人物离开了我们。接二连三的突然，让人有些来不及悼念。

　　刚叹罢“是他一手成就了奥黛丽·赫本”，就感慨“轮椅太小，他只是回到了更浩瀚的宇宙”;而今，我们又在唏嘘“原谅我这一生不羁放纵爱自由”。轮番的真情流露，既是追忆，也是缅怀。

　　肉身虽逝去，精神永流传。他们留下的，有唯美浪漫的爱情传奇，有惊世骇俗的时空遐想，还酣畅淋漓的嬉笑怒骂。但同时留给世人的，还有振聋发聩的警告。

　　比如霍金生前曾三番五次表态，“人工智能可能会毁灭人类”。

　　未雨绸缪也好，危言耸听也罢，老爷子已经仙游，剩下的就交给我们来思考。

　　核心技术的屡获突破与重磅新闻的接踵而至，让人工智能这一事物早已不再像从前那般神秘。至于如何评价人工智能，主流态度无外乎两种：一来，它可以大大提高生产力，推动社会进步的同时，改善老百姓的生活水平;二来，它颠覆性的发展与存在，或将在未来大面积取代人类，并带来伦理层面的挑战。

　　孰是孰非，恐怕辩论个三天三夜都难有定论。不过，或许正因为争议不断，才造就了人工智能的魅力无限。

　　正如霍金本人，其实同样也是人工智能技术的支持者。

　　一

　　人工智能并不是新鲜事物。早在20世纪上半叶，“机器思维”就已出现在这个世界上。

　　1936年，英国数学家、逻辑学家阿兰·麦席森·图灵从模拟人类思考过程和证明过程入手，提出利用机器实现逻辑代码的执行，模拟人类的各种计算和逻辑思维过程。他用一条无限长的纸带、具体进行操作的机械以及一张操作规则表，构建了一台“解决任何可证数学问题”的“机器”，即后人津津乐道的“图灵机”，它让纯数学的符号逻辑同实体世界之间第一次建立了联系。

　　1950年，图灵再度发表了一篇划时代的论文《计算机器与智能》。文中提出了著名的“图灵测试”，即如果一台电脑能在5分钟内回答由人类测试者提出的一系列问题，且超过30%的回答让测试者误认为是人类所答，那么就可以认为这台电脑具有智能。同年，图灵还做出预言：创造出具有真正智能特质的机器，是完全有可能的。

　　图灵超前的思想，勾起了无数学者对未知世界强烈的探索欲望。1956年夏天，以麦卡锡、明斯基、罗切斯特和申农等为首的一批有远见卓识的年轻科学家在美国达特茅斯大学举办了一场会议，共同研究和探讨用机器模拟智能的一系列有关问题，并提出了“人工智能（Artificial Intelligence，AI）”这一术语。由此，达特茅斯会议也被认为是人工智能这门新兴学科诞生的标志。

　　不过，人工智能的发展实践却不是一帆风顺。一个甲子的轮回中，人工智能的发展经历了三起三落，但总的趋势依旧是稳步向前(详见图1)。

　　自2006年起，人工智能进入加速发展的快车道，而日益成熟的互联网技术，以及并行计算能力、大数据和先进算法也在给予助力。2016年春天，一枚“重磅炸弹”震惊了全世界：AlphaGo战胜了世界顶级围棋高手李世石，正式宣告了多年的曲折前行终生蜕变，人工智能新时代已经真正来临。而后的接连突破更是一发不可收拾，人机高考大战、智能机械手臂、无人驾驶、人脸识别……不经意间，人工智能已经悄无声息地渗透到人们生活中的方方面面。

　　与此同时，人工智能行业还倍受资本市场青睐。2017年前三季度，我国在人工智能领域共有107个项目获得投资，获得投资总金额201.2亿元左右，相比2016年全年，实现48.6%的增长。为了争夺这一风口，国内众多互联网巨头更是纷纷跑马圈地，竞相布局以谋求发展，整个市场一片繁荣。

　　为了抢抓人工智能发展的重大战略基于，构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国，国家不遗余力地给予政策扶持。2015年，国务院提出将人工智能作为11个重点布局的领域之一，推动其在智能家居、智能终端、智能汽车、机器人领域的应用。2017年7月，《新一代人工智能发展规划》出台，提出“三步走”计划，到2030年人工智能理论、技术与应用总体达到世界领先水平。此外，为贯彻落实“十三五”规划《纲要》，加强“互联网+”、人工智能等前沿技术领域创新，加快推动数字经济发展，今年年初，国家发改委组织实施了2018年“互联网+”、人工智能创新发展和数字经济试点重大工程，并有56个项目入选其中……

　　天时地利人和占尽，人工智能想没前途都难。

　　二

　　随着人工智能在各行各业中的普及与应用，人们已完全能够切身感受到其优势所在。当无人驾驶亮相深圳令世人惊叹之时，当生产车间越来越依靠智能化、自动化流水线时，当产品的外观质检越来越依靠机器视觉设备来替代质检员的人眼和人脑来实施时，当学校的老师们可以无需为批改试卷而费力之时，人工智能可以大幅度提高工作效率这一命题自然也就成立了。

　　于是，在这个追求效率和质量的时代，人工智能成为了当之无愧的宠儿，甚至在国民经济发展中扮演的角色也越来越重要。

　　可殊不知，我们在享受人工智能带来的种种利好时，很多人的饭碗已经快要保不住了。

　　失业危机，也成为了目前人类对人工智能强势崛起最为忌惮的痛点所在。

　　一切历史都是当代史。当前我们眼前所发生的种种，从历史上几乎都能找到类似的情境;所以，“以史为鉴，可以知兴替”，之于人工智能大抵也是如此。

　　我们不妨回忆一件有意思的事情：

　　上世纪70年代，电子信息技术革命来临，IT界不断的技术革新让人们的工作方式发生了巨大变化，效率显著提高。然而，事实却与人们看到的不尽相同。1973年美国政府公布的非农业生产部门数据显示，表征人均产出大小的劳动生产率与表征技术进步/生产效率的全要素生产率年均增长分别为2.9%和1.9%;随后的1973~1997年间，劳动生产率与全要素生产率年均增长速度分别仅为1.1%和0.2%。

　　尽管计算机处理能力增加了两百多倍，但美国自1973年开始便结束了生产率高增长时期，生产率的增长速度降至此前25年的一半，而且企业的信息技术投资与投资回报率之间没有明显的关联。

　　这一现象，便是著名的“IT生产率悖论”，诺贝尔经济学奖得主罗伯特·索洛对此描述道：“除了生产率统计方面之外，计算机无处不在”。

　　换句话说，虽然IT产业发展迅猛，但是它对宏观经济生产率的提高作用却微乎其微。

　　之所以用此为例，是因为人工智能同IT技术一样，都属于“通用目的技术（General Purpose Technology）”的范畴。根据最新的维基百科介绍，经济学家们普遍认为，人类发展史走到今天，总共出现过26种通用目的技术，包括蒸汽机、电力、内燃机、IT、人工智能……等等。

　　什么是通用目的技术?我们可以将其理解为同时包含以下四方面特点的一种技术：

　　1、可以被广泛应用至国民经济各个领域，无论是农业、工业还是服务业;

　　2、可以持续促进生产率提高，并同时降低使用者的成本;

　　3、可以显著促进新技术创新，并推动新产品的生产;

　　4、可以不断促进生产、流通和组织管理方式的调整和优化。

　　以IT技术为例：它问世后，以初期的某个特定应用领域为起点;随着技术的不断发展与进步，其应用成本将会逐渐下降，同时应用范围会不断拓展至其他各行各业。此外，IT技术具有极强的正外部性，其自身的演进也会显著地促进其他新技术的创新和应用，并同其他技术形成良好的互补。最后，IT技术的应用不仅促进了产品和生产环节的技术创新和生产方式的转变，还加速了组织管理方式的优化，实现了产品技术、过程技术、组织技术的提升。

　　可以看出，人工智能同样具备这些特征。

　　那么，今天的人工智能，是否会重复昨天IT生产率悖论的故事?我们不妨从数据总寻找答案。从图2来看，自2008年国际金融危机至今，中国的劳动生产率水平一直是稳步上升的，但增速却从2009年的9.02%降至2017年的6.85%，虽说个别年份增速有所波动，但依旧无法掩盖总体下降的态势。

　　另外，为了便于观察，笔者采取大致五年一个阶段来衡量全要素生产率的平均增速水平。从图3中不难看出，自2000年以来，中国的全要素生产率增速是逐阶段趋于下降的，尽管近年来各种新技术、新产业、新业态、新模式喷薄涌现，但是2010-2017年全要素生产率的平均增速却降至1990年以来的最低值，仅为2.04%。

　　如此看来，人工智能在我国的崛起与几十年前IT产业在美国的繁荣如出一辙，虽然人工智能技术的应用可以大大提高人们的工作与生产效率，但是却并没有让宏观层面的整体劳动生产率与全要素生产率得到显著提高，二者甚至还有所降低。

　　称人工智能为当代版的“生产率悖论”，并不过分。

　　三

　　凡事皆有因，悖论也不例外。

　　追本溯源，不少人对处于发展初期的通用目的技术抱有过高的预期，认为它能够在短期内迅速促进生产率的增长。然而他们并未考虑到，生产率增长与通用目的技术的发展之间有着明显的滞后效应。

　　麻省理工学院数字经济倡导行动主任Erik Brynjolfsson教授认为，这种滞后效应源自三个方面：

　　第一，通用目的技术自身从发展到成熟，再到最后提高国民经济生产率增长速度，会经历一个较长的时间周期;

　　第二，若想充分全面地发挥出通用目的技术的潜力，还必须依赖于与其相关的其他互补式创新技术的大力发展，这样才可能激发出组合式创新并推动生产率的大幅度提升;

　　第三，通用目的技术的发展需要极为耗时的额外创新和投资，而为了获得通用目的技术的好处而跟上技术的加速发展，社会组织与机构可能需要经历长期的内部重构方可适应。

　　尽管我国人工智能的发展势头迅猛无比，但依旧处于初级阶段的基本行情并没有变，行业规模占国民经济比重尚不足1.5%。这也就意味着，作为一项通用目的技术的人工智能将与较低的生产率增长水平长期并存。

　　可若干年后，一旦人工智能技术进一步成熟，同时其他相关的互补式创新技术也得以提升，社会组织与机构的内部重构完成，届时必将迎来一个爆发式的生产水平提升阶段。

　　正如Brynjolfsson教授所说：

　　“我们在自动驾驶汽车项目投入了时间和金钱，但因为它们还没有上市出售，这就不被认为是创造了生产力……虽然我们现在可能看到比较低的生产力，但在将来我们能看到更高的生产力数据。”

　　这一点，同样可以从历史上找到证据。

　　在1890-1920这30年间，除了发明了电动引擎和灯泡外，人们似乎没有看到大幅度的生产力提升。工厂大多在信息技术时代(上世纪70年代)才用电动引擎替换了蒸汽动力，但一座工厂的基本结构并没有发生变化，这种结构被设计成围绕着一个大的中央电源运转。

　　事实上，当“小的电源动力分布在整个工厂”这一模式开始流行时，已经过去了20~30年。随着流水线生成的普及，制度和生产方式也在发生变化，这反过来却促成了19世纪20年代的生产力大发展与大提升，同时也充分印证了生产率增长与通用目的技术发展之间滞后效应是真实存在的，更加支持了“生产率悖论”的合理性。

　　既然国家整体生产率水平尚且没有因人工智能而发生明显提高，那么人们姑且可以松一口气：虽然微观上看，不少领域的工作已经可以由人工智能代劳了，但是宏观上看，大面积的失业目前还不至于到来。

　　话说回来，像人工智能这样的新技术的确能代替人完成某些任务，甚至在某些领域完全可以取代人力进行智能化工作，但也要看到，这样的新技术同样会导致产出的增加、诸多配套产业的发展与新兴商业模式的出现，随之而来的便是无数新增的就业机会。新技术可以把从生产领域替换下来的员工转移到新的互补领域中，通常这对整个社会来讲都是有益的。

　　说白了，长期来看，人工智能必然会“吃掉”相当一部分就业岗位，但也会同时创造新的就业岗位，那些因人工智能而失业的人们，似乎也无需为自己的才能无处安放而过于担心。

　　然而，二三十年后，新增的就业岗位数量是否能覆盖减少的数量?到那时，失业的人们是否能在短时间内快速适应角色的转换，并胜任新的工作?新的就业市场是否会比今天国家的就业形势竞争更为激烈，求职更为艰难?

　　谁也说不准。

　　四

　　还没有结束。

　　人工智能给人类带来的冲击，就像它的强大一样超出我们的想象。除了失业的风险外，还有“三座大山”在等待我们去搞定：

　　1、收入分配

　　不少研究显示，伴随着20世纪70年代信息社会的来临，技术的飞速发展引起了收入分配的加速恶化，大量的财富聚集在越来越少的人手中，而且还有愈演愈烈之势。

　　究其原因在于，各类生产要素的边际收益水平是不同的，资本与技术的边际收益高于劳动已是众所周知。于是，劳动工人的收入增速必然会落后于资本与技术的拥有者，久而久之，收入分配不公的态势会越来越明显。

　　事实上，同样作为新技术的人工智能，其发展势必也会面临这一问题，即大头的收益只是越来越被少数的技术精英攫取，大部分的民众非但没有从发展人工智能之中获得收入的增长，还要承受着随时可能会失业的压力。倘若这些风险持续累积，或许还会对社会长久稳定造成负面影响。

　　2、政治权威

　　纵观历史，在任何时代，不管是何种体制、何种性质的政权，其背后权力实施的唯一主体都是人类。但是，按照目前人工智能的发展势头，倘若日后拥有自我意识和情感的“超级人工智能”得以崛起，那么“代替人类行使行政权力”的戏码便极有可能会上演，到时必然会威胁到人类权力的权威性和合法性。因此，当未来新的行政权力出现时，如何从法律层面清晰地界定不同权力实施主体的边界尤为关键，而最为重要的是如何保证人类行使权力的正当性，以防止机器威胁到人类的生存。

　　同时，人工智能的存在还可能会颠覆传统的政府治理模式。毋庸置疑的是，人工智能在商业领域应用进度要快于政府。当商业领域广泛使用人工智能，而政府却未能紧随其后，那么技术落差便会逐日增加，这将对政府造成巨大压力。所以，如何基于人工智能技术便捷政务流程，优化治理模式，是当前又一大重点难题。

　　3、监管与伦理

　　埃隆·马斯克曾经提出，人工智能有可能会成为人类文明的最大威胁，呼吁政府快速采取措施，有效监管这项技术。这与霍金的言论多少有些异曲同工之妙。

　　从目前来看，政府需要对人工智能加强监管的领域主要包括两方面：

　　一来，人工智能的大部分算法虽然高效，却缺乏透明度，且该特性不会随着技术发展而彻底改变，而这也给责任认定带来了天然的障碍。于是，以往通过企业透明披露产品和系统信息以便政府监管的做法，在人工智能领域是行不通的。

　　以自动驾驶汽车为例，人工智能系统作为一个整体完成最终的控制动作，一旦发生人工智能系统的错误操作，除了明显的传感器故障，人们无法清晰定位问题原因，也不会立即明确该如何调整系统，更不用说如何有针对性地提出意见，并判定责任所在。

　　二来，人工智能很可能会在不久的将来挑战现有的法律体系，冲击社会的伦理道德。比如说，机器伤害了人，应该由谁来负责?当机器人具备自主意识后，是否会成为民事主体?到底何为生命?“人”的定义是否会发生变化?“人”与“非人”的界限到底在哪里?如何确保人工智能遵循人类的道德与价值观，保障人类的基本人权?

　　路漫漫其修远兮，我们与人工智能的赛跑才刚刚开始。

　　五

　　如何完成人工智能技术攻关，是对人类头脑和意志的要求;而怎样融洽地与人工智能和睦共处，则是对人类智慧与灵魂的考验。

　　好在我们还有时间，尽管人工智能可能不会等待我们太久。

　　参考前文的讨论，不妨给自己设定一个期限：30年。

　　30年后的21世纪中叶，源自人工智能的国民生产力爆炸式飞跃很可能会得以应验，而关乎到民生、经济、社会、政治、伦理的诸多应对措施，大概也该兑现得差不多了。

　　那时的人们，一定也会时常谈起那位轮椅上的物理巨匠，谈起他留给世人的关于人工智能的“遗言”，就像我们今天会谈起爱因斯坦与他的相对论一样。“人工智能威胁论”，到底是未雨绸缪还是危言耸听?相信这个今天我们无法回答的问题，谜底会在30年后自行揭开。