继不久前美国电动汽车厂商特斯拉首席执行官马斯克和社交媒体网络脸谱创始人扎克伯格就人工智能（AI）技术的危害隔空辩论之后，近期全球一百多位人工智能专家联名致信联合国，呼吁禁止基于该技术的自动化武器的发展。人工智能产业化前景毋庸置疑，但其双面性使得如何在以人类安全和利益为重的前提下，对其潜在的威胁进行制衡正引发越来越多的思考。
预警“机器人杀手”
上百位科技界领袖和人工智能专家近期联名签署一封信，敦促联合国尽快采取行动应对自动化武器的潜在危害，以免为时过晚。
信件在21日于澳大利亚墨尔本举行的人工智能技术会议上被公开。据法新社报道，116名机器人与人工智能技术领域的科技领袖致信联合国警告称，“机器人杀手”，即能致人死伤的自动武器，可能带来继枪药炮弹和核武器之后战争领域的第三次革命。信件称，一旦发展了自动化武器，就可能令武装冲突作战规模大于以往，并且作战规模的发展速度可能要比人们所能理解的快得多。信中称，这些自动武器可能包括恐怖武器、专制者和恐怖分子用来对付无辜人群的武器，或以多种令人不快的方式出现的武器等等。恐怖组织还可能通过黑客技术盗用“机器人杀手”，进而伤害无辜平民。
信中称，人们必须抓紧时间行动，一旦这一潘多拉盒子被打开，就很难再关闭起来。致信的科技界人士包括美国特斯拉公司首席执行官埃隆·马斯克、谷歌旗下研制出人工智能“阿尔法狗”的深度思维技术公司联合创始人穆斯塔法·苏莱曼、著名人工智能专家托比·沃尔什、中国优必选科技有限公司创始人周剑等，他们建议联合国像禁止生化武器一样禁止此类武器。
参与签署这封信件的澳大利亚新南威尔士大学人工智能专家托比·沃尔什表示，他对全球人工智能武器军备竞赛感到十分担忧。他说：“如果我们把人工智能武器运用到战争中去，最终人类将陷入一个非常危险、极其不稳定的世界。”
沃尔什认为，人工智能具有双面性，这项技术必须研发下去，但应建立在以全球人类安全为重的大前提下，建立在各方在人工智能研发中必须就制衡达成共识的基础之上。沃尔什举例说，人们需要自动驾驶汽车，在该领域人工技术怎样发展都不为过，可以带来很多益处；但是这些技术稍加改动就可能会产生很坏的结果。沃尔什表示，因此相关的立法就显得尤为重要，全社会必须共同努力确保不在战争领域使用这些技术。
据联合国官网显示，一个联合国人工智能专家组原定21日开会商讨“机器人杀手”事宜，但会议随后取消，预计将推迟至11月举行。
AI是福是祸？
目前，人工智能技术几年间已经从实验室逐步走向产业化,全球科技企业均在纷纷布局人工智能领域。人工智能技术的快速发展，令人们在享受其便利的同时，对其潜在危害的担忧也不断加深。科技大佬们在这一问题上交锋不断。今年7月底，马斯克与美国社交网络脸谱公司创始人马克·扎克伯格围绕“人工智能对人类是福还是祸”展开隔空论战，引发关注。
科技狂人马斯克一直指责人工技术的潜在危害，曾将人工智能技术称为人类文明目前面临的“最大危险”。他曾警告说，“具有超级智慧的人工智能产品”各方面能力远超人类，那么人类在强大的人工智能面前可能会沦为“家猫”。
马斯克认为，人工智能崛起产生的潜在危险应得到重视，他呼吁成立监管机构引导人工智能技术发展。马斯克列举了多项人工智能或将引发的最糟后果：如人工智能技术将威胁所有人类工作，以及这项技术甚至可能引发战争。他说，人工智能可以比人类更快、更高效地完成任务，更加危险的是，机器人能“制造假新闻、假电子邮件账号和假信息，以及操纵信息，从而引发战争”。
以自动驾驶技术为例，马斯克预测，20年后，美国道路上所有汽车都将是自动驾驶汽车，拥有一个方向盘“将如同拥有一匹马”。当所有汽车变成“车轮上的笔记本电脑”，网络安全将成为重要关切。他说，如果黑客有能力指挥所有人的汽车前往同一地点，“那将成为特斯拉的末日”。为应对这些危险，驾驶员必须有能力在不受任何软件干扰的情况下驾驭汽车。
马斯克成立了一家非营利性企业OpenAI，帮助实现更加安全的人工智能技术。今年3月他月还宣布成立一家名为“神经连接”（Neuralink）的公司。这家科技企业致力于连接人脑与电脑，提升人脑能力，确保人类有能力应对人工智能带来的威胁。
对人工智能未来持悲观态度的并非马斯克一人。美国微软公司创始人之一比尔·盖茨也曾表示，人工智能可能对人类带来威胁。不少科技界人士之前也曾对人工智能技术的潜在危害发出过预警，尤其是对“机器人杀手”。2015年，马斯克、英国著名科学家史蒂芬·霍金以及美国苹果公司联合创始人史蒂夫·沃兹尼亚克等科技界人士也曾联名发布过类似信件，预警人工智能带来的“危险”，尤其是不可对“机器人杀手”掉以轻心。
但科技界无疑也有很多人力挺人工智能技术。扎克伯格就不赞同马斯克的观点，他对人工智能技术的发展相当乐观。扎克伯格表示，不能理解“那些认为人工智能会导致末日的‘悲观主义者’……从某种角度看，我认为他们很不负责任”。
前百度首席科学家吴恩达近日在推特网站发声，支持扎克伯克反击恐惧人工智能的观点。他表示：“作为一名熟悉人工智能的业内人士，我曾创建和输出大量人工智能产品，但我没有看到人工智能会超越人类智力的明确迹象，”吴恩达说，“我认为，（人工智能将引发的）失业是个巨大问题，我希望人们聚焦于此，而不是被那些科幻小说式的元素分散了注意力。”
未来学家、美国奇点大学校长雷·库兹韦尔认为，应当让机器人拥有自主意识，相信人类会利用好科技这把“双刃剑”。德州扑克人工智能系统开发者、美国卡内基－梅隆大学教授图奥马斯·桑德霍尔姆说，人工智能技术的风险被夸大了，而大众传媒对这项技术的好处阐述得还不够。
著名人工智能专家、斯坦福大学人工智能实验室负责人李飞飞表示，“我相信，技术终将为人类服务。”清华控股董事长徐井宏表示，“任何一种先进技术，都可能同时存在促进作用和负向作用，无论人工智能在某一领域比人强多少，它依然是人的智慧产生的，就像计算机的病毒，无论发生多少变化，依然有可以控制的办法。”
不过，人工智能技术正快速发展，随着新情况的不断出现，或许人们都必须重新思考其利与弊。不久前，就有美国媒体称，脸谱开发的聊天机器人自创出人类无法理解的语言。据报道，由于聊天机器人开始用自创语言对话，全然无视程序员下达的指令，研究人员只得终止人工智能系统的全部活动。报道称，研究人员起初对机器人用自创语言聊天一事感到困惑，但之后他们发现，机器人其实是在用一种更复杂的方式来处理手头任务。报道称，人工智能可自创语言也意味着能构成新威胁，因为这将使研发人员在创造构建人工神经网络时遭遇更大困难。目前，尚不清楚人工智能机器人能否推翻操作人员的指令。
就业冲击来临？
除了技术失控可能带来潜在威胁外，人们对人工智能技术的另一大担忧来自于就业领域所可能受到的冲击。但不少业内人士均认为，人工智能的投入使用帮助节省了人力成本，将不可避免地带来一些就业岗位的流失，但同时又在创造新的岗位，人们或许不必过于担忧。
有媒体报道称，人工智能或夺走英国超千万工作岗位。英国萨顿基金会在一份报告中写道，机器人技术和人工智能将削弱英国社会流动性，同时在英国减少多达1500万个工作岗位。报告认为，英国社会流动性如果达到西欧平均水平，可使年国内生产总值增加2.1%，即大约390亿英镑（约合500亿美元）。
萨顿基金会首席执行官李·埃利奥特·梅杰说：“机器人技术的崛起正在夺走职场传统的上升机遇。”报告说，英国社会今后可能将形成两层架构，“一层是高技能精英群体，占据社会较高阶；另一层是低技能、低收入群体，向上流动的前景渺茫”。
但也有不少观点指出，人工智能现在看来很难真正取代人力。自动化能释放出来的人力资源，可以投入到更高附加值的岗位中去，人们需要更多思考如何从事更多机器无法实现的工作。
据美国信息技术与创新基金会的调查数据分析，科技摧毁更多工作岗位的说法是不对的。数据显示，美国的劳动力市场正处于前所未有的平稳阶段。该机构的总裁罗伯特·阿特金森的研究显示，如今科技每减少10个工作岗位，就会创造6个新的岗位，这一比例是1960年以来最高的。同时，科技进步带来的劳动生产率提高还令社会总产出和经济效率更高，最终带来收入的增长，促使旅游、医疗、文娱和餐饮等难以被取代的服务业的工作岗位大幅增加。
积极思考如何与新技术同行或许是战胜恐惧的更好方式。英国商务、能源与产业战略部一名发言人说，政府已经邀请一组行业专家研究数字技术和自动化带来的挑战和机遇。这些专家以德国西门子公司首席执行官于尔根·迈尔为首。这名发言人说，政府将考虑“如何与企业合作，确保新技术的好处能够普照经济各方面，在全英国创造新的、令人激动的、薪酬体面的就业岗位”。
趋势不可逆转
人工智能是新一轮科技革命和产业变革的核心驱动力之一，在全球快速发展的趋势不可逆转。近年来，从智能家居、智能汽车到机器人保姆、能下围棋的阿尔法狗，人工智能的潜力越来越为公众熟知，产业化进程不断加速。随着电脑运算能力提升、辨识技术突破及大数据应用，人工智能发展正迎来新一波发展浪潮。
普华永道会计师事务所发布的报告预测，在人工智能技术推动下，2030年全球国内生产总值将增长14%。普华永道预测说，到2030年人工智能将为全球经济贡献15.7万亿美元。从2016至2030年人工智能将带来的各经济增长数据来看，超过50%的增长将源于劳动生产率的提升，其他则主要来自人工智能激发的消费需求增长。
这份报告认为，中国和北美在这波人工智能浪潮中受益将最明显——在相关技术发展带动下能让中国的GDP到2030年增长26%，北美GDP增长14.5%。此外，人工智能也会推动欧洲及亚洲一些发达国家出现显著的经济增长。而在许多发展中国家，包括拉美和非洲的国家，由于人工智能技术采用率预期较低，因此人工智能带来的经济提升幅度相对没那么高。
最新《安永成长晴雨表》调查显示，受访的高级主管认为，机器人与人工智能崛起是将来全球市场发展的不确定因素之一，同时也表示市场会因此带来成长机会。
“不管你喜不喜欢，人工智能的时代已经到来。”台湾主要工具机制造商、友嘉实业集团总经理马仁宏说。就人工智能给产业界带来的新挑战，他表示，“工业4.0”和人工智能时代的核心课题是转型，产业、企业都要转型，把握住契机，提升所在产业的附加值。
台湾“工研院”分析师黄仲宏指出，预计到2021年，全球智慧型机器人市场规模将从2011年的122亿美元成长至336亿美元，其中工业机器人与服务型机器人的市场规模都将持续成长，而服务型机器人会因庶务人力短缺、智慧家居和医疗照护等需求旺盛而成长更为快速。
安永联合会计师事务所分析师黄昶勋认为，人工智能会在商业、医学等一些服务性行业首先作为人力的辅助有较大发展。
日前，中国也出台了首部国家级人工智能发展规划——《新一代人工智能发展规划》，将新一代人工智能发展提高到了国家战略层面。全球最大的咨询机构埃森哲公布的《人工智能：助力中国经济增长》报告显示，通过转变工作方式和开拓新的价值和增长源，人工智能有潜力将2035年的中国经济总增加值提升7.111万亿美元，年增长率从6.3%提速至7.9%。
“中国已在人工智能领域取得巨大进展。”埃森哲大中华区主席庄泉娘表示，人工智能有潜力提振中国当前放缓的经济增长，各利益相关方应在智力、技术、政治、道德和社会等各方面做好准备，迎接人工智能引领未来。
“人们对人工智能充满期待，也应保持高度警惕。”普华永道环球审计服务市场主管合伙人伍智杰认为，应以负责任的方式来设计和部署相关技术。“我们要优先考虑信任和透明度，而非商业模式、投资目标和绩效提升方法，这样才能帮助人们理解人工智能的效用，使其正确地为我们所用。”
