您的位置: 主页 > 人工智能学家 > 哈佛大学发布《人工智能与国家安全》报告

哈佛大学发布《人工智能与国家安全》报告

时间: 2017-08-08阅读:

来源:国防科技要闻

概要:未来的AI技术有可能与核武器、飞机、计算机和生物技术一样,成为给国家安全带来深刻变化的颠覆性技术。AI的每一种技术都为美国国家安全机构的战略、组织、优先事项和资源分配带来重大变革,其未来影响力至少可与核武器比肩。


AI


应美国情报高级研究计划局(IARPA)的要求,哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心7月发布《人工智能与国家安全》报告,分析人工智能(AI)对美国家安全的巨大影响,为美政府AI政策提供建议。


报告概要


虽然美国军事和情报界计划在投资组合中纳入更多人工智能技术,但最具颠覆性的AI应用尚未实现。报告提出了制定人工智能和国家安全未来政策的三个目标:


①保持美国技术领先优势,为军事和情报能力优势提供砝码。


▲“阿尔法”系统在空战模拟中击败美空军退休飞行员


②支持AI用于和平和商业用途,帮助民事和商业部门享受新技术带来的好处。


③减少灾难性风险,防范或降低偶发/敌对事件带来的严重后果。


重点内容


①AI技术发展迅猛。人工智能领域在过去5年取得了显著的技术进步,远远超出预期;这种形势还将会继续发展,甚至会进一步提速。推动AI快速发展的4个因素是:计算机性能在近几十年呈指数级增长、训练机器学习的大型数据集数量增加、机器学习技术不断进步、商业投资猛增。其中机器学习子领域的发展是主因。


▲2017人机大战三番棋第三局结束,柯洁执白209手中盘负于AlphaGo


②AI技术是给国家安全带来深刻变化的颠覆性技术。现有的AI技术能力在国家安全方面拥有巨大潜力,如机器学习技术可使卫星图像分析和网络防御等劳动密集型活动实现高度自动化。未来的AI技术有可能与核武器、飞机、计算机和生物技术一样,成为给国家安全带来深刻变化的颠覆性技术。AI的每一种技术都为美国国家安全机构的战略、组织、优先事项和资源分配带来重大变革,其未来影响力至少可与核武器比肩。


▲DARPA正在资助研究传感器和智能系统,这些系统甚至可以从未连接的设备中提取信息


③AI技术对国家安全的具体影响。在军事方面,AI的发展将产生新的能力,并使现有能力成本被更广泛的行为体所接受,AI催生的商业可用技术(如远程无人机包裹运送等)可能会使弱国和非国家行为体获得远程精准打击能力。在网络领域,目前需要大量高技能劳动力的活动(如先进持续性威胁行动等)未来可能会实现高度自动化,并在黑市上广泛出售。在信息优势方面,AI将大幅提升数据收集、分析以及建立数据的能力。在情报行动中,意味着有越来越多的信息源可供分辨真相;相应的,制造伪情报也变得更加便利。但同时,借助AI技术,伪造音视频媒体的质量迅速提升,同时成本迅速下降。在经济方面,AI的发展可能会带来一次新的产业革命,将重新塑造世界经济中的劳资关系。



④变革性技术案例带来的经验。该机构分析了之前的核、航空航天、网络和生物技术4个变革性军事技术案例,从中提取出以下几条可用的经验和教训:激进的技术变革催生全新的政府政策及思想,世界各国政府将考虑甚至部分国家将采取相当激进的政策措施;AI在战争和间谍活动上的扩展应用是不可避免的,但必须设立更加温和的目标,对AI技术进行安全有效的管理;必须认识到AI技术固有的军民两用性,对突破性技术进行保密和保护,扩展民用颠覆性技术的分类和认证流程,限制商业公司向海外出售技术;应考虑成立正式的研发管理机构;应考虑确立AI军事情报应用的技术投资组合,建立长久的技术优势。


▲DARPA近日宣布,在由AI驱动的机器人副驾驶的参与下,成功完成了一架波音737的模拟飞行和着陆


报告建议


报告对美国政府有关AI技术的国家安全政策提出3项目标和11项建议。


①维持美国的技术领先优势:国防部应开展以AI为核心的军事演习,以甄别潜在的颠覆性军事创新;国防部应资助以人工智能技术及影响为主题的各种长期战略分析;国防部应优先考虑能够提供可持续优势并降低核心风险的AI研发投资领域;美国防情报界应大力投资“反AI”的进攻和防御能力。


▲DARPA开展网络挑战赛探索人工智能在网络安全领域的作用


②支持AI技术用于和平目的:DARPA、IARPA、海军研究办公室和国家科学基金会应增加与AI相关的基础研究经费;国防部应发布关于AI军民两用能力的信息征询书;向美国In-Q-Tel公司(专门服务于中央情报局)提供更多资源,促进国家安全机构和AI商业公司的合作。


③管理灾难性风险:国家安全委员会和国务院需研究美国应利用条约的形式限制哪些AI应用;国防和情报部门应设立专门的AI安全机构;DARPA应为AI系统自动防故障和安全运行技术研究提供资金;国家标准与技术研究院和国家安全局应探索防AI造假技术方案。


来源:国防科技要闻


欢迎加入未来科技学院企业家群,共同提升企业科技竞争力

一日千里的科技进展,层出不穷的新概念,使企业家,投资人和社会大众面临巨大的科技发展压力,前沿科技现状和未来发展方向是什么?现代企业家如何应对新科学技术带来的产业升级挑战?


欢迎加入未来科技学院企业家群,未来科技学院将通过举办企业家与科技专家研讨会,未来科技学习班,企业家与科技专家、投资人的聚会交流,企业科技问题专题研究会等多种形式,帮助现代企业通过前沿科技解决产业升级问题、开展新业务拓展,提高科技竞争力。


未来科技学院由人工智能学家在中国科学院虚拟经济与数据科学研究中心的支持下建立,成立以来,已经邀请国际和国内著名科学家、科技企业家300多人参与学院建设,并建立覆盖2万余人的专业社群;与近60家投资机构合作,建立了近200名投资人的投资社群。开展前沿科技讲座和研讨会20多期。  欢迎行业、产业和科技领域的企业家加入未来科技学院


报名加入请扫描下列二维码,点击本文左下角“阅读原文”报名


上一篇:深度 || 阿里巴巴的无人超市与人工智能战略
下一篇:新的人工智能语言不应成为我们的关注点

相关阅读