重磅报告 奥巴马：我们需要新的社会契约

　　人工智能正在以各种方式进入人们的生活，各个领域看到了专用人工智能，例如医药、交通，以及输配电，提高了经济运行效率。不过奥巴马就人工智能对就业和不平等现象担忧，表示：“人工智能将会导致就业机会减少，存在不利的方面，可能导致不平等，影响工资水平等表示担忧，需要对此进行研究。”

　　图片为美国总统奥巴马在接受《连线》杂志记者采访

　　奥巴马希望人工智能能够帮助塑造一个合理健康的未来，让越来越多的人享受到益处，而不是降低生活水平。

　　随着人工智能、机器人的崛起，将会导致大量人类失业，尤其作为工业机器人领域，制造业通过部署机器人减少依赖人工，毕竟制造业面临劳动力成本不断上涨以及劳动力不足的局面，且通过部署机器人来提升产品质量，降低产品不良率。

　　埃森哲最近一项研究显示，未来二十年人工智能的应用会极大地提高生产力，人工智能会是信息革命之后的新一轮生产力革命，生产力相对上一个工业革命时期翻番。

　　传感物联网创建人杨剑勇表示：“西门子旗下安贝格工厂，由于部署了全球最先进数字化生产平台，75%的生产过程都实现了自动化，其中产能较26年前提升了8倍”。

　　杨剑勇进一步指出，伴随人工智能所带来的新生产力，由此也会引发新的社会问题，可能会加剧贫富差距，政府应平衡其中的矛盾，减少对社会的冲击。

　　其中，英国政府就希望能够成立一个专门的委员会，对机器人以及人工智能技术可能引发的伦理、法律以及社会影响进行深入研究，包括人类在人工智能时代所需要的新技能。

　　“机器换人”不可避免，听起来的确是个坏消息，但简单、重复工作将被机器所取代也不可能避免，担忧机器抢夺人类饭碗，还不如研究如何提升新的技能以应付新的信息革命。

　　本周四白宫发布了两份重磅报告，《为未来人工智能做好准备》以及《美国国家人工智能研究与发展策略规划》，详细阐述了美国未来的人工智能发展规划以及人工智能给政府工作带来的挑战与机遇。对此，连线专访奥巴马，畅谈了美国未来的人工智能计划，以及智能机器给美国社会所带来的问题。在访谈中，奥巴马提到需要重新设计新的社会契约来适应技术给人类社会带来的变革。

　　很难想象有什么比人工智能更能塑造未来 50 年中我们的世界了。机器学习使得计算机可以自我训练，从医疗诊断到自动驾驶汽车，各种技术突破近在眼前。与此同时，担忧也开始出现，谁来掌控新技术？它们会抢走我们的工作吗？人工智能是否危险？美国总统奥巴马也正在考虑这些问题。对此，他与企业家和麻省理工媒体实验室主管伊藤穰一（Joi Ito）展开了对话。我也加入了这场在白宫里有关希望，谣言，恐惧之于人工智能的讨论。当然，还有关于电影"星际迷航"的一些小问题。──"连线"主编 Scott Dadich

　　奥巴马：忙碌而富有成效。你知道，世界各地还有很多危机需要解决。

　　DADICH：我把这次会谈的主题定为人工智能，它将会从科幻小说中走出，来到我们的现实生活中。以你所知，真正的人工智能何时会来到我们身边？

　　奥巴马：在我看来，人工智能已经通过很多方式逐渐渗透进我们的生活了──只是没有被注意到；一部分原因是因为我们以人类自己的样子想象人工智能。在广义和狭义的人工智能之间有很大的区别，但很多人不会去搞清楚。在科幻小说里，你们所看到的人工智能是广义的。计算机开始变得比人类聪明，它们开始思考，认为我们不再有存在的意义，然后它们要么让我们保持肥胖和开心，要么把我们丢进虚拟世界中。我的观点是，基于我和我的顶尖科学顾问的讨论，目前的情况和小说里的情节还相距甚远。但这种担忧值得思考，因为它能让我们展开思路，去考虑在狭义的人工智能发展中有关选择和自由的宏观课题，它们现在还只是在利用算法的计算机来帮助我们完成越来越复杂的任务。人工智能的影子已在我们的生活中不断出现了，从医疗到交通到电力调配，它有希望创造更高效的经济环境。如果监管得力，人工智能的发展将会带来广泛的繁荣和机会。但它也许会使得工作机会减少，增加不平等，压缩人们的工资。

　　伊藤穰一（JOI ITO，以下为 ITO）：这也许会让我在麻省理工学院的一些学生感到担心，我的一个担忧是：现在有不少的男性，大多数是白人──他们是开发人工智能计算机科学的核心力量──他们在更多地关注计算机，而不是人类本身。他们其中很多人觉得只需要像科幻小说里一样，随心所欲地发展广义的人工智能，而不需要担心任何政治与社会的"琐事"。他们觉得机器会帮我们解决这些问题。

　　奥巴马：是的。

　　ITO：但是他们低估了这些问题，我觉得今年是让人工智能变得不再仅仅是计算机科学问题的一年。所有人都需要知道人工智能的价值观十分重要。在麻省理工媒体实验室里，我们用术语"延展智能（extended intelligence）"来表达这个问题。因为问题是，如何将社会价值观注入人工智能？

　　奥巴马：当我们在午餐后回来时，Joi 用自动驾驶汽车作为例子。人工智能的技术实际上已经到来了。我们拥有可以做出大量快速决策的机器，可以显著减少交通事故的数量，显著增加目前交通网络的运行效率，同时还能帮助解决碳排放和全球变暖等环境问题。但 Joi 同时点出了问题，我们正在放进汽车的东西，它们的价值观是什么？还有大量问题必须解决，比如最经典的问题：如果你在开车，你需要急转弯避让行人，但这样你有可能撞墙害死你自己。这是一个道德上的抉择，但由谁来制定规则呢？

　　ITO：谈到有轨电车难题，我们会发现大多数人希望驾驶员和乘客能够牺牲自我，拯救更多的人。他们还说他们永远不会购买自动驾驶汽车（笑）。

　　DADICH：我们正在讨论的是伦理问题，政府在其中扮演什么样的角色？

　　奥巴马：我考虑这个问题的通常框架是，人工智能的出现，在技术的早期，会百花齐放。政府在这个时期需要做相对很少的管控，提供大量投资来帮助研究，同时让基础研究和应用研究之间交流畅通。随着技术进入成熟期，找出如何让新出现的问题在已有框架中解决的方法是一个棘手的问题，政府需要在此阶段参与更多。不必总是强迫新技术进入已有框架中，但是需要保证新的规则能够反映广泛的基础价值。另外，新规则也许会损害某些人或某些群体的利益。

　　ITO：我不知道你们是否了解多元神经（Neurodiversity）运动，但电影"自闭历程"（Temple Grandin）中存在很多有关情节，女主角在片中说莫扎特，爱因斯坦和特斯拉假如生活在今天，可能都会被认为是有自闭倾向的。

　　奥巴马：他们是有可能得过自闭症。

　　ITO：是的，得了自闭症。而如果我们有能力彻底消灭自闭症，让所有人都神经正常，我敢打赌很多麻省理工学院的学生都会变得大有不同。其中一个问题，无论我们在讨论自闭倾向还是广泛的多样性，这些问题只有我们让市场自由选择后才会出现。即便如此你可能也不会愿意让爱因斯坦成为你的孩子，你会说："好吧，我只想要一个普通的孩子"这不会是使社会受益最大的选择。

　　奥巴马：这会是我们围绕人工智能展开的主要伦理争论。其中的一部分会让人类变得扭曲。事物的发展过程中总会存在突变，异常，瑕疵，而往往这些才是新创造的灵感，对不对？我们一直假设，假如系统是完美的，它会是静态的。而让我们成就自己的那部分，让我们生存至今的那部分，是动态和令人惊讶的。我们必须思考，在什么时间，什么地点，这样的事情会发生，我们能否欣然接受。

　　DADICH：当我们在讨论智能的发展时，它的研究同时存在于政府，私人企业和学术界，但其中谁来扮演核心角色，是否存在一个中心？

　　ITO：我相信麻省理工学院会说这个中心是我们（笑）。历史上同样的技术发展大多基于被政府资助的各类学院。但现在科技公司的许多大型研究机构成为了主流。

　　奥巴马：我们知道是谁在资助这些机构，如果你在说拉里·佩奇或者其他人，他们的看法，可以想象是："我们最不想看到的就是在寻找独角兽的过程中有一帮官僚在拖我们后腿。"

　　问题的一部分是，我们正在目睹旨在为社会服务的基础研究在逐渐衰退。我们的雄心正被意识形态或各种争议逐渐冷却。

　　最好的例子就是：今天，我们仍在从 50 年前登月计划这一巨大成就中受益。有人告诉过我，太空探索计划在那时的花费只占 GDP 的 0.5%。这听起来不像一个很大的数字，相当于在如今每年投入 800 亿美元。在人工智能方面，现在我们每年的投入不到 10 亿美元，这个数字无疑需要增加，但我们需要明白的是，如果我们想要在这些突破性技术中代表的多元化的价值观，政府资助必须身在其中。而如果政府并没有资助这些研究，那么 Joi 刚才谈到的那些有关人工智能的价值观的所有问题有可能会导致失败，至少不会获得适当的讨论。

　　DADICH：你的观点让 Joi 曾写到的事情变得更加令人不安了：人工智能和太空计划发展历程中的差异。我们如何来确保这些想法被所有人知道？

　　奥巴马：我一直试图强调这些，因为政府正在资助人工智能的发展，帮助收集数据，这不意味着我们在囤积数据，或者仅仅将其用于军事目的。有一个很好的例子：我们精密医疗计划的一部分已经收集了足够的人类基因组数据，多样性覆盖到了所有的美国人。在这件事上我们并没有向斯坦福或哈佛大学注资──他们仍在囤积样本──我们现在的基因数据库非常完整，同时所有人都有权访问。政府有最完整的价值体系，结构，去保证研究结果得到分享，不会让某个团体单独受益。

　　Dadich：但是风险肯定是 有的。我们已经听说埃隆·马斯克和 Nick Bostrom 担心人工智能的潜在能力会超过我们对它的理解。当我们前进时，我们该如何考虑这些忧虑，不仅是为了保护我们自己还有整个人类？

　　奥巴马：我来说说现在更让我担心的事——这是目前人工智能领域里的一个可以解决的问题，我必须注意到它。如果你有一台能下围棋的计算机，这是一种变化复杂的游戏，以此开发出一种能让你从纽约证券交易所最大获利的算法是显而易见的事情。而且，如果一个人或组织能率先开发出这个算法，他们就能很快弄垮交易所，最起码他们可以破坏金融市场的完整性。

　　之后可能又会有一个算法说，"去搞定核代码，搞定某些导弹的发射。"如果算法的工作只是这些，如果它能自我教导，那它还真是一个效率挺高的算法，但是你们可能就会有麻烦了。我想我对我的国家安全局的建议应该是，不要过于担心机器会占领整个世界。要担心的是非国家势力或敌对势力渗入系统的能力，在这个意义上，它与我们做的很多事情在概念上没什么不同。仅仅意味着我们必须得做到更好，因为那些能会破坏我们系统的人现在已经做的比我们好了。

　　ITO：我大体同意你的说法。唯一需要注意的是还有一些人相信广义人工智能 10 年后出现的几率相当高。但是依我看要实现这个理想，还有一二十个需要突破的地方。所以当你认为这些突破会要出现时，你可以监控它们。

　　奥巴马：你只需要在它们的核心部位安插个线人就可以了（大笑）。是的，当你知道它快出现时，就赶紧收线。

　　ITO：重要的是找到那些想用人工智能造福人类的人——群体或领导人——想好怎么帮他们使用人工智能。

　　奥巴马：传统上看，当我们考虑到安全和自我保护时，我们想到的是武器和筑墙。逐渐地，我发现自己开始转向药物，并开始考虑使用病毒、抗体。网络安全一直很难做好的部分原因是你面临的威胁不是一批开向你的坦克，而是一整套可能马上会受到蠕虫病毒侵害的系统。也就是说我们得换种思维考虑安全问题，做出不同的投资，有些可能看起来不那么诱人，但可能最终会成为举足轻重的东西。

　　我常常担心像流行病这种问题。因为你不可能建一堵墙来防止有人登陆海岸后，从空中播撒致命流感病毒。所以我们需要的是一个系统，在世界的每块地方创建公共健康体系，点击按钮就能告诉我们发现新情况，确保我们有快速的协议和系统能让我们可以快速制造出更好的疫苗。如果你有了一个公共健康模型，你就考虑一下我们该如何应对网络安全问题，这些最终都会对应对人工智能的威胁很有帮助。

　　ITO：还有一件事我觉的很有趣，当我开始观察微生物时。很多证据显示引进好的细菌来对抗坏的细菌（不是消毒）是一个不错的策略。

　　奥巴马：完全同意。不过我还是不会让 Sunny 和 Bo 舔到我，因为每次遛它们去草坪时，看到它们用嘴叼着或者啃咬什么东西时，我就很不舒服。（哈哈哈）

　　ITO：我们不得不重新思考什么才是干净的东西，类似于你们谈论的网络安全或者国家安全。我认为，对于一个国家，你可以设定边界，也可以消除每一个可能的病菌，但是搞清楚什么是网络安全什么是国家安全却不是件容易的事情。

　　Dadich：这也会引发一场新型的军备竞赛吗？

　　奥巴马：我认为一定会有一套通用的国际网络安全规范、协议和验证机制，但是这套国际机制出现还为时尚早，尤其在人工智能方面。

　　ITO：我想我们正处于一个人们想要交流讨论的黄金时期。如果我们能确保资金和能源可以持续公开共享，一定会有很多好处。相互隔绝的环境没有好处，而且现在已经是国际化社区时代了。

　　奥巴马：我觉得 Joi 说的非常对，而且那也是我们为什么不断召开一系列的会议让每个对此感兴趣人都参与进来的原因。有一件事我们还没有讨论太多，那就是我们确实得考虑一下经济影响。因为大多数人现在不会花时间去担心奇点（singularity）的问题，他们担心的是"好吧，我的工作是不是要被机器取代了。"

　　我更倾向于乐观的态度——从历史上看，我们已经接纳了很多新技术，而且人们发现也会有新的工作出现，他们不断迁移，我们的生活水准也大体上升了。我确实认为我们所处的时代有点不同，仅仅是因为遍地都是人工智能和其他技术的应用。掌握高技能的人在这个环境中如鱼得水。他们可以利用自己的才华，他们可以借助机器来延伸他们市场，他们的销售，他们的产品和服务。

　　廉价低技术的人会越来越不受市场欢迎，他们的工作或许不会被替代，但是薪水会压得很低。而且如果我们想要成功完成这个过渡，我就必须要发起一次社会讨论。如果我们正在生产的更多成果，而且这些成果越来越多地集聚到社会顶层群体的手上，我们又将如何培养并确保经济的包容性呢？我们如何确保普通人能有一份稳定的收入呢？这对于我们支持的那些艺术、文化或者保证退伍军人获得保障的事情又意味着什么呢？社会契约必须适应这些新技术，我们的经济模型也必须适应它们。

　　ITO：不仅仅是工作被取代这类直观的现象，因为我敢打赌只要你有一台能理解医疗系统的计算机，而且擅长诊断，那么医生被替代的可能性要比护士和药剂师大，因为后者的薪水更低。还有一些高层次的工作，如律师和审计师也可能会消失。但是还有很多服务业务、艺术和计算机无法胜任的工作不会被替代。我不知道你们怎么看待普遍的基本收入，但是当我们看到人们的工作被取代时，我们还可以考虑一下其他的模型，比如学术界或艺术界，这些人的目标并不直接指向金钱。我认为其中的一个问题是：普遍的观念是如果你没钱，你怎么能变得更聪明呢？在学术界，我见过很多没有钱的聪明人。

　　奥巴马：你说对很对，我说的重新设计社会契约就是这个意思。现在，普遍的收入是不是适当的模型，它有没有广阔的民众基础？也是我们未来 10 到 20 年要辩论的问题。还有你说的人工智能不仅会取代低技能工作也对；那些高技术但重复性的工作以及计算机能胜任的工作都将被取代。还有一个不争情况是随着人工智能不断整合，社会越来越富裕，产品与分配之间的联系，你干了多少工作与你挣了多少钱之间的关系都会变得越来越弱。计算机干了很多工作，它却不拿一分钱。结果我们就必须作出一些更艰难的决定。我付给教师的工资会很少，尽管那是一份艰巨的工作，计算机想要做好这份工作也不容易。所以对于我们来说，重新审视我们看重的东西，我共同愿意付出的是什么，不论是教师、护士、护工、母亲还是居家父亲、艺术家，所有这些现在对我们来说都非常重要但其薪水处于低端的人，我们需要在一起对话。

　　Dadich：总统先生，您在政府中发现了什么可以解决这个最大挑战的技术？

　　奥巴马：我们还有大量工作要做，要让政府变得更加亲民，让纳税想订披萨、机票一样便捷。无论是鼓励民众参与选举还是释放大数据让人们使用起来更加便利，或者让数据在网上处理起来更加简单。这些问题都随着联邦政府、州政府和地方政府进入了 21 世纪。联邦政府里的人才与私人公司里的人才一样有能力，尽管技术上的差距依然巨大。当我第一次来这里，我总是想象情报室是最酷的地方，就像汤姆·克鲁斯在《少数派报告》中演的一样。但实际一点也不一样。（哈哈哈）尤其是在追捕地球另一边的恐怖分子时，电影展现的是我们掌握了全局。但是真实情况并非如此，资金缺口很大，设计上也有错误。

　　从技术上更宽泛的问题来说，我坚信如果我们能恰当改变气候，如果我们能启动制动系统，找出避免海平面上升 6 英尺的方法，那就是人类要解决的问题。我非常乐观。而且我们做了很多有益的工作，但路还很长。

　　要找出一种可负担起的、透明的、安全的方式来规范网络连接性，能让我们发现不法分子，但同时确保政府不对我们的生活掌握过多的权力，以至于出现压迫。我们一直在努力做这些事情。有些问题解决起来需要技术，比如加密。我已经与公民自由主义人士和国家安全局的人会面过很多次了。这确实是个棘手的问题，因为在这些议题上，没人能给我一个真正的好答案。

　　因为这是一个前沿问题，最后我还要提醒你我是一个宇宙科幻迷，认为下一代太空旅行方式的研究正严重缺乏资金支持。目前私人企业对此有一些不错的成果，因为事实上它是政府投资的真空区域，他们正在探索一些疯狂的点子"见鬼，为什么不呢？"。当我们想到太空飞行，我们仍然只有和五十年前阿波罗计划中一样的化学推进系统。我觉得我们现在需要──比如"星际迷航"里的 dilithium 晶体──但是你知道，这还需要很多方面的技术突破。

　　DADICH：我知道你是"星际迷航"的粉丝。那是一部灵感来自科技的电影──你心中的未来是什么样的？

　　奥巴马：在我小的时候，我为"星际迷航"而着迷。这个系列总是非常有趣。让它长盛不衰的不仅仅是其中的科幻成分，更在于其中关于价值和友情的探讨。因此，旧版的低特效并没有影响我们的观感，不是吗？在剧中，他们在一个星球上着陆，那里覆盖着纸做的岩石（笑）。但这都无所谓，因为"星际迷航"其实是在讲述有关人性和勇敢的故事。

　　有一部最近的电影也在表现同样的精神──火星救援。不是因为它有着宏大复杂的情节，而是因为他在讲述一个很多不同的人共同解决一个问题的故事。通过展现创造性，坚韧不拔和努力工作，同时保持自信，我们可以战胜巨大的困难。这就是为什么我如此热爱美国，它那种面对挑战说："哦，我们可以做到。"的精神至今仍在吸引着全世界的人们不断前来。我最看重科学的地方也在于这一点，我们可以做到。我们可以试试这个──如果这样不行，我们来看看它为什么不行，然后我们再试试别的方法。我们会陶醉于我们的错误中，因为失败是成功之母。而如果我们失去了这种精神的话，我们就脱离了美国人的本质，我认为这也是人类的本质。

　　ITO：我完全同意──我喜欢"星际迷航"中的乐观主义。但我同时也认为其中的星际联邦有着惊人的多样性，进取号的船员也有着多样性，而那些反派也不是完全的邪恶──他们往往只是误入歧途。

　　奥巴马："星际迷航"，就像所有好故事一样，告诉我们所有人都是复杂的，我们都有一点史波克，一点柯克（笑）和一点史考特，也许还有一点克林贡，不是吗？但这就是我在说可以做到的意思。一部分是跨越隔阂与差异排除万难。我们对理性抱有谨慎的信心。这在艺术和科学中都是对的。我们目前拥有的这些难以置信的感觉，仅仅还是表面，我们不应狂妄自大。我们需要时刻提醒自己，有很多的事物还有待探索。