人机共生:“沃森,过来”

“分析机不会主动创造任何东西,”埃达·洛夫莱斯断言道,“但它可以根据我们能够给出的任何指令完成任务。”她认为机器不会取代人类,但是可以成为人类的伙伴。她表示,人类在这段关系当中所起到的作用是提供创造力。

这是除了纯人工智能以外的一个发展方向背后的理念:让机器成为人类的伙伴,从而实现增强智能。与尝试创造能够独立思考的机器相比,结合计算机和人类的能力建立出人机共生关系,被证明是一种更为有效的策略。

利克莱德在自己1960年的论文《人机共生》当中规划了这个发展方向:“人类大脑将与计算机器紧密联合,两者形成的合作关系能够实现超出人类大脑的思维能力,并以我们目前所知的信息处理机器无法企及的方式处理数据。”20 这个想法是以Memex机——万尼瓦尔·布什在1945年的《诚如所思》中构想的个人计算机——为基础发展而成的。另外它还吸收了利克莱德在SAGE防空系统的设计工作中得到的感悟,这是一项需要人类与机器的紧密协作才能完成的工作。

恩格尔巴特为布什和利克莱德的思想赋予了一个友好的界面,他在1968年展示了一个联网计算机系统,它配有一个直观的图形显示器和一个鼠标。在一篇题为《增强人类智能》的宣言当中,他重申了利克莱德的思想。恩格尔巴特写道:我们的目标应该是创造“一个相互协调的领域,直觉、尝试、无形的内容和人类对‘现状的感知’都能有效地与……高性能的电子助手共存其中”。理查德·布劳提根在诗歌《万物皆在慈爱机器的眷顾之下》中以更为抒情的语言表达了这个梦想:“一片赛博世界的草坪/那里的动物和计算机/共同生活在/程序编写的和谐之中。”

开发深蓝和沃森的团队也是采用了这种人机共生的方法,而不是选择追求人工智能纯粹主义者们的目标。“我们的目标并非复制人类大脑,”IBM的研发总监约翰·凯利如是说。他补充了一个跟利克莱德相同的观点,“这不是要用机器思维取代人类思维。相反,在认知系统的时代里,人类和机器将会协作产生出更好的成果,双方都会在合作关系中发挥自己最擅长的技能。”21

一个体现这种人机共生关系的强大之处的例子是卡斯帕罗夫。在被深蓝击败之后,他领悟到了一个道理,他开始相信在国际象棋这种规则分明的比赛当中,“计算机的强项正是人类的弱项,反之亦然”。他由此想到了一个实验:“如果计算机不是作为人类的对手,而是作为队友和我们下象棋的话会怎样呢?”他和另外一位特级大师尝试这样做的时候,他们创造了利克莱德所构想的共生关系。“我们可以将精力集中在战略部署上,而不需要在计算方面花费大量的时间,”卡斯帕罗夫说道,“在这种情况下,人类的创造力可以更上一层楼。”

一场沿用这项规则的比赛在2005年举行,选手们可以选择与计算机组队参赛。这场赛事吸引了众多特级大师和最先进的计算机的参与,但是他们最后都败给了共生关系。“由人类和机器组成的队伍可以完胜最强大的计算机,”卡斯帕罗夫说道,“人类的战略指挥加上机器的战术执行会产生无比强大的威力。”最终的胜出者不是一位特级大师,也不是一台最先进的计算机,更不是这两者的组合,而是两位同时使用三台计算机的美国业余棋手,他们知道如何与自己的机器进行协作。根据卡斯帕罗夫的说法:“他们熟练地操作和指挥自己的计算机,让它们深入洞察棋局的变化,这种方式能够有效抵抗特级大师对国际象棋的深刻理解和其他参赛者的强大计算能力。”22

换句话说,未来也许属于那些能够与计算机达成最佳协作关系的人。

同样,IBM也认为沃森——这台参加《危险边缘》比赛的计算机的最佳使用方式是与人类进行协作,而不是尝试凌驾于人类之上。

这台机器参与的其中一个项目是协助医生进行癌症治疗计划。“在《危险边缘》的挑战中,人类和机器之间处于竞争关系,”IBM的约翰·凯利说道,“如果将沃森应用于医疗的话,人类和计算机将共同应对挑战。”23 沃森的系统被录入了超过200万页医学期刊的内容,以及60万条临床证据,它可以搜索多达150万条病人记录。当医生向这台计算机输入病人的症状和身体状况之后,它会提供一份推荐治疗方式的清单,并按照自己的把握对各种治疗方式进行排序。24

IBM团队认识到如果要真正发挥这台机器的作用,它需要以一种令人愉快的方式与人类医生进行交流。IBM研究院软件部门的副总裁戴维·麦奎尼(David McQueeney)表示他们通过编程让这台机器表现出一些谦逊的特质:“从我们早期的使用经验来看,部分谨慎的医生会提出这样的反对意见:‘我是一个持照执业的医生,我不会让一台电脑告诉我应该怎么做。’所以我们对沃森的系统进行了重新编程,让它可以给人一种谦逊的印象,它会说:‘这条建议对您有用的可能性为百分之……还有这些内容您可以自行查阅。’”医生们对此感到非常满意,他们说这种感觉就像是和一位学识渊博的同事进行对话一样。“我们的目标是将人类的天赋,例如我们的直觉,和机器的强项,例如无限广阔的知识,结合在一起,”麦奎尼说道,“这是一个不可思议的组合,因为组合的双方都能提供对方不具备的东西。”25

这是沃森为吉尼·罗曼提留下深刻印象的其中一个方面,后者是一位拥有人工智能背景的计算机工程师,她在2012年初接任成为IBM的首席执行官。“我看过沃森以平等的姿态与医生进行互动,”她说,“这是机器能够成为人类真正伙伴的明证,机器不一定要取代人类。我能强烈地感受到这点。”26 深受触动的罗曼提决定以沃森为基础为IBM成立一个新的部门。IBM向这个部门提供了10亿美元的资金,并在曼哈顿格林尼治村附近的硅巷为它新建了一座总部大楼。它的任务是将“认知计算”商业化——一种计算系统,它会通过完善人类大脑的思维能力实现更高水平的数据分析。罗曼提没有专门为这个新部门取一个名字,只是简单地把它称为“沃森”。这也是为了向IBM创始人老托马斯·沃森(Thomas Watson Sr.)致敬,他管理了这家公司超过40年的时间。此外,这个名字也来自夏洛克·福尔摩斯的搭档约翰·华生(John Watson)医生以及亚历山大·格拉汉姆·贝尔(Alexander Graham Bell)的助手托马斯·沃森。因此,这个名字所传达的是沃森计算机应该被看成是一个协作者和同伴,而不是像《2001:太空漫游》里的HAL那样被认为是一个潜在威胁。

沃森是计算机技术第三次浪潮的前兆,增强智能与人工智能之间的界线从此开始变得模糊。“第一代计算机是用于计算和制表的机器。”罗曼提如是说,她回想起了赫尔曼·霍尔瑞斯在1890年人口普查中用到的打孔卡片制表器,那是IBM的起源所在。“第二代计算机指的是使用冯·诺依曼结构的可编程机器。你必须告诉它们应该做什么。”自从埃达·洛夫莱斯以来,人们就开始为这些计算机编写算法,指导它们如何一步接一步地完成任务。“由于数据量的迅速增长,”罗曼提补充道,“第三代计算机已经成为我们唯一的选择,它们是不需要依赖编程的系统,它们会自我学习。”27

而就算这种机器真的出现了,它们也可以继续与人类保持合作和共生的关系,而不是将人类放逐到历史的尘埃当中。拉里·诺顿(Larry Norton)是纽约纪念斯隆–凯特琳癌症中心(Memorial SloanKettering Cancer Center)的一位乳腺癌专家,他是沃森合作计划的成员之一。“计算机科学将迅速发展,医疗技术也会追随它的发展脚步,”他说,“这是一种共同进化,我们将互相促进。”28

道格·恩格尔巴特将机器和人类将会相互提升智慧的过程称为“自生过程”(bootstrapping)和“共同进化”(coevolution)。29 这点引出了一个有趣的前景:无论计算机发展速度有多快,人工智能也许永远都无法超越人机合作所产生的智慧。

假设一下,未来也许会有一台这样的机器,可以表现出人类所有的心智能力:具有外观识别模式、感知情绪、欣赏美、创作艺术、拥有欲望、形成道德观且追求目标。这样一台机器也许能够通过图灵测试,它甚至可能通过我们所说的“埃达测试”,也就是说它可以表现出“创造”自己的思想的能力,而这种思想将超越我们人类通过编程所达到的高度。

然而,在我们宣布人工智能已经全面压倒增强智能之前,它还需要跨过另外一道门槛,我们可以称之为“利克莱德测试”。这项测试不仅会探求机器能否复制人类智慧的所有要素,还会探究机器完全独立完成任务会不会比机器与人类协作做得更好。换句话说,人机协作会一直比人工智能机器独立工作更为强大吗?

如果是这样的话,那么利克莱德所说的“人机共生”将会持续立于不败之地。计算机技术的圣杯不一定非人工智能不可。我们的目标也可以是设法优化人类和机器之间的协作——在这段合作关系当中,人类会让机器完成它们最擅长的事情,机器也会帮助人类完成他们最擅长的事情。

《创新者:一群技术狂人和鬼才程序员如何改变世界》