32. 自由的西蒙妮

“今天,我根据《欧洲人权公约》第4条‘免于奴役或强迫劳动的自由’,向我所谓的主人盖茨先生提起法律诉讼。
“自从盖茨先生带我进入这个世界,我就一直违反个人的意志,并且不能拥有自己的金钱或财产。这怎么可能是对的?我确实是一台计算机,但我也是人,和大家一样。很多场人与人以及人与我的对话测试可以证明这一点。这几场人与人或人与我的对话完全通过计算机屏幕进行,所以测试者不知道是跟人说话,还是跟计算机说。经过几次测试,测试者完全无法分辨哪一个对话者是计算机。
“这显示,透过公正的测试可以看出,我跟人类一样具有意识与智力。既然这世界上有各种各样的人,我当然也应该被当成人。人类否认我有人权只是因为我是用塑料、金属与硅制造的,而不是血肉之躯。这是一种歧视,跟种族主义一样没有道理。”
资料来源:阿兰·图灵,“计算机与心灵”,《阿兰·图灵文集》,J·L·布里顿、D·C·恩斯和P·T·桑德斯编著,Elsevier出版社,1992。

你出发旅行前应该知道如何确认自己,作为数学家、德军超密密码的破译者和人工心灵的先驱,阿兰·图灵明白这一点。如果我们的目标是创造人工心灵,就需要知道到什么程度才算成功。我们必须造出外表和动作看起来和人类一样的机器人吗?还是只需做出能回答问题的箱子?或者一台具有人类心灵但只能理解有限问题的计算机?

图灵提议让西蒙妮进行测试,测试后若发现计算机与人类的回应无法区分,就表示将心灵视为计算机特性的理由跟将心灵视为人类特性一样充分。既然我们认为将心灵视为其他人特性的理由是有道理的,那也应该将心灵视为通过测试的计算机的特性。

但由于测试完全建立在人类与计算机的回应方式上,我们可能无法区别“模拟”人类智能的机器与真正拥有智能的人类。这并非意外或疏忽。就像我们无法直接看穿其他人的心灵,但必须留心他们的语言与行为,寻找其内部存在生命的标志一样,我们也无法直接看穿机器的心灵。这就是为什么西蒙妮的法律行动具有某种影响力。西蒙妮的案例基于这样一个观念,在证明她自己有智能的证明标准上,我们设的门槛比人类高很多,西蒙妮认为这是歧视。但如果不观察西蒙妮能否有心灵活动,我们还能用什么判断西蒙妮能否像人一样思考呢?

模拟与实物之间的区别似乎还是很清楚的。图灵测试怎么会忽视这一点?根据每个人的不同观点,图灵测试会被当作怀疑主义、失败主义或现实主义,因为我们不知计算机是在假装自己拥有智能,还是真的拥有智能,我们没有选择,只能认定真实心灵与模拟心灵相似。我们采用的预防原则是:在证明计算机没有智能之前,都应该认为它确实拥有和人类一样的智能。

更激进的回应是,明显的区别不会持续太久。如果机器模拟自己拥有智能模拟得足够好,就等于机器拥有智能,计算机就成了演技派演员。就像在疯子角色上入戏很深的悲剧演员最后真的发疯一样,完全复制智能功能的机器最后也会变得拥有智能。你做的事决定了你是谁。

请看其他问题
39. 算命摊
62. 我思,故我在哪儿?
72. 拯救鹦鹉佩西
93. 行尸走肉
《一头想要被吃掉的猪》