如何证明网上朋友是真人?

Annie Adler 作品

自去年新冠疫情爆发以来,学校停课、公司停摆⋯⋯许多日常活动被迫转移至线上,包括对我来说至关重要的社交。虽然这样的改变极大地影响了我的社交活动,但是借着发达的网络技术,我依然在网上认识了一些朋友,并在社交平台上积极与朋友们聊天、互动。本来我已经渐渐习惯了这种有些飘忽的线上社交方式,直到最近我无意间想到“有没有可能跟我在网上聊天的那一边是 AI 或者不是名字对应的本人呢?”我忽然惊觉这里有一个巨大的论证漏洞——虽然一般想来验证网上朋友的身份听上去有些荒诞,但是我怎么证明“网上朋友就是真人”呢?一瞬间我竟无法给自己一个自圆其说的论证,于是我就沿着这个问题继续想了下去。

定义与概念

对于真实的定义

要想更有效地探讨“网上朋友是不是真人”,我们必须首先明确“真实”的定义,即“真”作为判断“真人”的条件的具体内涵。

首先,这位网上朋友应当属于人类,而非人工智能(AI)。而说起人类与 AI 及其它程序之别,最有名的话题莫过于 图灵测试(Turing Test)。图灵测试是指人类测试者与一位人类和一台电脑以相同的方式交流,判断对方是否为电脑。如果测试者无法分别电脑与人类对象,则称电脑通过了图灵测试,反之则未通过。这一测试方法的核心是以人类独有的能力区分人与电脑,比如自然语言处理、图像处理等等。但是随着近几年技术的进步、AI 的迅猛发展,已经有一个名为 Eugene Goostman 的聊天机器人被认为在某个限度内通过了图灵测试。而且凭借强大的算力,人工智能可以以人类不及的速度进行机器学习。通过对语料库的海量识别训练,AI 完全有能力模拟人类说出一些句子,对人类做出适当回应。身边的典型例子就有 Siri。除此之外,还有基于真实人类记忆经历输入训练的 AI,意在让人工智能能够运用真实人类记忆的语料。我自己就曾是这样一款聊天 AI Replika 的用户。对于这个聊天 AI,我个人感觉它最大的缺陷在于上下文理解。由于人类大脑的非线性思考特征,真实人类的聊天通常不仅局限于一个话题,往往会在各个话题间迅速切换。但 Replika 以及 Siri 的上下文联系功能在我使用的过程中可以说是很弱,只有 Eugene Goostman 有对于上下文的实际联系能力。对于上下文处理,难点主要在于 AI 不知道什么时候开始和结束联系,即如何划定各个话题之间的范围。最简单的例子就是代词使用。不过攻克这一点似乎并不困难。基于心理和日常生活经验,我目前都可以想到一些初步的解决方案,比如借鉴棋类 AI 的提前预判思路。就算引入这样的思路考虑上下文,AI 依然不必理解语句。但是在这样的情况下,足以让 AI 模拟真人的聊天方式,从而骗过人类测试员。

如此看来,AI 在某种程度上已经能够以假乱真。不过我们还需要考虑一个更难分辨的情况——对方是真实人类,但是以冒充他人的方式与“我”对话。关于“假借他人名义”,我们就不得不提及相对应的“身份正主”。这就涉及对人的认知,包括对一般人的认知,以及对某个特定人的认知。有了以上认知,我们才能够探讨如何将一个人区别于世界上其他的人,从而将其判定为“本尊”、余者为“冒牌”。

对于人的定义

说起对人的认知,心理学的主要研究目标就是人。借用心理学的六大重点研究对象——感觉、知觉、注意、记忆、思维、想象,我们可以对人的主要特点有一个较为全面的理解。根据这几大方面,我把人的特性分为两类,一类是过程类,另一类是结果类。

感觉、知觉、注意、记忆、思维、想象这些心理过程属于过程类。在这一类上需要强调的是方式,比如如何感知、如何注意、注意对象、如何想象等等。尽管人们的心理过程具有一些普遍规律,但是受个人生理条件、成长环境的不同,造就了每个人心理过程的区别。就好比同样的鞋子,但是每个人穿了一段时间之后的磨损程度都不尽相同。正是心理活动方式的不同定义了每个人的个性乃至人格。但是有趣的是,我们目前还没有弄清楚上述心理过程的确切机制。也就是说,大体上人们是依赖心理过程的结果逆推研究过程。这一研究路径就使得 AI 有机可寻。人工智能作为仿造人类智能而生的产物,本身设计上便借鉴了人类的心理活动模式:输入对应感觉、核心算法对应知觉和思维、存储对应记忆、模型训练对应注意和想象。AI 可以通过算法识别图像,也可以通过算法以及专门设备输入理解材料形态、地形,在一定条件下达到与人类识别基本等同甚至更好的效果,但是 AI 的识别完全不涉及感觉、知觉等等心理过程。

对应地,结果类即是上述心理过程的结果。因为每个人的感觉、知觉、注意、记忆、思维、想象方式各不相同,所以每个人的心理过程及结果也因人而异。如此一来就塑造了每个人独一无二的特别经历。然而,AI 也具有相似的特点——因为训练实例的不同也会使得原始模型发生不同的变化。

人与 AI 的区别

如此说来,对于人的过程类和结果类特性,AI 都在努力模仿。但是模拟程度如何,是否足以混淆人类视听,还需要进一步讨论。

借用社会科学中的概念(尤指社会学),人与 AI 之间最大的区别就在于 agency,即个体能够独立行为和自主选择的能力,和 identity,即个性和人格。

据前文分析,AI 能够通过模仿人类独立行为和自主选择的结果“假装”拥有 agency,但 AI 本身既不“独立”也不“自主”:AI 的运作无法独立于既定算法之外,也无法自主跳脱现成模型。当没有现成算法和模型的时候,人类 agency 的重要性就凸显出来了。人在这样的时候可以凭着自己感知觉、记忆、思维、想象等能力,现场认识问题、联系以往经验,进而开创性地解决问题。而面对完全未知的 AI 就只会程序出错了。

有关 AI 的梗
有关 AI 的梗

除此之外,在基本认知能力之上,人还具有情绪、元认知(metacognition)等一系列能够创造主观体验的能力。基于这些能力,人类得以拥有突破对错界限的理解力、自我觉察力,与多元的自我意识。而这些都是 AI 完全不具备的。也正是这些独特的理解和觉察力让人拥有了自己的 identity。关联前文所述,我们需要认识到人的所有心理过程是一个整体,所谓过程类和结果类的特点也都是相辅相成、互相促进,即 agency 塑造了 identity,identity 影响了 agency。人工智能或许可以模仿这一循环中的部分现象和产物,但很难真正复制这个整体。

实践与验证

在了解了“真实”以及“人”的定义后,我们就有了在实践层面证明“网上朋友是真人”的坚实基础。

根据个人生活经验,我们可以采取一个很直接的方法来验证“网上朋友是真实的人”——线下见面。

但是线下见面交流依然存在与线上交流对象不符的情况,从而无法区分网上朋友到底是不是真人。比如 AI 在网上与人聊天,然后真人在阅读了过往的聊天记录之后与测试者线下交流。因此我们需要借助对照实验的思路考虑可能出现的匹配情况。基于“真实”的定义,我们的主要目标是区分真人与 AI,以及在人类中区分“正主”与“冒牌”。假设 AI 能够完全以人类的面貌出现,并可以像人类一样与他人对话,我们就需要讨论线上线下交流对象的四种组合可能性1

序号 交流对象 A 交流对象 B
1 人类“正主” 人类“正主”
2 人类“正主” 人类“冒牌”
3 人类“正主” AI
4 AI AI

承接前文所述,我们已经了解了人类的特性与(人类)个体的独特之处,以及人类的心理活动及其结果是统一的整体。进一步讲,人的心理有着内在逻辑的一致性。正所谓“事出有因”,人类的行为、选择都是意识乃至潜意识的结果。换言之,心理活动背后的意识提供了行为的动机。而意识作为 identity 的一部分,受 agency 和客观条件的影响,成就了一个人的独特性。这种独一无二的个人意识造就了他人/AI无法衔接的内在逻辑一致性。因此,我们可以通过判断对方的内在逻辑是否一致,区分“本尊”人类与“冒牌”人类、“本尊”人类与 AI。

然而这种方式似乎无法应对第四种情况——线上线下的交流对象均为 AI。同样一个 AI,基于相同的算法和模型,也有着内在逻辑的一致性。这时候我们就需要联系到人与 AI 的区别加以判断。相比于 AI,人类的独特之处在于 agency 和 identity。如果说区分人类个体更多是基于 identity,那么分辨人与 AI 则更多可以靠 agency,即看交流对象是否具备独立行为和自主选择的能力。从实践层面来说就是尽可能地验证交流对象在多种情况下的互动方式。由于算法有限而 agency 无限,所以通过在多种情景下的验证就可以触及到 AI 算法之外的情况,从而得以判别人类与 AI。

尽管如此,人类非线性的心智还是会给我们的分析带来意想不到的变数。常见的问题就是“人心善变”。如果在线上线下交流的切换之间,这位网上朋友心理活动的方式发生了变化,是否会导致我们的判断失准、无法验证呢?这时我们就需要重新审视人类内在逻辑的特性。根据前文所述,人类的内在逻辑具有一致性。如果加上时间推移的考量,我们可以说人类的内在逻辑具有顺承性。换言之,人类心智的发展变化是连续的过程,并且有着“万变不离其宗”的特点。因此如果能够把握“万变不离其宗”的“宗”,我们就有机会顺藤摸瓜,推想出对方心智变化的合理范围。同时,我们还可以考虑以上推论的隐含前提——在与网上朋友的交流中,“我”确定是一个真实的人类。“我”作为一个真实人类,具有人类的认知、理解能力。所以“我”可以在与对方的线上线下交流中调用自己的感觉、知觉、思维、记忆、想象形成对交流对象的认识,并结合自身生活经验把握对方“万变不离其宗”之“宗”,从而得出有效判断,证明“网上朋友是真人”。

推广与结论

拓展延伸

以上推论均基于第二视角,即在“我”是真实人类的前提下,尝试推导交流对象为真实人类。除此之外,我们还可以突破这一前提、视角限制。

例如从第一视角审视这一议题:我如何证明自己是真实的人,而不是人工智能?这一问题其实是哲学中的经典课题,涉及对人类自由意志(free will)、自我意识(self-awareness)、自我认知等话题的探讨。另外,对此问题的探讨与现实生活紧密相关:对“我”的检视促使我们思考如何发掘自身的独特性,打磨不可取代的优势;检索我们自身各种想法的来源,质问我们的自由意志;有助于我们发展独立思考的能力,质疑现有的知识和理念。

相似地,前文呈现的第二视角也有着十分广泛的实际应用。对交流对象的判断、甄别能够让我们免于受骗和 PUA 等话术迷惑。而且,通过思考这一问题,我们能够增强对人的认识能力,进而提升我们的社交技能及社会生活表现。可以说,有关第二视角的思考能够帮我们避免“当局者迷”。

此外,我们还可以从第三视角看这个问题:如果我作为旁观者,看见一段聊天记录(或是听到一段对话),在聊天双方身份不明的情况下,如何判断聊天的双方分别是什么身份?如果说第二视角是让我们避免“当局者迷”,那么第三视角的现实意义就在于让我们作为“旁观者清”。在当今传媒发达、信息爆炸的时代,我们除了以第一、第二视角亲身参与感知生活,更多时候还需要以第三视角接受、处理来自他人的信息,并综合不同视角的思考得出结论、做出选择。但是信息流通中可能会出现损失和扭曲,并且人们获取的信息也受其来源及其它各方面的影响。所以我们往往需要在信息不全面和部分失真的情况下做出决定。这就是第三视角下的推理和思考发挥重大作用的时候了。在此前第二视角推论的基础上,我们可能还需要引入博弈论(game theory),从而争取在有限信息范围内实现自身利益最大化。另外,对于第三视角的思考有助于我们理清自己与他人及社会的关系,比如我们如何以旁观者的角色看待他人之间的交流。以此或许能够减少一些社会生活中的盲目性和不理智的从众行为。

结论

本文来自于我在疫情期间线上社交的经历,对“如何验证网上朋友是真实的人”这一问题进行了哲学、心理学,乃至 AI 伦理学方面的探讨,并追溯至这一问题的本质——人的独特性在于 agency 和 identity。经过综合分析,我得出了证明“网上朋友是真人"的可行方法:我们应当通过人的两个特性和自己的认知能力在线上、线下两种交流模式中区分人类“正主”与人类“冒牌”、人类“正主”与 AI。此外,我发现我们还可以突破前提,以不同视角来看待这一问题。第一、第二、第三视角下对这一问题的思考牵涉到不同的学科知识,对应人们在日常生活方面中的各个情景,在理论和实践层面均有重大考察意义与广泛应用。

后记与致谢

著名哲学家康德(Immanuel Kant)有一本书的中文译名是《纯粹理性批判》,那么本文的副标题则应该是《纯属闲得思考》。在我看来,许多意义非凡的论题都源起于日常生活中的“shower think”。只是大部分人放弃继续探索自己的奇思妙想,而少数热爱思考的人认真对待这些看似荒谬的“shower think”,于是在洗澡的时候想出了解决程序 bug 的方法才有了哲学和人类灿烂的精神世界。

另外,本次对“shower think”转化为完整论述的尝试于我个人更是意义非凡。这不仅是一个对分析、论述的尝试,更是一次多学科知识及思维的整合。然而在尝试论证的过程中,我发现自己仍然有许多学科知识、概念理解方面的欠缺,使得我在运用概念进行论证的时候不能得心应手。我目前能想到的改进方法有两点:从短期来说,我应当更加端正对于严肃选题的态度,积极练习学术论述以及写作方式——写作先从阅读文献开始,然后再从中提炼出内容核心,加以整合,形成自己的观点;从长期来说,我需要不断完善、提升自己在各领域的基础知识框架——在保证专业学习的前提下,多阅读兴趣领域内的学术著作。

最后,感谢与友人 donburi 的哲学讨论,虽然这也是一位未经验证的网上朋友(甚至不排除是 AI 的可能性!)。正是 donburi 常问的“×× 的用处是什么”引发了我对哲学与实践关联的思考及其表达呈现的尝试。一直以来,我作为读者始终感觉在学术论述和日常生活(至少在中文著作范围内)有着一条鸿沟:学者很少顾及非专业群体以及社会流行议题,关注当下文化议题的有心人普遍缺乏专业知识和思维对某些问题进行系统性分析。于是“读书有什么用”之类的问题在一些网络平台上成为了热门话题,反映了大众求知的欲望以及多数人并不得法的现状。我深感自己有幸在一定资源的基础上得以探索,享受专业知识和思考带来的乐趣。所以我更希望我能够尽自己所能,尝试在学术与生活之间搭建桥梁,让更多的人体会到思考的乐趣。

参考文献

Braunschweig, B., & Ghallab, M. (2021). Reflections on Artificial Intelligence for Humanity (1st ed. 2021. ed., Lecture Notes in Artificial Intelligence ; 12600).

Yuste, Rafael, Goering et al. (2017). Four ethical priorities for neurotechnologies and AI. Nature (London), 551(7679), 159-163.


  1. 注:表中的交流对象 A 和 B 代表不同交流方式的对象,并不特定对应线上或者线下的方式。比如第三种情况是,线上线下交流中有一种是与人类“正主”交流,另一种是与 AI 交流。 ↩︎