朝鲜专栏
反对'富有同情心的人工智能'
张大益 院长
2024年5月14日
在AlphaGo出现时进行了一项实验
当面对身份威胁时,人类会如何应对
如果在某些方面输给AI,只要找到我们更擅长的就行
因为大科技公司为了生存而进行的投资竞争,特定AI将很快被'一般AI'时代所取代
到时候人类将如何找回自尊呢
假设在棒球韩日大赛中,韩国在过去30年里未能赢得一场比赛。根据社会身份理论,我们的国民反应主要有三种。第一种是仍然尝试进行挑战的反应(挑战策略),第二种是觉得无法在棒球上战胜日本,转而选择足球等其他项目的反应(替代性补偿策略),第三种则是干脆从此开始支持日本的“退赛”声明(退出策略)。
当所属群体受到其他群体的身份威胁时,人往往会重新尝试竞争、寻找另一种身份或干脆退出该群体。这里的“其他群体”当然是指人类群体。例如,男性群体、白种人、进步阵营、异性恋群体等等。无论如何,这些都是智人这个物种的下属群体。然而,在2016年3月,一个新的群体出现了。
很多人还会记得。2016年3月9日至15日在首尔举行的AlphaGo(由谷歌DeepMind开发的人工智能)与李世石的对弈中取胜的登场。从那天起,AlphaGo继深蓝打败国际象棋冠军以及IBM的沃森在智力竞赛中获胜之后,成为另一个领域的人工智能冠军。然而,这仅仅是人工智能进化的新起点。
当时,在我的实验室中,我们研究了公众对这场对弈结果表现出的心理反应。在社会心理学中,人类本质上有十个重要特征。区别于动物的特征包括道德性、成熟度、修养、深度、精致;区别于机器人的特征则是温暖、情感反应、灵活性、主体性、理性。在这些特征中,AlphaGo的压倒性胜利到底对哪个领域构成了威胁?我们人类是否如社会身份理论所预测的那样采取了三种策略中的某一种呢?
结果非常有趣。在这场历史性的围棋对弈中,人工智能对人类的威胁主要体现在理性和精巧技术层面。由于此次冲击,我们采取了替代性补偿策略,而不是挑战或放弃策略。也就是说,我们认为在理性和精巧技术这方面不再能战胜人工智能,因此寄希望于其他领域。实际上,受试者们认为在十个特征中,道德性、情感反应和自主性对于人类的身份来说更加重要。在这些领域中,人类比人工智能要出色得多。相当于在人类在理性和精巧技术方面的失败中,试图在其他领域进行补偿。就像用手紧握气球的一端,另一端则会膨胀一样。
那么,如果另一个人工智能诞生并威胁到人类的道德性、情感反应、自主性会如何?更甚者,如果出现威胁人类本性十个特征的人工智能,我们将如何在其他替代性领域找到我们受损心理的补偿呢?
震撼的事实是,应对这个重要问题的日子不再遥远。OpenAI公司的ChatGPT引发的AI军备竞赛,今年成为关于通用人工智能(AGI)何时实现的争议焦点。“通用人工智能”是指能够在宽泛领域中实现超越人类平均智能水平的机器智能。比如,收集和分析影像医学资料的AI是特定人工智能,而通用人工智能则是能实现人类一般推理、学习、记忆、感知能力,成为日常生活伙伴的智力水平。
年初,Meta的扎克伯格提出了“为我们要制造的产品,必须制造通用人工智能”的愿景,OpenAI的奥尔特曼被问得最多的问题之一就是何时能实现通用人工智能。软银的孙正义表示“在十年内实现超越人类智能的通用人工智能,必须专注于此”,而英伟达的黄认为“五年内就可能实现”。在国内,三星、SK等公司纷纷投入资源,竞争生产将用于未来通用人工智能的AI芯片。
如果在不久的将来出现能超越人类所有能力的通用人工智能,人类将面临身份的巨大混乱。即便是自主性也能被通用人工智能获取,人类自尊将无止境地下降,而为了心理补偿,则拼命寻找被认为比机器做得好的其他领域。于是可能出现的‘是啊,人类不像机器那样容易犯错!’这样的说法,本身就显得十分可怜和无奈。
在这种背景下,对于全球大型科技公司为开发通用人工智能进行的军备竞赛,不应认为是必然的选择和无法避免的策略。正如在《权力与进步》中探讨技术与繁荣的千年历史的阿塞莫格鲁所言,“不要执着于人工智能有多像人类智能,而要考虑它对我们有多大工具性作用”。