教授:值得担心的不是AI失控,而是警惕掌握AI的人发疯

发布时间:2021-11-20 来源:封面新闻 原文链接:点击获取

封面新闻记者 张杰 实习生 李心月

人工智能正渗透在我们的生活方方面面,不管是机器人送外卖,写诗,虚拟大学生,还是各种自动化设施,大家都已经习以为常。而且这种趋势还正继续深化。与此同时,何为人工智能的本质,却并没有统一的清晰的定义。对于人工智能未来发展将会到怎样的层面,也一直是被讨论的焦点。在讨论人工智能的各种人群主体中,也不缺少哲学家的身影。

实际上,除技术问题外,人工智能的逻辑基础和伦理基础与哲学之间的关系确实十分密切。哲学是讨论人类存在的根基性问题。人工智能也是关系着人类未来生存方式的一个核心课题。人工智能研究的最终目的,无非是造出一台能够执行人类大多数任务的机器,其核心问题就是,首先要对人有一个了解。在某种程度来说,想要了解人工智能怎么回事,跟了解人是怎么回事,是高度关联的课题。

徐英瑾,70后,2004年6月于复旦大学哲学系,获得哲学博士学位。现为复旦大学哲学学院教授、博士生导师。从事哲学研究的他,对自然科学、理科保持浓厚的探究兴趣。近几年,他在人工智能哲学、知识论、认知科学哲学等领域著述甚丰。作为全国重大社科项目“基于信息技术哲学的当代认识论研究”首席专家,徐英瑾曾于2018年担任“世界哲学大会”人工智能分会场主席。徐英瑾的很多思考是用哲学眼光去审视、分析信息技术,尤其是人工智能的本质和发展。其《心智、语言和机器——维特根斯坦哲学与人工智能哲学的对话》(人民出版社2013年10月出版)是国内目前最全面深入的关于人工智能哲学的研究著作,并于2015年获得中国首届“科史哲青年著作奖”。2021年5月,《用得上的哲学》由上海三联书店出版。2021年7月,《人工智能哲学十五讲》由北京大学出版社出版,深受好评。

徐英瑾

在这本书中,徐英瑾将传统哲学思想资源融入进来,充分利用哲学、认知科学、演化心理学、决策科学、计算机科学、神经科学的研究成果,不在书斋里闭门造车,而是以哲学为底色,跨学科地进行人工智能的思考。他把复杂、术语颇多的现象学讲得既深入浅出,背后也是扎实的欧陆哲学研究工夫。徐英瑾还从哲学的角度讲到人工智能的情绪。 在现象学的理路中,无论是胡塞尔还是海德格尔对情绪的论述,的确可以为当代人工智能的情绪研究提供启迪。 情绪、情感具有具身性,离开了肉身和大脑,理性与计算都无法模拟出情绪、情感出来。因此,人工智能是否能具有情绪、如何具有情绪,在徐英瑾看来,现在很难回答,未来也不见得能有令人满意的答案。但该问题却又是未来人工智能可能无法绕过的槛。对此徐英瑾在数字红给出了很好的分析思路和方向,启迪了读者,但对问题的终极解答却仍然在路上。

徐英瑾还从近代唯理论和经验论争论对于人工智能的影响,阐述了“强人工智能是否可能”,并对人工智能各主要流派的底层思想以及它们与人类社会的关系,做了全盘的反思。徐英瑾尤其抓住并强调了人工智能哲学的根本要义:关于人工智能的哲学,是为了人去思考人工智能,而不是相反。

近日,封面新闻记者专访到徐英瑾教授,与他有一番深聊。

徐英瑾对信息技术及其使用终端的思考,既有学术的深刻又接现实的地气,充满人本主义温度。比如他提到,我们现在对智能产品越来越多的使用,背后都是一个机器行为。如果我们不能适应这种机器行为,就很难生存。“现在老年人使用智能手机就遇到一些困难,在他们就是有身和心两方面的矛盾。首先他们对于触摸屏很敏感的手指移动不是很适应,另一方面,他们不明白这个界面生成背后的逻辑,所以用手机购票之类都非常的累。”

这也引发他一个反思:人类是不是要适配人工智能的思维方式?在我自己看来,表面上各种各样App的流行迫使我们必须得适应,已经到了一个没有选择的地步。比如我到这里来接受采访,得打个车,所以我就要用打车的App,而且它们的界面经常换。换的时候也不和我商量,我刚刚熟悉旧的界面,他们又换了新的界面。这是一件很无聊的事情。从学科的角度上来讲,这些不是人工智能。真正的人工智能是要适应用户,否则怎么能够叫做智能。因为人工智能是要为人类服务,这里的人类指的是具体的、单个的人。”

对于最近大火的“元宇宙”概念,徐英瑾也给出自己的思考,他特别提醒:“当我判断一个概念时,我始终不会忘一个标准:是否低碳环保。像马斯克造的火箭,是可以反复利用,而且是实实在在的真实火箭,不是虚拟的。而且我认为,对人工智能的开发,应该朝着离线机器人服务的方向,对能源的依赖不要太强。而建一个像‘元宇宙’这也的庞大的网络世界,是需要消耗很大能源。我们赖以生存的地球也很脆弱。我们的地球比第一次大战以前的时代更加脆弱,以内彼此联系太密切,一损俱损。”

封面新闻:相对于而言,很多人会认为人工智能是一个非常偏工科的课科学研究,而您研究哲学,为什么想到要用哲学来谈论人工智能呢?您是如何看待哲学和科学之间的关系的呢?你是怎么想到要将人工智能作为自己的哲学思考对象?

徐英瑾:哲学思考有一个问题,很多话是公说公有理,婆说婆有理。我欣赏莱布尼茨的话,任何事情都可以通过演算去弄是非。有一些终极问题体悟算不出来 但是这个比例不会很高。分析哲学比较重视论证性,但忽略全局性。欧陆哲学重视全局性,却忽略论证性,我想要做的就是把这两者取长补短,加以综合。这不是很简单就能做到的,但我一直在朝着这个方面努力。

封面新闻:关于人工智能未来发展的预测很多。不少人担心“强人工智能”的出现会威胁人类的生存。您如何看?

徐英瑾:但是,任何事物,我们不能光要它的好处,不要它的风险。人类发展人工智能的一个方向就是,要是让人工智能变得越来越聪明,越来越像活人。但这样肯定会带来风险,但如果发展人工智能就还们必须冒这个风险。如果不冒这个险,它会变得非常笨,也不是人类想要的人工智能。这就像打仗,有人赢,那么就有人败。人类对风险是有相当高的控制能力的,尽管这种控制不是绝对的。其实不只是对机器人,人类对自己的风险控制能力也不是绝对的。比如说,为了把飞机突然发疯这在事情的概率降到最低,人会用“任何时候驾驶室必须至少有两个人同时在场”的规则。但这也不能将风险降到绝对为零,因为还是两个人在驾驶室里一起发疯的可能。我个人觉得,人类是怎么防范自己失控,就应该怎么去防范人工智能失控。如果人工智能拼命往邪恶的方向发展,这不是人工智能干坏事,而是人在利用人工智能干坏事。当然人工智能会让坏事变得更加严重。至于担心人工智能在肉体、物理上对人的毁灭,我觉得大可不必太担心。因为很强的人工智能与黑暗之间的结合,要加很多安全阀。只要不给人工智能独当一面的机会,就能很好拦阻这种状况的发生。但我不确定我的想法是不是过于理想主义。毕竟现在世界处于比较分裂的状态, 各个国家的人类会不会坐下来协商,也都是不确定的未知的。

“利用人工智能的优点,明了人工智能的局限。不要依赖它。”

封面新闻:你觉得有必要制定一个什么规则来约束一下人工智能技术的发展,防止从事人工智能的从业者是十足的科技狂,创造出一个疯狂的机器人,没有底线,做出对人类杀伤性极强的事情?

徐英瑾:其实越是定规范,人类越是会有逆反心理。我觉得,相比基因编辑,人工智能较为不用担心。对于进攻的恶势力,我不认为防御方会失手。因为防御方也可以获得技术,而且官方会支持对计算机技术的利用。我觉得,真正要担心的不是失控的人工智能,而是要去警惕掌握人工智能的人发疯。防止人性的恶,才是关键。我个人觉得最好的状态时这样的:利用人工智能的优点,明了人工智能的局限。不要依赖它。利用网络的便利性,又要与它的缺点作斗争。比如大数据时代对人的信息全面采集造成对人隐私权的侵犯,我个人有一个思考是可以发展小数据技术。当这个技术帮我们进行信息处理时,不会把个人信息上传到云,而是当下处理。就像保密单位那样对信息进行小范围使用和相对封闭化的处理。

封面新闻:从哲学的角度来思考人工智能,有怎样独特的优势?

徐英瑾:不少人注意到,一些物理学、社会学概念经常会被混搭用到其他领域内,比如量子婚姻、量子物理学,墒的增加和递减。而哲学就是让这些概念用在正确的抽屉上,不要混场,不要串戏。有的人会说,不是讲究融合嘛。但是融合的前提是分开。先分清楚概念才有融合的价值和意义。

封面新闻:如果用比较简要精炼的语言来概述,人工智能哲学的核心主题是在讨论什么?

徐英瑾:就是对通用人工智能发展进行战略性前瞻研究。我把天下学科都罗列一下,发现只有哲学才能干得动这活儿。研究人工智能不能不知“意向性”。而“意向性”是德国哲学家胡塞尔的概念。

让哲学家去对社会上各种现象随时发表评论,就好比让昆曲演员去跳disco

封面新闻:不难发现,纵观世界当下各学科,哲学对当代社会出现的各种想象、问题,没有很好地回应,对现代科技进步的发言权和分析能力,影响力也都比较弱,影响力有限。你认可这种观察吗?有人说哲学是超前的思考或者是等世事沉淀以后再来做思考。总之要跟当下的现实保持一定距离,才能看得清。您如何看待哲学跟大众之间的关系,哲学跟时代的关系应该是怎样的?

徐英瑾:其实很多人用了哲学,但是却忘了它是哲学。哲学的知识产权被使用,却总是被忘记。比如《黑客帝国》里用的就是哲学的概念。当然现在由于专业的哲学学者忙于写论文,无暇回应大众关心的议题。也确实需要一个桥梁,让大众知道当下的哲学家在做什么,在想些什么。我现在也在一些视频节目上,比如“看理想”,用普通大众大家听得懂的语言讲一些哲学。

哲学对很多事情不回应,有很多可以理解的原因。比如其中一个原因是,太阳底下无新事。很多社会现象和问题,在历史上是有重复的,并不是新鲜事儿。那么哲学与其去对这种此起彼伏的现象进行回应,不如去思考抽象的东西。打个不太恰当的比喻,让哲学家去对社会上各种现象随时发表评论,就好比让昆曲演员去跳disco.而且,当下这个时代的气质,也跟哲学的精神气场相冲突。哲学会鼓励你去想一些你没想过的东西,鼓励你去反思你想过的东西是不是一定正确。但当下的社会,舆论场上则是寻找同温层,寻找同道,一言不合就拉黑,拒绝深度对话和沟通。

“意义是需要用生命去体验的,不是一个你去接受的道理或者命题”

封面新闻:其实哲学思维学会了,对现实生活还是很管用的。

徐英瑾:是的。比如说,躺平这个概念。不管是西方的斯多葛主义、皮浪怀疑主义,还是东方的老庄哲学、魏晋玄学,好像都主张“躺平”。但是如果你认真读他们的书,研究他们, 你自己就不能躺平。从历史上梳理还会发现,古代的“躺平”跟现在的“躺平”概念也不一样。马可·奥勒留是罗马皇帝,也是斯多葛派哲学的实践者。他的“躺平”,是觉得功名利禄无意义。东方的老庄哲学的“躺平”是一种美学欣赏,忘记功名利禄,去功利主义。而不是现在的放弃努力。要让“躺平”往高雅的境界去,需要哲学来帮助。哲学可以帮助你,不一定要非常多的物质,也可以在美学上有很好的享受。

封面新闻:当下不少年轻人觉得精神空虚,有灵魂空心化的感觉。于是一个很古老的问题又被经常提及:哲学能提供生命的意义吗?

徐英瑾:生命的意义不是一个命题、句子,不是任何一个学科,包括哲学,能提供的。如果哲学真的提供了,也没有多少人会真正信服之。在我看来,一个人生命的意义主要在于生命的过程。比如说,你有一个孩子,他或者她继承你的基因,你陪伴这个孩子一起长大,你从中感受到快乐,这就是生命意义的一部分。你喜欢画画,在画画的过程中你觉得开心,有成就感,这也是意义。意义是需要用生命去体验的,不是一个你去接受的道理或者命题。如果一个人对这个世界没有任何爱,没有培养出任何爱好,没有任何关切,那我就算给她讲三天三夜哲学,也没有啥用。在我看来,现在的人觉得内心空心化,跟金钱或者资源多少关系不大,而在于人的能动性在下降。比起几十年前,人们要通过学习自我提高,可以利用的资源,比以前多多了。

“春风又绿江南岸”的诗意感受是人工智能机器人目前体验不到的

封面新闻:提到人工智能,最常提到的一个说法是,人工智能跟人的本质差别在于,前者没有情感。虽然人工智能机器人能写诗,虽然一些诗写得也不错,但往往被批评说缺乏人的灵动。你如何看待这个说法?

徐英瑾:情感、身体感受的确是很特殊。 春风又绿江南岸。人多多少少是能感受到春风的滋味,从而感到小小的幸福。这跟身体感觉、视觉感觉有关联,是身体体验一系列词汇运用。人工智能缺乏的就是这个身体体验基础的微妙校对。机器人写诗就是词汇的大数据使用。你看小朋友写作文其实有点像人工智能——容易犯堆砌词汇的问题, 看到大人用什么词自己也用,缺乏成年人有的分寸感和校准感。我本人也写小说,有时候我会把自己的小说翻成英文版。第一遍会使用机器软件翻译,然后我来重新改。人工智能大大减少了我的工作量。但我发现,韵律感和身体感是机器最不擅长的。另外就是幽默感、谐音梗 ,也是机器人往往无能为力的。因为要感受和传达谐音带来的幽默,必须得有身体感官和发声器官,而机器是没有的。将来机器会不会有,目前还不确定。总体来说,情感是基于肉体,灵肉一体,“你种有我、我中有你”的一种状态。

“人类其实很脆弱,一个小小的条件变化,就能导致人没法享受元宇宙”

封面新闻:目前关于“元宇宙”的讨论和关注度非常高。有很多不同的视角去阐述和理解。您本人对之如何理解?

徐英瑾:我理解的“元宇宙”跟现实帝国平行的一个网络虚拟王国国。在这个虚拟王国里,人可以像使用真金白银一样购买现实物品,性质更接近比特币。但是我对这个也有疑问。人类其实很脆弱,一个小小的条件变化,就能导致人没法享受元宇宙。比如现实中缺乏基本的电力供应,或者人的健康出现了问题。这个虚拟王国意义也不大。虚拟的手脚,毕竟还是不如真实的手脚可靠。我们要冷静观察思考这个概念到底会怎么发展。当我判断一个概念时,我始终不会忘一个标准:是否低碳环保。像马斯克造的火箭,是可以反复利用,而且是实实在在的真实火箭,不是虚拟的。而且我认为,对人工智能的开发,应该朝着离线机器人服务的方向,对能源的依赖不要太强。

封面新闻:就目前来说,要去建构“元宇宙”,都有哪些必须突破的技术障碍?

徐英瑾:比如说,带宽。虚拟王国的搭建需要很大的带宽。现实中要有各种网络基站的建设。要知道,在世界的很多地方,连2g还不顺畅。还有虚拟现实技术、增强现实技术是否足够成熟。还有就是,疫情以后,世界很多地方的供应链出现很多断裂。如果基本能源丧失,在现实生活都成问题的话,人们对虚拟世界的向往,还有多少动力,也是值得思考的。最让我觉得值得关心的是,构建一个庞大的网络世界,是需要消耗很大能源。我们赖以生存的地球也很脆弱。我们的地球比第一次大战更加脆弱,以内彼此联系太密切,一损俱损。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。