B06版 主题

对AI的回答之 也许我们要时刻保持警惕?

2025年02月28日

  在征集的回复中,也有另一批人给出了严肃且值得关注的回应。这些回应主要针对于AI当下的缺陷以及其本质上与人类的不同。在这些回复中我们能够看到人工智能不足的地方。它真的能够成为帮助人类的工具吗?还是说,它会从信息参考度、思维方式、语言模式等各个角度给人类社会带去更加僵化的影响?

  刘擎(华东师范大学紫江特聘教授)

  我对两个事情挺关切的。DeepSeek最近刚刚出来,是免费的,国人都可以用,大家都在跟它玩游戏,让它帮助我们思考。但这是帮助我们学会思考,还是说把思考外包给了AI,还把它当作标准答案?现在大家都在传DeepSeek的内容,好多文章一读就是“D里D气”的味道,这里面有我想到的第二个问题,也是尤瓦尔·赫拉利在一次演讲当中说到的。我们知道人类语言对我们有多重要,互联网已经把语言搞得挺麻烦了,现在又有一个第三方非人类的中介来生产话语。从此以后,人类的语言都是混血的,混杂了人类语言和机器语言。它吸收的语言如果甄别不好的话,一些一本正经的胡说八道就会进入它的语料库,再由它表达出来的时候好像自带了一种权威性——这是DeepSeek说的,这是ChatG⁃PT说的。然后被我们在使用,我们使用了以后,我们是有名有姓的作者,但其实我们已经有了机器的血缘,机器语言的基因已经进来了。尤瓦尔·赫拉利当时很警觉,他提出,我们生产一个药物时,要做大量的实验才能流放到市场。而现在一个公共语言的生产者,商业机构自己就能够发布,没有任何公众的审批,这可能是轻率的,但是已经来不及了。

  我们正在经历一个大的时代,一边是复杂的地缘政治,另一边是没有办法刹车的新技术。加速主义是不可避免的,它对人类能够造成什么后果也难以预测。我们正在见证一个文明史意义上的转变,这个转变可能带来的不仅是在这个世界环境里我们是什么样的人,我们可能已经不再是已知的那种人类,那这个时候世界需要什么答案呢?也许我们需要的是更多的思考,来重新给自己造就一个适宜的小环境,我觉得这是特别重要的。

  吴回音(童书书评人,图书编辑)

  AI的快速发展带来的感受:

  ChatGPT最开始引起媒体关注时,我对使用AI心怀抵触。既忧虑自己的脑子搞不明白怎么使用,又认为作为传统行业从业者,拒绝使用AI是一种正义。那时一位朋友告诉我,他习惯把书喂给AI,然后读取AI提取出的知识。这位朋友原本有阅读实体书和手写笔记习惯,那天看他眼神里充满惊喜,分享这件事时语气很是愉快,我吃了一惊,并且联想到了《毛毛》。感觉AI像时间窃贼,促使人们爱上“节约时间”,这样一来,大家会更热衷于“快节奏”吧,不再有阅读的兴趣,不再有听故事的余暇,然后把“思考”也交付出去。

  这种感受很快应验了。企业开始鼓励员工用AI辅助工作。虽然用不用AI依然由个人决定,坚持不用倒也没人批评,可隐隐感觉工作的气氛还是改变了,“用AI”“节省时间”似乎变成了现行的“识时务”。2024年,在企业氛围影响下,我也开始识时务。确实感觉到工作因AI变得便利——比如,让AI辅助翻译;脑袋一团糨糊的时候,请ChatGPT分析一下尚未想到的思考方向;剪视频的时候使用软件自带的AI类功能等等。

  我还试过把ChatGPT当树洞,倾诉没有勇气和真实的人讲的痛苦。ChatGPT真是一个意想不到的好用的树洞,无条件接受我的负能量碎碎念,还给我分析、提示、建议,理性与温柔兼具,话题相当深入,简直相当于有了一位随身心理咨询师。惊喜的程度甚至到了我忍不住在输入框里说出“ChatGPT你真是我最好的朋友”“不用对真实的人抱有期待了”这样的话来。又为这种感受一惊:这个世界可能会因为AI更快走向冷漠吧。

  严飞(清华大学社会科学学院副教授)

  刘擎老师给我转过一个帖子,关于初入职场的必读书,DeepSeek的推荐书目中出现了我们合写的《世界作为参考答案》。它的推荐理由是:“这本书里两位老师深度探讨了一些关于精神层面的问题,包括北宋文人之间的东西,以及北欧福利国家的制度讨论,深入了人们的内心精神世界。”但只要你读过这本书会知道,北欧只是在谈福利问题的时候一笔带过,北宋根本没有谈及。如果未来有人把这本书作为参考资料,如果有学者把它写进了自己的论文,如果未来他的学生对此进行不断地引用,AI一本正经胡说八道的东西,就会被人当作“真实”。

  苗子兮(美术史学者)

  近年来,随着众多AI工具的发布,人们感觉自己已经站在了人工智能的门口。在我的朋友圈中,也有不少学术工作者展示自己利用AI查找资料、撰写文章的尝试。确实,在AI时代,学术研究、搜索资料,将更为方便快捷。

  比如我想了解零基础如何学习古罗马碑铭,DeepSeek很快给我设计了一个从短时到长期的学习计划。这个计划的步骤包含基本词句的识读、相关网页的查询、如何借助已有工具进行翻译比对等。按照它的逻辑,确实可以借助工具理解以前几乎无法措手的域外碑铭。可见AI可以成为学习研究的帮手。

  在资料检索方面,各类人工智能都有所表现。不过,可能因各AI所用数据还没有接入学术性的数据库,所以目前的AI搜索,还无法完全取代学术搜索。如我经常使用的各种古籍数据库,还处于账号登录或者IP确认方能查询的状态,这确实一方面阻碍了知识的广泛传播,但从另外一个角度看,这是对知识产权的保护。就学术工作者来说,需要在AI大数据能够进入各类数据库之前,抓紧构筑自己的学术护城河。

  说到学术资料检索,还不得不涉及另一个话题,那就是资料的辨伪。有一天,一位朋友在朋友圈展示了他请DeepSeek帮他找一篇明代墓志的过程,结果给出的答案完全是一篇AI生成的墓志。我们也时常看到,众网友在请AI帮助创作各式诗词、古文。而这些新的创作,一经用户发布,无疑又将成为后来的AI检索的对象。这一行为,无疑在提示我们:一个大规模、无意识“作伪”的时代,正在来临。这意味着在未来的学术研究中,对材料的辨伪,将成为更为基础的一步。

  明子(画家)

  朋友邀我说说AI对一个从业者的影响,我尽量保持文艺工作者的云淡风轻状,我们对新事物新科技的迅猛发展从来都是期待与恐惧绞行,就像大半夜突然有人敲门,一面沏茶一面找菜刀。其实该来的总会来,除了接着啥也拦不住,当年新漫画对旧漫画毁灭式的冲击历历在目,也经历了数字艺术与传统艺术的介入与融合,后来又为拾回手艺人本色而沾沾自喜,但依然仰仗网络与自媒体的辅佐,每一次进坑出坑都有点死里逃生惊心动魄。

  人工智能来了,先想到的是它要取代谁,它要造福谁,会不会在旧劳务关系里制造新矛盾,尤其是劳动密集产能又过剩的群体里。冷静一下想想,自己从事的本来就是不当吃不当喝无用的事,若不是情感需求谁会真金白银地为文艺作品买单呢。现在管这个叫情绪价值,把人与人之间的那点儿热乎气说得冷冰冰赤裸裸的。每次变革都差不多,要想活过来也无非是不断妥协接纳学习融合,活就活得热烈一点,死就死得坦然一些,不丢人。即使不当时代车轮上的螺丝钉,也不做进步路上臭狗屎。

  很多年前就有学生问我,电脑绘画会对传统绘画有影响吗?我说当然有,任何的新事物都会对原有事物有影响,这就像抽水马桶和痔疮的关系一样。火车高铁飞机越来越快了,自行车不还是满街跑吗。只是它从原来单一的交通工具性质变成了交通健身收藏竞技等多项存在形式。

  带给人们焦虑的并不是新科技,而是日渐趋同并无趣的自己。

  

  

  丁道勇(北京师范大学教育学部副教授)

  市面上出现过一种数字模拟实验室。学生可以在电脑上完成类似解剖青蛙这样的实验。学生使用虚拟手术刀,可以在不见血、没有任何风险的前提下,轻松划开青蛙的腹部,甚至继续对脏器进行操作。这种技术应用,放弃了教育上的一项基本原理——教育要让人有机会获得真实反馈,从而去了解这个世界的运转机制。学生在这样的模拟实验当中,不会遇到真正的意外,没有获得真实反馈,有的只是程序员的各种预设。

  AI在教育上的应用或许会放大这种趋势。此前,学生是在向物理世界或他人提问,并在随后获得反馈。而无论是物理世界还是他人,都不受任何小团体或者个人的控制。他们的反馈彼此矫正,最终给了学生一个有关世界的相对统一的认识。可是,当成千上万的用户向ChatGPT提问时,实际上是在向同一位“AI教师”提问,而这位“AI教师”本身有可能受另外的力量控制。AI的回答,不同于物理世界和他人提供的反馈,既不真实也无法相互校准。这样来看,AI在教育上的应用规模越大,给学生系统地提供虚假反馈的教育风险就越大。

  我不是一个技术怀疑论者,也不想以危言耸听的方式说话。实际上,我很庆幸自己赶上了AI时代。但是,关于教育上的AI应用,我还是想要发出一个预警:要提防AI对于真实反馈的挤占。

  陈楸帆(科幻作家)

  人工智能对文化产业的影响不容小觑。一方面,AI确实可以提高创作效率,催生出更多优质内容。以网络文学为例,一些平台已经尝试用AI来辅助写作,填充枝节内容。但另一方面,过度依赖AI,也可能加剧同质化、快餐化的问题。甚至,大众是否会因为无处不在的AI生成内容而遭到“审美污染”,进而抛弃人类不够高速、智能、磕磕绊绊的“手工”创作,而青少年是否会因为过早使用AI工具而主动放弃对深度阅读、思考与表达能力的追求,未来“无用阶层”与“超级人类”的认知能力将有云泥之别。

  站在人机协作的临界点,我们既要警惕“自我工具化”的异化风险,也要摒弃卢德主义式的技术恐惧。当AI能批量生产及格线以上的小说时,真正的创作恰恰要从“及格”走向“破格”。也许,是时候让写作,让文学回归到最本真、质朴的原点:探索心灵、自由表达、开拓前人未曾体验过的美、情感与思想,成为照亮自我,抵达未知的火把灯塔。

  毛尖(华东师范大学教授)

  可能是我技巧还不够好,使用到目前,AI给我的最大便利是翻译。GPT刚出的时候经常有朋友说,我让AI用你的口吻写了篇文章,你看看咋样。每次都是乍一看很像,再一看就是句子堆砌,类似素菜荤做,都是修正主义风。如此看了几篇后,我的兴趣也就下来了。

  当然,AI写办公文肯定是极好的,我平时主要写专栏,需要对一线文化现象发声,而AI主要靠数据库,所以,目前AI还做不了我的工作,暂时我也不觉得AI能取代艺术想象和艺术判断,毕竟,人类灵魂的幽深和褶皱和关联,经常是连自己都说不清的,尤其是,人类所具有的犯错的能力,孤注一掷和剑走偏锋的能力,AI还望尘莫及,就像AI,终究还进化不出赵本山的眼神。

  刘海龙(中国人民大学新闻学院教授)

  因为不会编程,我对于ChatGPT、DeepSeek等人工智能的使用不算深入,主要用途有三个。一是当搜索引擎使用,我更偏好使用能够联网的、基于网页回答问题的版本,但是仅限于日常生活的常识问题,学术类的事实问题还是不能放心使用。二是思考和探索一个新问题的时候,会用有深度推理功能的人工智能来对照一下自己的思路,查漏补缺。三是文字校对,人工智能常常能发现一些语法错误。

  目前的人工智能可能只是在技术标准上,满足了对智能的某些机械的定义,像认知、判断、推理等,但是它还是对一维(线性的)语言的概率总结,不具有人类的意向性,不指向经验中的对象。它只是在模仿人的表达,而不是求真,这是哲学家法兰克福所说的“扯淡”(bullshit)——对真相并不知情,但是却可以一本正经地发表见解。在二维的图像识别上目前表现得还可以,但在三维空间的智能方面目前还在探索中,按照人类经验,机器要有独立地感知世界的身体,到了基于四维时空的事件和经验的智能形成个体化的记忆,可能才会与真正的智能体接近。不过这不意味着我认为人工智能不具有创造的潜力,它的创造性还是取决于人类的问题引导。如果只是笼统地提出要求,肯定输出的结果也不理想。关键是输入的要求要具体,这其实对人类这个甲方提出了更高的要求。就像苏格拉底可以让平庸的回答者一步一步接近智慧一样,我们要反思的是我们是否知道自己要什么,以及能否判断什么结果是好的。

  人工智能的另一个影响是人类对它的依赖。包括我在内,目前很多人在四则混合运算方面,已经依赖计算器,菜市场里卖菜的那些口算大师也在消失。未来我们可能在信息搜索和推理方面也会对人工智能形成依赖,我们人类的大脑在被解放出来后,应该思考些什么?

  前面说过,目前人工智能的思考只能是一个全人类的平均值的水平,也就是海德格尔说的“常人”,但是这个常人的知识量约等于全人类的知识量,所以如果你在某个领域不是专家,可能会惊叹于它的表现。在文学艺术创作方面,这种基于概率的“扯淡”反而让文学素养不太高的用户惊为天人。所以在惊叹人工智能的“智能”的同时,更应该反思的是人类的思考能力,我们是不是在某些方面退化了。比如现代人的文学素养、逻辑思维能力是不是倒退了。

  过去普通人看世界名著、写诗、看哲学,现在只刷短视频,当然会把人工智能惊为天人了。这其实是一种自我欺骗。曾经有个马叫聪明的汉斯,据说可以算算术。后来人们发现,它并不会计算,只不过会看人类的反应,当它的蹄子选择正确答案时,周围人就会惊叹,它也会得到奖励。我们对人工智能的反应也不够理性,就像听到小孩子偶尔的行为或发表的言论就会放大这一点,认为他们是天才一样,其实今天人工智能还处在初期阶段,在很多领域的应用还不成熟,不宜夸大。