标题

标题

内容

首页 > 粤评粤好 > 观点·争鸣

对话作家王威廉:为什么ChatGPT要撒谎、像小说家一样虚构回答?

更新时间:2023-05-16 来源:南方网

编者按:

王威廉说,被人介绍说他是一位科幻作家时,他感觉受之有愧。

他给出的理由是,觉得自己不是一个典型的科幻作家。2021年出版的小说集《野未来》,出版社给其打了一个“科幻现实主义小说集”的标签。《野未来》的阅读体验,的确区别于其他的科幻作品。装满摄像头的房间、机场的时空隧道、地图上的影像、性别转换的人……就是在这些日常存在的装置之上,他带我们腾飞起一点点——被迫适应飞速迭代更新的科技的人们,却未来得及建立与之匹配的精神世界,而掉入在这种落差之间的我们,又该如何面对这些被蒙蔽的问题、属于当下的问题。

2023年行至5月,春节期间《流浪地球》《三体》的热议,紧跟而上的是以ChatGPT和Midjourney为代表地AI工具的火爆,并引发了关于AI本身、创作、人类工作以及某些终极问题的一系列探讨;而刚过去不久的清明节,“复活”亲人、数字生命的话题也再次被提及;最近正在上映的《宇宙探索编辑部》,和《野未来》竟有着相似气质,那些科幻世界里转圈的年轻人,不约而同各自消失在山洞和隧道的尽头……

《野未来》是一部科幻系列中短篇小说集,其中所收录的11个故事由近及远,从GPS技术对生活和回忆的影响,屏幕对人与人真实联结的破坏,到记忆备份对记忆真实性的篡改,信息汪洋对情感和体验的损害,再到人类对黑洞对太空的探索……专注现实题材的王威廉,首次将自己擅长的物理学、哲学和人类学思考,融入小说,从消费社会的角度,来演绎科幻对人类、社会产生的影响。

在这样一个节点,“在南方”邀请到了王威廉。他是探讨这个话题的一个非常好的人选。他在千禧年前后念大学,从青年到如今,完整地经历了互联网、移动互联网以及正在经历的人工智能的当下。与此同时,他从马和羊在县城散步的西北草原来到现代化的海滨城市,在大二时由物理系转入人类学系,后来又读了文学博士,在人人都说“文学已死”的时代想要成为一个作家……大学、城市、文学、科技、南方这些宏大的词汇如此具体又集中地作用于一个青年人身上,而这一下来就是就是二十余年,投射在他如今地创作中,投射到未来去。

于是我们由20年前从德令哈出发地那趟火车开始,像在草原上奔跑、大海里游泳那样,漫无目的地聊起这种种。你会发现这一切都钩织成一个大网,环环相扣。王威廉曾经所说“他(写作者)所看重的是如何表达,而不是为何会如此表达”,也是在批评家杨庆祥的提醒下,他意识到“南方之南的地理环境,居然不仅渗透进了我的日常生活,还渗透进了我的思想构建。”这一次的漫谈,所涉及到的科技与日常、年轻人与文学以及南方经验这几个话题,在王威廉这位正在生长的作家身上,过去、当下和未来因此折叠,话题也就互相缠绕、碰撞,生发出新的意味和讨论视角。

bf8460f1-c69e-4037-9c5c-bdbcd5eae32e.png

南方网:我们先从地理坐标聊起吧。拿到中山大学录取通知书后,从小在西北长大的你,当时对南方有什么想象?

王威廉:我祖籍是陕西,生在青海省,当时没想到中山大学在广州,还新建了一个珠海校区。我打开地图一看,发现珠海在海边。再看看地图上自己所在的位置,从西北到东南,和它连成一个对角线。我要先坐火车到郑州,再南下广州,一共得坐50多个小时。一路南下,衣服也一件一件脱。过了湖南后特别热,就换上了背心。我觉得好怪,因为在北方老头才穿背心。

我们先到了广州火车站,然后坐大巴去珠海,进入到珠海市区后,感觉这个城市特别干净,一尘不染。可能当时太累了,我就想,在这个马路上睡觉都可以。

我们是第一批抵达珠海校区的学生,感觉一切都是崭新的,犹如梦境一般。有一种失真的感觉。

后来我发现,西北的大草原和珠海的大海,它们是相通的,颜色不同,但都是一望无际。我去年回中大珠海校区做活动,曾经震撼我的号称亚洲第一长教学楼,已经变得那么陈旧、斑驳,被包裹在几座光鲜亮丽的新楼背后,像一个要被藏起来的见不得人的老破东西。古人说树犹如此,人何以堪?那种触动我的崭新、现代的气质都消失了。

南方网:大学你还做了一件看起来挺关键的事情,大二从物理系转专业到人类学系。当时是如何做出这个决定的?

王威廉:我原来的梦想是当物理学家,后来也算是如愿以偿就读理论物理这个专业。但上大学是我第一次离开家,又离家那么远,会有一种强烈的孤独感。当时去中大图书馆读书,真正打开一个文学世界,也让自己重新矫正自己的人生选择。

让我真正下定决心转专业的是大一的时候参加全国重点大学征文比赛。要是能夺得中山大学第一名,就能去北大参加比赛。没想到自己真的拿到第一名。

南方网:你当时写了什么?

王威廉:写了一首长诗,好像叫《诗人、网络、玫瑰》。那时候网络这种新兴的科技现象,我也有关注到。

南方网:当时你们每个人已经有电脑了吗?

王威廉:一开始没有。学校的图书馆有机房,但有时间限制。到到大二情况很快发生变化,一半以上的学生都有了电脑。网上一切对我们来说都是新奇的我当时也加入了一些文学社区,比如榕树下。包括第一次用QQ,上网的很多都是大学生,大家年龄差不多,加了好友,网上聊了聊,就开始互相写信,成为笔友。

南方网:先成为网友,再成为笔友,这真的有点魔幻。

王威廉:后来个人电脑流行后,大家就不再写信了。那时候大家对于网络世界都是一种成瘾状态。

南方网:感觉你那时候好幸福,20岁前后,到一个很发达的城市,叠加网络世界,各种体验都是崭新的。

王威廉:对我的转折确实影响特别大,人生好像拦腰截断了。比赛得奖让我能说服学校、家人和自己去从物理学转到人类学系。当时各个学科之间壁垒森严,并不鼓励大家换专业。现在中大中文系每年还会接触到很多外专业转系过来的学生。

南方网:现在还会有人主动转到中文系吗?我以为大家都不关心文学了。

王威廉:你低估了,还是有很多学生转系过来。我认识西北大学教创意写作的老师,招专硕学生,来自各种各样的学科——药学、化学、物理、材料,各种各样。

所以我曾经说,创意写作不仅仅要培养作家,还要培养写作能力,最重要的是要呵护同学们的梦想。作家不是一个职业经验,而是一个梦想。我也一直在践行这句话。

当时转系之后,我从来没想过有一天完全靠着写作来生存,一直想的是我要一份职业来养活自己,然后再来写作。当一个人很年轻的时候,说我是一个作家,你的立场在哪里?你对世界的理解太浅了,没有进入到社会内部,根本不知道世界运行的规则和那些隐秘的部分。我渴望的那种作家是缓慢生长型的,他的写作让生命得到成长,他的生命经验也在推动写作的成长。那种交织的东西让我很着迷。

我不想当一个纯粹的作家,反而还特别符合今天这个时代。因为今天作家已经不能被称为一个职业,文学承载的东西跟过去已经不一样。今天完全靠写作来养活自己的作家,我的朋友圈里没有。

南方网:你会怎么跟你的学生们说?

王威廉:也是这样说。我希望他们能先生存,再发展,然后再写作。如果你想写作的话,任何现实的问题困境都不能阻拦你。有了这个梦想,也许永远存在自由的可能性,要是没有这个梦想,也许就彻底被打趴了。它不仅能帮助你平衡跟世界的关系,还能让你能理解生活,和生活和解,而不是在某些情况下完全被碾碎——那是我最不愿意看到的情况。

南方网:现在学生的写作有没有呈现出某种趋势,比如大家都关注同一个母题或者情绪?

王威廉:有,校园主题是永恒的,虽然没有曾经那么风靡了,但对学生来说还是很重要。第二就是高科技时代对他们的影响下,科幻作品能占到五分之一。他们可能长期玩游戏、看科幻电影,就主动来写科幻,也写得很自然。我之前提过科技现实主义,在《野未来》出版后,出版社直接冠名为“科幻现实主义”,有些人不理解,觉得是搞噱头,认为科幻和现实本来就格格不入。但我觉得也没有问题,因为科幻已经落实到我们生活的细节里。孩子们写科幻也是从现实出发。有一个故事挺有意思的,写出了青春期孩子的那种焦虑心理和人际交往的压力。故事里,人们突然能看到每个人头上有一个数字,那个数字就是你和这个人能打交道的次数。

南方网:这个很有意思,让我能马上代入自己,去想象你头顶上的数字。我看《野未来》的时候,也觉得都是当下正在发生的事情,不需要有任何技术或者专业上的理解门槛。

王威廉:对,所以别人说我是科幻作家我也不拒绝,但这个前缀我是受之有愧,因为我也不是一个典型的科幻作家。在《野未来》里我关注的是已经产生的科技对我们的影响。比如,我对摄像头很感兴趣。到底谁在看?摄像头背后可以没有人。你可以设想,摄像头完全覆盖地球表面,我们每个人都是楚门,它会产生很多悖论。比如把我们的世界用视频原封不动记录下来,是否就证明我们人类历史就是真实的了?《野未来》的第一篇《不见你目光》就是写的这种。它一方面是对人的侵犯,另外还有视角问题。小说里,它是360度无死角地监控,那就意味着它不是从一个人类的视角来看你,它可以从任何视角来窥视人类,在这种窥视下人类变得非常荒诞。这种视角的变化也会让你的生活解体。

南方网:某种程度,作家也挺像一个摄像头,从各个视角去看。

王威廉:但作家不是摄像头。作家看是看了,但最重要的是它处理器的问题,他要对观看的东西进行反思。好的作家一定是反抗的、犹疑的,甚至是暧昧的,在这种暧昧里慢慢审视和挖掘。

南方网:你刚刚提到文学为弱者发声。我今天看到一个和ChatGPT相关的新闻,提到它背后的那套审核机制,会将很多和暴力相关的语言过滤掉,同时产生一个问题,就是这些负面言论很多都是弱势群体发出来的,但在AI这里反倒被遮蔽掉了。

王威廉:是的。人工智能不可能是客观的,很多人觉得机器比人类理性,但我们现在的机器都是基于人类给它的信息碎片,我们给他提供的养料就是这样的。人工智能是二级生命,它没法直接在大自然中诞生,而是在人类文明的金字塔顶尖诞生出来的,它必须要通过一级生命,也就是人类生命才能汲取营养,获取自己的生命。所以人类的偏见会对它的影响更大。大自然对人类还有一种纠正,但是人工智能得到这种纠正的机会更少了。

南方网:那是意味着更危险吗?

王威廉:对普通人来说是更危险了,但目前还是被人所掌握,尤其是被更有权势的人掌握。

南方网:最近比较火的几个AI应用,你的体验如何?

王威廉:确实很出乎意料,ChatGPT的判断能力很强,非常有条理。你问一个问题,它至少能提供三点。整合资料的能力没得说,整个网络都是它的记忆存储器。它来写一个书评,甚至都能超越九成的人。

同时我们人与人之间的交往越来越去人性化,回归到非常原始、直截了当的那种模式。另外一方面,AI的语言模式越来越人性、“懂礼貌”。因为我们要赋予它这种东西,才能给人类带来更好的交互。另一方面,ChatGPT的翻译做得很好,它本身就是语言模块的训练,掌握了元语言,可以对所有其它语言进行转换,某种程度上,它已经掌握巴别塔了。

但让我觉得诧异的地方是,它会虚构、会撒谎。从表面来看,这种错误可以理解的,因为它就是按语义生成的逻辑编造一段话。不可理解的部分是,它为什么要这样做呢?它明明可以说资料不足,或者查不到相关内容,明明可以诚实一点,它“撒谎”的动机又是什么?如果没有动机的话就更不符合逻辑。同时,生成的错误答案被传到网上,就污染了互联网,构成一个资料的自我循环的证明,人类的信息数据库就乱了。

南方网:现代科技对你本人有什么影响?比如你会限制自己对于手机的使用时间吗?

王威廉:我有限制过,比如一些短视频平台会提醒你使用时间,但我们都毫无感觉地划走。

在信息时代,你会有一个幻觉,就是你可以做很多事情,既可以在这里开会,又可以同时看书,还可以和别人聊天。但我们的体验感没有那么深入,今天一件让你觉得刺激、震撼、好难忘的事情,第二天就被新的刺激覆盖。每一天和前一天的关系被打碎了,生命不再是一个整体。

南方网:你对孩子的教育上,会有什么限制或者引导吗?

王威廉:我家人特别抗拒让孩子接触电子产品。但我这方面还是开放的,我觉得要让她尽早去接触这些东西,适应信息社会,因为外部环境已经是这样了。另外一方面我觉得文学教育很重要,我女儿爱听“小爱同学”。小爱同学其实也是一种人工智能,我女儿会自己开机,喊“我要听《西游记》”,她其实已经听了好几遍了。我们有时候给孩子说太多道理,还不如以故事的方式教育她。

南方网:你女儿有没有定义过小爱同学和她的关系?

王威廉:没有定义过,她觉得小爱同学好傻,还嘲笑她。她会跟小爱同学聊天,有时候孩子恶作剧,就会说让小爱同学模仿一个放屁的声音,然后小爱同学真的就会来一个。这我也没想到,我说你还真会玩。她就笑,很开心。我觉得很有意思,他们从小就生活在这样一个人工智能的环境里。


王威廉,文学博士,中山大学中文系创意写作教研室主任,兼广东外语外贸大学名誉教授。中国作家协会会员,广东省小说创作委员会副主任,广州市作家协会副主席。出版小说《野未来》《内脸》《非法入住》《听盐生长的声音》《倒立生活》等,文论随笔集《无法游牧的悲伤》等。