咸鹅闲话 | 说说 人 和 工具

[ 最后更新 于 2024/6/17]

人类最终却沦为了自己工具的工具_。——梭罗《瓦尔登湖》

”有人坚持认为，否定计算机在广阔领域里至高无上的地位是愚蠢之举；可是这些人缺乏的正是保罗·古德曼所谓的“技术的谦虚”，其意思是，要有全局意识，既不要断定、也不要妨碍技术的具体功能。“——尼尔·波兹曼《技术垄断》

这周在看尼尔·波兹曼的《技术垄断》。很久以前用一下午窝在五角场某书店的地下一楼看完过他写的《娱乐至死》，那时候这个世界上还没有出现chatGPT。于是，当我上周时隔好几年再翻出他的三部曲中的另一本《技术垄断》之时，我很难相信这本书早在2007年就问世了——因为他的内容仿佛就是针对横空出世的大模型所针对性完成的，也解答了我近一年来对于人工智能以天为单位的进化进程中生出的对于世界的很多思虑。

（以下是没有篇章结构的乱写，其想到哪写到哪的态度可以完全肯定是人类的创作。）

我自己知道自己不是一个对技术完全消极的人。恰恰相反，我是一个很喜欢新鲜技术和瞎折腾的人。但是最近两年来似乎不再是一个对于目前的技术发展抱有乐观态度的人，甚至对于目前技术发展的轨道抱有深深的担忧。与其说是技术本身，不如说是技术以及其背后的制度。

对于技术完全不了解的人总会陷入某两种极端——觉得新技术完全一无是处 或者 觉得新技术什么问题都能解决。不知道从哪天开始头条新闻大肆地辩论说人工智能”能理解“或者“不能理解”——问题并不出在这两种观点哪一个更正确，而是——在不定义“什么是思考”“什么是理解”的前提下去讨论一个人工智能产品“能否思考”这件事显得极其荒唐。我很喜欢尼尔·博斯曼在书里写的一个例子：“热水器能感受到冷吗？” 或许稍微有些常识的人都会说：怎么可能呢，只是连了一个恒温控制器，在没达到目标温度的时候开始加热罢了。但是倘若仔细想想，假如有人正在觉得人工智能大模型能跟你进行一些似是而非的话就是具备了理解能力的话，热水器怎么不算是一个知道冷热的机器呢，因为在一定程度上它也对冷做出了反馈。于是，在这种定义下，我们的热水器怎么不算是聪明的智能家电呢？（手动狗头）。倘若一只鹦鹉对于听过一遍的话瞬间就能记住，而且每天可以同时接触到不停说话的几千万人（或几千万张正在播放的磁带）并且脑部结构可以开启并行运算不断进行数据处理，那么它第二天就变成了鹦鹉GPT。换句话，chatgpt本质上只是一个巨型超能机器鹦鹉。因而，任何没有意识到说“ChatGPT能理解你说的话”和“你的鹦鹉能听懂你说的话”这二者都生动运用了拟人的修辞的人，要不就是对大模型怎么运作一无所知，要么就是对什么算是人也毫无了解。

当然，有前文这样的论断还得基于唯有人类可以完成思考和理解这样的行为。此处我又要引述尼尔在书里解答了我很大困惑的话：“使人脑独步天下的是意义，而不是说话。我这里使用的“意义”指的是，人表达的意义大于符号相加产生的结果，超越了至少两个人共享的符号所指。我的理解是，意义还包括所谓情感、经验和感知，这些东西不必用符号来表达，有时还不可能用符号来表达。” 这段话读起来有些晦涩，但我自己的理解是：“人在形成语言表达的时候，他存在某种心理状态和内在信念。”换句话说，你的话语可以看作是你的思维在形成过程中对所在某一语境的一个投影。即使想法相同，语境不同、倾听的对象不同亦或是心境不同，表达的结果亦不相同。相反，在不同场合下， 相同的表达结果背后也可能存在不同的目的——比如，当你对别人说：“你理解我的意思吗？“可能是出于讨论问题，可能是出于嘲讽炫耀，也可能是出于渴求理解（但当chatgpt对你说”你理解我的意思吗“的时候，基本没有正常人会理解出除了字面以外的意思，这就是因为我们当然知道它背后没有更多的所指）。另外，人的想法每时每刻都是在变的，从只言片语中亦并不能完全了解一个人的真实想法，甚至，在某些场合的某些话语，完全不是一个人的真实想法。因而，从任何角度来讲 把“会组织句子” 与 “能够思考和有目的地表达”划等号是极其不合适的。

然而，说到这里，我们也不得不意识到，虽然人的语言是具备表达思考的功能的，但世界上就是很悲哀地存在着大量的不怎么包含人类特征的“垃圾话语”。——倘若我们认为chatGPT不能思考——因为它的表达只包含信息、不包含意义和任何内在的心里状态；那么我们就不得不承认，很多真实的人在一些场合说话或写作时，亦不包含任何意义。这种场合包括但不限于——写毫无意义的应试作文、写毫无意义的工作文书、写毫无意义的应用文、帮老板写的广告、帮客户拟写的项目申请书…是的，早在chatGPT诞生之前，已经有千千万万的人在产出大量的不包含任何思考、情感、抑或其他任何人类特质的 ”垃圾话语“。故而，讨论人工智能能不能理解、思考并不重要。重要的是——就算它不能理解、不能思考，它已经能够胜任只需要产出垃圾话语的工作了。这便已经达到了提高生产效率和（五天的工作一小时昨晚）、节约生产成本（五个人的工作现在只需要一个人来做）、加快进一步扩大再生产（相同的模型用到不同的领域）的目的。

这就引出了另一点我想谈的，也是本书的另一个核心观点——技术即制度。技术永远不是去意识形态的——恰恰相反，它往往高度地服务于某一特定意识形态的群体。就好像目前问世的大部分技术追求的永远是效率至上（或者其实也可以说是利润最大化），而非公平至上的，这甚至可以追溯到统计学、经济学的诞生。——工具是不会违背主人的经济和政治目的的。以至于到今天，很多工具被创造出来只是为了达到某种圈钱的目的。在技术垄断的时代，似乎技术早已不再是为了解决问题而生。——更糟的是，操纵这些技术的群体却往往又在舆论中将”技术“同”科学“同”真理、进步、公正、福祉“等任何进步的辞藻画上等号，让技术背后的真实立场和服务对象在整个过程中消隐。技术摇身一变又成为客观中立甚至社会福祉的代言人。这也正是所谓的——”技术能会解放人的生活，使得大家都有时间做自己想做的事情“的论调。

有人或许要说我这样的论调太过悲观，难道目前的这些人工智能技术就没有一无是处吗？我还是要说，我是一个对技术本身很乐观的人，我也相信新技术带来解决问题的可能。就好像虽然我大部分时间对待chatGPT都严肃批评，但是自己用chatgpt写无聊邮件，刷无聊格式，也用它学外语、改简历、或者问它一些以前完全不知道的新领域的内容。尼尔·波兹曼书里写着我们要保有“技术的谦虚”，不要妨碍技术的具体功能，也不能盲目神话夸大它的作用，这也是我想抱有的态度。

归根到底，技术应该是解决问题、服务人类的工具，也只能是工具。技术不能代替人、更不能被捧为神。即使在技术似乎已经可以代替我们思考、表达的今天，人更加不能失去使我们作为人而存在的品格和特质，更万万不能沦落为连工具都不如的存在。

因而，在这个互联网变成遍地垃圾填埋场的当下，我们更要不断思考并表达自己的思考。

• 原文完成于 2024-6-17 伦敦 *

今天当了一天的工具。 上班真是太累了 不懂技术的人是我的一生之敌。 ・ (>﹏<) ・ﾟ｡

-鹅仔 2024/06/17 20:17