玛格丽特·阿特伍德是谁？如果你读过《使女的故事》，你就知道她。这位85岁的加拿大作家，写出过二十世纪最令人不寒而栗的反乌托邦小说，拿过布克奖，是文学界公认的大师级人物。最近在葡萄牙波尔图的巴贝尔文学艺术节上，她被人问到了AI。
她的回答相当直白。她说自己这辈子只用过一次AI聊天机器人，就是Anthropic出的Claude。结果？不怎么地。
“Claude给了我错误的答案，或者说它在撒谎。当然，它不知道自己在撒谎，因为它不是人类，它是一个大语言模型……它抓取并采样了大量电视剧评论，但在线评论从来不会剧透结局，所以它被读到的东西误导了。”
阿特伍德当时想查的是英国侦探剧《神父布朗》的相关信息，Claude的回答干脆利落地搞错了。这对一个以精准用词著称的作家来说，第一次——也许也是最后一次——试用AI的体验就这么交代了。
“机会主义者”和”垃圾进垃圾出”
阿特伍德对依赖AI的人也没什么好话，她把这类人叫做”机会主义者”——总在寻找捷径的人。但这个评价其实比乍听上去复杂。她真正想说的是：人类本身就不是机器人，如果有容易的作弊方法，而且很难被发现，人们就会去做。
然后她抛出了那句最核心的判断：AI的问题在于”垃圾进，垃圾出”（garbage in, garbage out）。
这句话听起来像老生常谈，但仔细想一下，它其实戳到了今天整个AI行业最尴尬的地方。大语言模型的质量上限，取决于喂给它们的数据质量。而这些训练数据，很大程度上就是互联网上已经存在的东西——有准确的有不准确的，有深度的有肤浅的，有严肃的有胡扯的，全部一锅烩了。
阿特伍德指出，把你的信任交给一个用爬取的、已经发表过的、可能过时的信息训练出来的机器，本来就不是个好主意。她甚至补充了一句挺实在的话：哪怕是出于商业目的使用AI的人，也不得不核查它的输出，因为AI会犯错。
不是卢德分子，只是说实话
把阿特伍德简单归类为”AI怀疑论者”或者”卢德分子”是不公平的。她没有说AI应该被禁止，也没有说技术进步是坏事。她的观点更贴近一个事实陈述：如果你往系统里灌的是烂数据，出来的东西也好不到哪去。
这个观点最近在AI圈子里引起了某种程度的共鸣，尤其是所谓”幻觉”问题迟迟没有得到根本性解决的情况下。Claude会编造电视剧情节点，ChatGPT会在法律文件里引用不存在的判例，Google Gemini会在搜索结果里自信地散布错误信息——这些都不是偶然事件，而是系统设计本身的副产品。
阿特伍德只用过一次Claude，这个样本量当然不足以对她下结论。但作为一个靠精准语言吃饭的人，她对”模型在模仿互联网上的东西，而不是真正理解它们在说什么”这件事的直觉，可能比很多AI公司的营销说辞更接近真相。
说到底，阿特伍德的态度不是反对AI，而是对”AI已经可以替代人类判断”这种论调表示怀疑。在这一点上，越来越多的实际使用AI的人可能跟她有同感——用它是可以的，但别指望它不出错，更别指望它替你思考。
发表回复