标签: AI写作

  • AO3同人圈掀起AI猎巫:一款检测工具正在撕裂创作社区

    AO3(Archive of Our Own)上每周都会涌现大量同人作品,这个由粉丝运营的非商业平台承载着无数读者和创作者的热爱。但过去这一周,这里发生了一件挺荒诞的事情——有人开发了一款工具,专门用来抓那些”用AI写作的人”,而且手段相当粗暴。

    同人创作社区与AI检测
    同人创作社区正在用技术手段甄别AI生成的文字

    事情要从6月29日说起。一个名叫@heatedrivalryai的匿名X账号发了一条推文,声称自己做了一个AO3的”皮肤”(类似浏览器扩展的东西),可以检测某篇同人作品是不是用Anthropic的Claude写出来的。

    它的原理听起来很”技术”

    这个工具的核心逻辑是:当你把Claude生成的文字直接粘贴到AO3的编辑器里时,Claude会在文字外面包裹一段代码,叫做font-claude-response-body。这段代码的”残留”会被AO3的HTML保留下来,普通读者看不见,但这个”皮肤”能识别出来。

    一旦识别到这个标记,整个页面背景就会变成——红色。很直白,也很粗暴。

    “当Claude生成的回复直接从Claude粘贴到AO3时,文字会被Claude注入的代码’font-claude-response-body’包裹。它的存在确凿地表明使用了Claude。”——@heatedrivalryai

    我在AO3上找了几篇测试文章试了一下,屏幕确实变红了。然后我自己做了一个实验:用Claude生成一篇短篇故事,直接粘贴进去,红色出现了;但如果我把同一段文字先粘贴到记事本、再复制出来,然后贴到AO3,红色就消失了。

    问题出在哪

    这个工具的致命缺陷在于:它只能检测出”直接从Claude粘贴”这种行为。任何一个有点经验的写作者,都不会直接粘贴AI生成的文字就完事——他们会改写、会调整、会经过别的处理步骤。换句话说,这个工具抓不到真正想隐藏痕迹的人,却可能误伤那些偶然间留下了代码残留的无辜作者。

    更麻烦的是,一旦页面变红,在AO3这种社区里意味着什么,不言而喻。同人创作的圈子本来就对身体不好、情绪敏感的创作者不够友好,现在又多了一层”AI猎巫”的氛围。


    同人圈对AI的复杂情绪

    平心而论,同人创作者对AI的抵触是有原因的。AO3的存在本身就是基于创作者对作品版权的珍视,而AI训练恰恰大量使用了这些免费公开的同人作品。很多写作者担心自己的文字风格被AI”学会”,然后被用来批量生产劣质内容。

    但这种情绪一旦演变成”猎巫”,事情就变味了。目前这个检测工具的准确性本身就很可疑,而又没有透明的申诉机制。一个红色背景就能毁掉一个创作者在这个社区里的声誉,这种权力没有任何制衡。

    • 工具只能检测”直接粘贴Claude”的行为,无法检测经过人工改写的AI辅助写作
    • 误判风险高,没有申诉或更正机制
    • 在社区里制造了对立氛围,让创作者感到被监视
    • 真正想隐藏痕迹的人反而更容易规避检测

    这件事其实折射出一个更大的问题:当社区试图用技术手段解决信任问题,而技术本身又不完美的时候,受伤的往往是那些最没有防备的人。

  • 四大会计师事务所用AI写报告,结果闹了个大笑话





    四大会计师事务所用AI写报告,结果闹了个大笑话

    毕马威(KPMG)最近干了件挺尴尬的事——他们撤回了一份关于AI使用的报告,原因是报告里到处都是瞎编的内容,也就是俗称的”AI幻觉”。

    AI幻觉概念图
    AI生成内容出现幻觉问题,专业机构也未能幸免 | 图片来源:TechCrunch

    这份名叫《在智能体AI时代重新定义卓越》的报告发布于2025年10月,看起来挺正式。但研究组织GPTZero仔细扒了一遍,发现里面好多关于企业AI使用情况的描述根本对不上号。

    说白了,这家专业服务机构在编写”如何用AI”的报告时,自己可能就用AI偷了懒,然后AI还给它们编了不少假数据。

    被点名的企业纷纷辟谣

    瑞银(UBS)、英国国家医疗服务体系(NHS)、瑞士联邦铁路、伦敦交通局,全都跟《金融时报》说:报告里说我们用AI干了这干了那,实际根本不是那么回事,要么完全不对,要么就是误导。

    毕马威的发言人倒是没嘴硬,承认已经把报告从网站上撤下来了,还说要搞内部调查。他们的说法是:”我们要求所有员工遵守负责任使用AI的准则,包括通过人工监督来验证内容、核实独立来源。”


    四大所接连在AI上栽跟头

    这已经不是四大会计师事务所第一次在AI这事上栽跟头了。就在上个月,安永(EY)也撤回了一份关于忠诚度奖励计划的报告,那篇文章里出现了虚假脚注,也是AI幻觉搞的鬼。

    有意思的是,这些公司一边靠着AI概念在市场上赚得盆满钵满,一边自己在用AI干活的时候却连基本的事实核查都做不好。说到底,AI写出来东西,人不去核实,那就跟闭着眼睛签文件差不多。

    • AI辅助写作必须有人工核实环节,否则幻觉内容会直接流入正式报告
    • 专业服务机构的报告可信度建立在事实准确的基础上,AI滥用会直接损害品牌声誉
    • 四大所接连”中招”,说明AI幻觉问题比很多人想象的更普遍

    这件事也给所有在用AI辅助办公的人提了个醒:AI给出的数据和引用,你不核实就直接用,迟早得出事。毕马威这次算是花了一笔”学费”,至于学到了没有,看它们内部调查的结果就知道了。


  • 作家与AI的”有毒关系”:新书被曝6处AI造假引用,他还要继续用

    作家Steven Rosenbaum的新书《The Future of Truth》遇到了大麻烦。有读者发现,这本书里至少有6处引用是AI生成的虚假内容——这些引文看起来很真,但实际上是AI编的。

    这件事曝光后,Rosenbaum的反应很有意思。一开始,他表示愿意承担全部责任。但后来在接受《大西洋月刊》采访时,他把责任推给了AI聊天机器人,说AI”搞砸了这本书”(fucked up the book)。

    AI写作争议
    AI写作的伦理问题越来越突出(图片来源:The Verge)

    “令人愉快的写作伙伴”

    更让人无语的是,Rosenbaum在接受Ars Technica的另一次采访中表示,他仍然计划在自己的写作中使用AI。

    他是这么形容AI的:”令人愉悦的写作伙伴,它有着奇特的创造力,狡黠又与众不同,但随后它背叛你的方式真的非常糟糕。”

    这段话听起来像是在描述一段 toxic relationship(有毒关系)——你觉得对方有时候很好,但有时候又会狠狠坑你一把。

    AI是”令人愉悦的写作伙伴,但也会以非常糟糕的方式背叛你”。

    这不是孤例

    Rosenbaum的事件,其实是AI写作乱象的一个缩影。之前我们已经看到过类似的事情:

    • 《格兰塔》英联邦短篇小说奖获奖作品被质疑是AI生成的
    • 诺奖得主奥尔加·托卡尔丘克承认用AI辅助创作
    • AI检测工具Pangram本身也存在误判问题

    文学界对AI写作还没准备好。出版行业、文学奖项评审体系,都还没建立起应对AI生成内容的有效规范。


    AI写作的核心问题

    Rosenbaum的case暴露了AI辅助写作的几个核心问题:

    第一,AI会编造。 大语言模型有个臭名昭著的特性:它们会自信满满地编造看起来很真的内容,包括引用、数据、事实。如果你不逐条核实,就很容易中招。

    第二,作者责任边界模糊。 Rosenbaum一开始说要负责,后来又说AI搞砸了。这反映了很多AI辅助写作者的心态:用AI的时候觉得是自己在创作,出问题的时候觉得是AI的锅。

    第三,读者信任一旦破损很难修复。 一本书被发现有AI造假引用,读者以后还会信任这个作者吗?出版方还会愿意跟他合作吗?

    还要继续用AI吗?

    Rosenbaum的回答是:还要用。

    这其实也不奇怪。很多写作者发现,AI在 brainstorming、整理思路、快速生成草稿方面确实有用。问题不在于”用不用”,而在于”怎么用”。

    如果你要用AI辅助写作,至少应该做到:

    • 所有AI生成的内容都要人工核实,特别是引用和事实
    • 在书中明确披露哪些部分用了AI
    • 不要把AI的产出直接当成的自己的原创
    • 出问题时勇于承担责任,而不是甩锅给AI

    Rosenbaum的事件,给所有考虑用AI辅助写作的人提了个醒:AI可以是工具,但不应该是偷懒的借口。只要你用它,最终的责任就在你身上,而不是在”背叛你的伙伴”身上。

  • AI写作闯进文学圈:诺奖得主也在用,评委却分不清是人写的还是机器写的

    AI写作闯进文学圈:诺奖得主也在用,评委却分不清是人写的还是机器写的

    自2012年以来,英国文学杂志《格兰塔》(Granta)每年都会公布英联邦短篇小说奖的地区获奖者。今年的入选作品却出了状况:其中一篇作品,看起来像是AI生成的。

    贾米尔·纳齐尔(Jamir Nazir)的《丛林中的蛇》(The Serpent in the Grove)具备大语言模型生成文本的多处典型特征:混合隐喻、首语重复、三元素列举。我承认这里也是三元素列举,但我保证这篇文章完全由我本人独立撰写,没有借助任何AI工具,我所有的作品都是如此。

    AI写作文学争议
    AI写作闯入文学圈,评委和读者都措手不及(图源:The Verge)

    三元素列举、破折号、单词”delve”——这些都是AI特征吗

    我最初对”纳齐尔的作品由AI生成”的指控持怀疑态度。我知道很多人会用LLM辅助写作,甚至完全让AI代笔,但我对同行中出现的那种”AI偏执”一直很警惕。据说破折号、单词”delve(钻研)”以及三元素列举都是AI写作的特征,短促有力的句子也是,尤其是当这类句子用来衔接长句的时候。

    但我作为人类,以前写作时也肯定用过上述所有特征。毕竟LLM的训练数据就是人类的写作内容,它们只是在模仿输入的内容。可AI生成的文本确实有一种诡异的质感,哪怕你一时说不出哪里不对,也能感觉到异样。

    “AI写作有一种我学会识别的特殊节奏,很难用语言描述。AI使用程度有一个光谱,从’AI帮我编辑’到’AI写了整篇内容’,这个案例在我看来属于后者的范畴。”
    ——纳比尔·S·库雷希,乔治梅森大学默卡特斯中心前AI访问学者

    评委分不清,AI检测工具也分不清

    问题在于,哪怕AI使用的嫌疑很大,所有人都无法百分百确定。英联邦基金会总干事拉兹米·法鲁克表示,该组织已经知晓有关获奖作品使用AI的指控。法鲁克称,所有提交作品参赛的作家都会被问及作品是否为原创、未发表内容,所有入围作家都亲自声明没有使用AI辅助撰写故事。

    “在出现能够可靠检测AI使用、同时能解决未发表小说相关挑战的有效工具或流程之前,英联邦基金会和英联邦短篇小说奖必须遵循信任原则开展工作,”法鲁克表示。

    《格兰塔》方面则将纳齐尔的作品输入Claude,”询问它是否为AI生成内容”。出版人西格丽德·劳辛在一份声明中称:”回复内容很长,结论是’几乎可以肯定不是无人类辅助生成的’。”但Claude并不是AI检测工具,它是基于大语言模型的聊天机器人。

    诺奖得主的AI使用,让读者震惊

    本周,波兰作家奥尔加·托卡尔丘克(Olga Tokarczuk)承认她使用AI辅助创作过程——这位2018年诺贝尔文学奖得主的做法,对于崇拜她的读者来说依然令人震惊。

    “我经常会直接把一个想法输入机器,加上提示词:’亲爱的,我们怎么把这个想法写得精彩?’”托卡尔丘克说。她在波兹南的一场活动中用波兰语发表了这番评论,不幸的是,它走红的时间正好和英联邦奖争议的时间重合。

    托卡尔丘克在分享给Lit Hub的一份三点声明中澄清了她的AI使用情况,她解释说自己没有用AI写即将出版的新书,但确实用它来”更快地记录和核实事实”,不过她会独立验证这些信息。


    AI生成的文本有一种”诡异质感”,但你看到的时候就知道

    当我把纳齐尔的作品输入AI和剽窃检测软件Pangram时,结果显示100%是AI生成的。根据Pangram的说法,最明显的特征是纳齐尔对三元组的使用;单词”stubborn(固执的)”,它在AI生成文本中出现的概率是人类写作的6倍。

    但我不满意这个结果,于是把我即将出版的新书的未发表片段(我目前正在编辑)输入Pangram检测。仅一个段落就包含了两个三元组。(这部分内容写得不好,所以我才要编辑。)Pangram显示片段100%是人类写的,这是事实,但我还是不满意。

    人类创作的作品有一种难以言喻的特质,AI生成的作品也是如此。也许AI生成的文本就像色情内容:你看到的时候就知道是它,哪怕你说不出原因。