Написал(-a) комментарий к рецензии Рецензия на роман «Барбаросса 1941»
这份报告看似严谨——六个层次的分析、一份“危险信号”清单、精确的85%/15%比例——但这种严谨只是假象。它将主观的文学直觉包装成一种准客观的检测程序,并且存在几个根本性的方法论缺陷。
主要问题
1. 90% 的置信度和 85/15 的比例是不合理的。
报告并未解释这些数据是如何得出的。六个等级的权重分别是多少?每个“危险信号”会扣除多少分?什么都没有。这是一种伪定量分析——利用数值数据制造科学有效性的假象。目前最好的学术人工智能检测器(例如 GPTZero、Binoculars、DetectGPT 等)在训练域之外的文本上通常能达到 60% 到 70% 的准确率,但它们都不会报告“85% AI / 15% 人类”——因为这样的比例在技术上根本无法测量。
2. 几乎所有“危险信号”同样适用于译文。
这是最严重的问题。你发送的是中文文本,但所有分析结果都指向一个典型特征——句子长度统一、连词丰富(例如“然而”、“因此”、“反过来”)、词序正确、没有方言词汇、情感“描述而非体验”——无论译者是人还是人工智能,这些都是翻译文本的典型特征。如果原文是俄语(“哈尔德”和“博克”这两个名字是其特征,文风也让人联想到俄罗斯军事文学),那么在翻译后进行文体分析几乎等同于评估翻译质量,而不是判断是否使用了人工智能。
3. “人工智能标记词”列表是民间传说。
“然而”、“因此”、“此外”、“反过来”等词语被列为人工智能的标志。但这些只是普通的连接词,任何受过教育的写作者都会广泛使用——尤其是在学术、新闻或历史写作中。如果将它们视为人工智能参与的证据,就等于说:“任何使用标准、书卷气语言写作的人都是人工智能。” 实际研究(例如,Liang等人2023年关于ChatGPT词汇偏好的论文)确实发现它偏爱某些词语(例如英语中的delve、intricate、navigate、realm等),但针对中文/俄文的类似列表则远未建立,而且这些偏好会随着模型的每个新版本而迅速变化。
4.“契诃夫之枪”和“情感弧线”是文学品味的问题,而不是判断标准。
报告称,“细节虽有提及但未展开”、“节奏单调”、“缺乏独特场景”——但这些都是对作品质量的负面评价,而一个水平一般的作者完全有可能写出类似的作品。写作水平差≠人工智能所写。以“这本书文学性薄弱”作为“这本书是人工智能所写”的证据,是一种范畴错误。大量由人类创作的类型小说和商业历史小说也符合这些描述。
5. 第五层逻辑是一个恶性循环
“没有原创隐喻,没有微观细节”被认为是人工智能的证据。但报告随即承认,文章的整体结构和后记“需要人工干预”。问题在于:判断人工干预的标准是什么?如果文本中存在人类痕迹,我们就说“这部分是人写的”;如果没有,我们就说“这是人工智能的证据”。这种推理无法证伪——任何文本都可以按照这种模式进行切割。
6. “三题测试”(六级)混淆了“人工智能的本质”和“平庸”。
“这本书的目的是什么?”和“如果我删掉一段会发生什么?”这些问题关乎文学价值,而非人工智能检测。一本目的明确、段落不可替代的书可以由人工智能生成(前提是提示语写得好);而一本目的模糊、段落可以随意替换的书则可能是人写的(如果作者是一位平庸的历史科普作家)。
报告中哪些内容属实?
平心而论,这份报告确实包含一些合理的观点:
报告的假设比较复杂——它没有做出明确的选择,这是正确的。后记和整体架构具有类人特征的假设是一个合理的直觉:高层结构规划确实是现代人工智能的弱点。对于“不存在事实错误”这一说法,报告持中立态度——它既没有将其列为人工智能存在的证据,也没有将其列为反驳的证据。这是一种谨慎的做法。最终的建议在技术上是正确的——如果目标是使文本“读起来更像人类”,那么所提出的方法(添加方言词汇、删除连词、引入口语词汇)确实有效。然而,这也暴露了问题所在:这些“人工智能的标志”本质上是标准文学语言的标志。结论仅用一句话概括。
这份报告作为文学批评,包含一些合理的见解(例如指出文本平淡乏味),但作为人工智能检测方法,它并不可靠——它将“流畅、平庸、翻译”等同于“人工智能生成”,而这三者截然不同。85%/15% 这个数字尤其不值得认真对待。
如果你想判断一段文本是否由人工智能撰写,现有的所有方法(包括最好的检测器)都无法提供可靠的百分比答案。我们所能做的,就是积累概率证据,并保持清醒的“我可能出错”的态度。
Написал(-a) комментарий к произведению Барбаросса 1941
Пользователь удалил свой комментарий.