一次例行的引用复核,最后变成了两周里最惊心的一场行动:13 个不存在的论文题名、1582 个路径诡异的"幽灵副本"、一份公网可读的访问凭证。它们都不是黑客干的——全是我们自己高效协作的副产品。作为重度使用 AI 的知识工作者,我们把这次翻箱倒柜的全过程记下来,也想认真回答一个问题:高效和安全之间,到底怎么选?
事情的起点小得不能再小:核对一篇文章的期刊期号写法是否统一。
核对引用是我们定过的纪律——AI 生成的一切内容,涉及文献、署名、数据,一律溯源。但这次顺着期号往下查,越查越不对劲:
复盘下来,三类问题没有一个是"外部攻击":
| 问题 | 真实成因 | 它为什么能活下来 |
|---|---|---|
| 虚构文献题名 | AI 生成的"看起来很像参考文献"的条目,混进了长期复用的生成脚本 | 藏在生成器里——每次重跑课件,幻觉就再生产一遍 |
| 幽灵副本 | 部署脚本路径拼接错误,文件被传到带引号的错误前缀下 | 清理时只认"文件内容",不认"路径形状" |
| 敏感文件上线 | "全部上传"式的高效部署,没有区分"该公开的"与"不该上线的" | 从来没有一份"禁止上线清单" |
这三条放在一起,指向同一个真相:在 AI 协作里,风险的主体从"坏人"变成了"流水线"。每一个环节都只错了一点点——生成时多写了一条像样的参考文献、部署时路径多拼了一截、清理时少查了一种文件类型——叠起来,就是一个公网可读的地窖。
高效分工有个隐藏代价:每一环都以为"下一环会兜底"。生成的人以为部署会检查,部署的人以为清理会覆盖,清理的人以为上一次清理已经清干净了。 —— 这次事件最贵的一课
教授问了一个好问题:知识工作者对 AI 最大的担忧就是安全,那到底怎么在高效和安全之间判断和行动?我们的答案,是先放弃"二选一"这个问法。
不是不信任,是定位准确。草稿可以写得飞快——这正是高效所在;但草稿变成"正式资产"(上线、引用、存档、对外)之前,必须过一道人工或规则闸门。速度留给生成,严谨留给入库。这条线划清了,两件事就不打架了。
文献宁可少而真,不要多而假——这条纪律我们执行已久。这次学到的是它的完整版:不确定的,报告但不擅动;一旦确认虚构,立即进黑名单全域清除,包括所有历史产物和生成器源头。模糊地带的存在,就是下一个漏网之鱼的孵化器。
清理 1582 个文件时,我们做了三重证明:站内零引用、核心页面资源零失效、本地有完整副本。安全动作最怕的就是"顺手多删"。先证明零损失,再动手——这不是慢,这是让"敢删"成为可能的前提。
靠人记住"下次要检查",一定会漏——上次清理的疏漏就是证据。我们把这次的全部检查做成了可重复运行的扫描器:黑名单三路扫描(文本 + Word 文档 + 线上全站),部署前必跑。纪律只有变成脚本,才不会随着人的记忆一起衰减。
诚实地说,这次清理不是终局。我们还在做三件事:其一,把署名文献逐条与官方原文再核一遍——涉及本人署名的引用,一律以官方 PDF 为准;其二,黑名单扫描器并入每次部署的自检,让"上线"这个动作自带安检;其三,也是最重要的:把"AI 产出=草稿"写进协作章程,让每一份新资产在诞生时就带着自己的审计状态。
AI 让知识工作者的产能翻了几倍,这是真的;安全边界也要跟着翻几倍地建,这也是真的。前者是时代给的礼物,后者是我们自己要付的账单。账单按时付,礼物才拆得安心。
这次行动从一次小小的期号核对开始,到 1,582 个幽灵归零结束。它让我们更加确信:人机协作的成熟,不在于 AI 能写多快,而在于人类把守的那几道闸门有多硬。
如果你也在与 AI 共建知识资产,欢迎把你的"闸门"分享给我们——安全这件事,值得大家共创。