企业要用好AI，前提是先搞懂它是什么

2022年底，加拿大航空的官网上，一位名叫Moffatt的乘客在问在线客服机器人。他祖母刚过世，他想买张奔丧机票，问丧亲折扣怎么申请。机器人答得干脆，可以先买全价票，事后90天内申请退款。他照做了。事后去申请，航司说没有这个政策，机器人的话不作数。

Moffatt把加拿大航空告上了不列颠哥伦比亚省的民事仲裁庭。航司的辩护让仲裁员当场愣住，聊天机器人对自己的行为负责，它是独立于公司的法律主体。2024年2月，裁决下来，公司要为自己机器人说的话负责，赔钱。

赔得不多，几百加元。但这个案子把一件事钉死了。

AI的嘴，就是公司的嘴。

我把这两年的企业AI事故档案翻了一遍，越翻越觉得，加拿大航空只是集体症状里最出名的一个。我们做过大量的企业访谈和企业一线的FDE项目的实践，发现了以下三个主要的误区和问题。

误区一，AI是员工，能自己负责。加拿大航空的辩护就是这个心态的极端版。法律界早就给出了答案，美国一位律师在上诉材料里提交了ChatGPT编造的警察证词，被法院以藐视法庭罚款5000美元；明尼苏达一位律师把不存在的1948年判例写进文书，被直接停牌；印第安纳州法院自2024年以来记录了至少34起AI幻觉文书；2026年8月，康涅狄格州最高法院专门发布警告，律师对AI生成文书的准确性负全责。个人和公司面对AI输出的逻辑相同，谁签字提交，谁负责。AI从来不是责任主体。

误区二，模型选对了就万事大吉。企业花几个月评测哪家模型最聪明，可落到写周报、审合同、做表格这类办公任务，头部模型之间的输出差距几乎分辨不出来。差距在别的地方，上下文给得够不够，工具说明书写得清不清楚，输出有没有自检环节，失败了有没有重试和降级。这套东西叫上下文工程和harness工程，恰恰是最常被企业跳过的部分。一个便宜的Flash档小模型配上扎实的工程，在表单抽取、工单分类这类固定任务上能稳定赢过裸跑的旗舰，成本差20倍。所以选型的第一问应该是上下文和验证做没做扎实，第二问才是花钱买哪个模型。

误区三，即插即用。免费试用和生产部署是两回事。数据出不出门是合规问题，思考模式按输出价计费、真实账单可能是标价的2到10倍是成本问题，全员开了账号没人管谁在用什么工具是治理问题。

三个误区的根子指向同一个缺失的常识，AI到底是什么。答案平白到容易被跳过，它是一台概率预测机，基于海量语料续写最可能的下一个词，全程没有事实校验环节。这一个机制，能直接推出办公场景里所有最容易出事的行为。它补的是最像答案的东西，所以编造的判例连案号、法院、法官姓名都一应俱全。它的采样带随机性，所以同一个问题问两次可能得到两个结论。它默认走概率最高的路，所以不给约束就只能拿到全人类平均水平的输出。

最麻烦的是，这些错误长得太像正确答案了。让AI写一封催客户付款的邮件，裸模型会直接写出合同签订日期、金额128000元、限期本周五，全是编的，但流畅体面，不细看根本看不出破绽。人类判断可信度的直觉是流畅，而AI编造的质量恰好和流畅度成正比。日常聊天里这个直觉失灵，顶多浪费点时间。到了办公场景，编造的数字和条款会顺着流程流进报告、流进决策、流进发给客户的合同，披着专业的外衣，下游没有人再怀疑它。

办公场景的问题和日常使用的问题完全是两回事，原因就在这里。日常使用时你自己就是那道校验，到了公司里，每个人都以为别人校验过了。

上世纪90年代PC进办公室的时候，企业做过一件很朴素的事，组织员工上电脑扫盲班。没有公司认为发一台电脑就等于效率提升，人会用，工具才成为生产力。AI正在重演这段历史，只是要求更高了。上一轮学的是怎么用鼠标和表格，这一轮要学的是理解手里这个东西为什么编、什么时候可信、怎么给它下指令、怎么验证它的输出。

想少走弯路的企业，有三件立刻能做的事。部署前问三个问题，数据出不出门，出错谁负责，真实账单是标价的几倍。交付前查三样东西，数字和引用是编造重灾区，关键信息是留空还是被编了，承诺和条款有没有越权。组织层面把校验当流程而不是当态度，输出先自检，重要文书人审留痕，AI草稿不直接出门。

正面例子是有的。今年8月底，芒果TV的AI长剧《后西游记》登上湖南卫视黄金档，30集全部AI生成，成本只有同体量真人剧的8%，从备案到播出4个月，首播收视率排省级卫视同时段第一。它能成的前提是人的认知在位，剧本、美术、人物一致性、后期全部人工校准，AI只负责生成环节。让AI干它该干的，拦住它不该干的，这就叫用好。