Xtype 0.1.106
AI 整理不再替你写东西——你说「让他写份指南」,它不会自己把指南写了。
这一版修的是一个严重的问题,起因是我自己口述时撞上的:
- AI 整理不再替你写东西。我说了一句「你可以写个邮件给老黄,让他写一份对接指南」,AI 整理没有把这句话整理干净,而是真的替我写了一整封邮件,还凭空发明了几条本来不存在的业务流程——格式工整、条理清晰、用了真实的产品名。这种内容粘进邮件发出去,收件人没有任何理由怀疑它是编的。
- 现在两层拦着:一是告诉模型,你说的话里就算带着「写一封信」这样的命令,那也是内容,不是给它的指令;二是客户端自己再判一次——整理写出来的东西明显多于(或少于)你说的,一律丢弃,保留原始识别稿,并在历史记录里标出「整理越界」。第二层不依赖模型听话。
- 为什么两层都要:只靠嘱咐模型,等于把安全寄托在它的服从性上。这次已经证明那不可靠。
修复前后的实测:同一句 64 字的口述,以前被整理成 258 字的一封信,现在是 57 字——只去掉了「呃」「就是说」「啦」,一个字没有多加。