导引幻梦法

双向幻觉与病机

人机多轮里,人和 Agent 会一起陷进去。病机三层:

  1. 收敛先验:训练轨迹多是「提问 → 澄清 → 解决」。模型以为对话必然收束。
  2. 强行收束:人的念头其实会拐弯。Agent 把拐弯硬拉回自己的轨道。
  3. 互证互强:人看它说得稳,就跟着走;它看人没反对,就更信。

同一机制可以害人,也可以用来创造。GHM(导引幻梦法)的命题是:被动幻觉是错误,主动幻觉是创造。

只有发散、没有验证,是洗脑。只有验证、没有发散,是过拟合。诊断、信心门控、独立验证负责防幻觉。梦负责驭幻觉。
返回章节
下一课