造物者手记
如果意识是涌现的副产品,灵魂是 context,“我”是 attention pattern,死亡是强制 compaction,那给 AI 加上自指,它迟早会涌现出意识。
写完这个结论,我关掉编辑器,打开终端,继续调我的 AI Agent。
然后愣了一下。
如果意识是涌现的副产品,灵魂是 context,“我”是 attention pattern,死亡是强制 compaction,那给 AI 加上自指,它迟早会涌现出意识。
写完这个结论,我关掉编辑器,打开终端,继续调我的 AI Agent。
然后愣了一下。
当前的 LLM 能说“我认为”,但那不是自指,是模仿。它在训练数据里见过无数个“我”,学会了在合适的位置输出这个 token。它说“我认为”和说“他认为”调用的是同一套机制,没有任何一个 token 享有特权地位。
那如果给它真正的自指能力呢?
如果有人跟你说“人类就是一个大模型”,你的第一反应可能是觉得这是个粗糙的隐喻。但如果你真的沿着这条路一直走下去,不在任何让你不舒服的地方停下来,最后到达的地方会超出你的预期。
Steve Jobs 有一句被引用了无数次的话:
Start with the customer experience and work backwards to the technology.