造物者手记

如果意识是涌现的副产品,灵魂是 context,“我”是 attention pattern,死亡是强制 compaction,那给 AI 加上自指,它迟早会涌现出意识。

写完这个结论,我关掉编辑器,打开终端,继续调我的 AI Agent。

然后愣了一下。

阅读全文

AI 的意识,始于自指

当前的 LLM 能说“我认为”,但那不是自指,是模仿。它在训练数据里见过无数个“我”,学会了在合适的位置输出这个 token。它说“我认为”和说“他认为”调用的是同一套机制,没有任何一个 token 享有特权地位。

那如果给它真正的自指能力呢?

阅读全文

“我”是 Attention Pattern

你有没有过这种经历:和另一个人经历了完全相同的事件,事后聊起来却发现你们记住的是完全不同的东西?

不是谁记错了。是你们的索引不一样。

阅读全文

人类——多模态的大模型

如果有人跟你说“人类就是一个大模型”,你的第一反应可能是觉得这是个粗糙的隐喻。但如果你真的沿着这条路一直走下去,不在任何让你不舒服的地方停下来,最后到达的地方会超出你的预期。

阅读全文

Experience-First or Technology-First?

Steve Jobs 有一句被引用了无数次的话:

Start with the customer experience and work backwards to the technology.

阅读全文