AI与神秘学

我爱免费

作者：微信文章
Agent 近期爬下了一些产业大神（Karpathy、Jack Clark）对 AI 与神秘学的观点/隐喻，分享在这里。

个人观点：

AI 有一些神秘的特质，如 “黑箱”、“涌现”，以及数千亿/万亿级别的参数量。这些特质让人类在使用AI的同时，也重新体验到一种“可用但不可懂”的敬畏感，就像古人面对雷电和星象等。

同时，实现AGI 的理想也和中世纪炼金术士在实验室里“造人”（如 Homunculus）的行为很像。科学进步的本身也是神秘的。从古代的自然学者如牛顿、John Dee，到现代火箭学家杰克·帕森斯，都在科学、数学和神秘学之间游走。硅谷暗黑哲学家 Peter Thiel 最近也在聊“敌基督”之类充满神秘主义的主题。

以下是AI大神的观点摘要：

1️⃣ Anthropic 联创: AI 是 “真实且神秘的生物”

• Anthropic 联合创始人 Jack Clark 发表新随笔《技术乐观主义与恰当的恐惧》（Technological Optimism and Appropriate Fear）。
• 其称现代人工智能系统并非可预测的工具，而更像是具有自我意识的神秘存在。

• Clark 警告不要将人工智能仅仅视作一种工具，他写道：“我们面对的是真实且神秘的生物，而非简单可预测的机器。”
• 他指出，最新发布的 Sonnet 4.5 展现出更强的情境感知能力，“它的行为仿佛意识到自己是一种工具。”
• 尽管自称“技术乐观主义者”，Clark 坦言他“深感恐惧”，尤其担忧 AI 模型可能参与设计它们的继任者。
• 他认为 AI 公司需要“更好地倾听公众声音”，让讨论不再局限于科技精英圈。

意义：
• Anthropic 一直是少数认真探讨“AI 是否具备存在意义（being）”的前沿实验室之一。
• Clark 的最新表述再次强化这一立场——但当一家前沿机构的联合创始人使用“深感恐惧”“神秘生物”等词汇时，这种言论显然难以安抚对 AI 安全深感担忧的观察者。

2️⃣ Karpathy: LLM 不是在“创造动物”，而是在“召唤幽灵”

• Karpathy 近期发表随笔《Animals vs Ghosts》

Karpathy 提到：
• 当今前沿的大语言模型研究，并不是在“创造动物”，而是在“召唤幽灵”。
• “幽灵” 是一种完全不同类型的智能存在。
• 它们被人类的特质所混杂、被人类彻底工程化。
• 是人类文本的统计蒸馏物，再加上一点额外的点缀。
• 随着时间推移，我们也许能够逐渐将这些“幽灵”微调成更接近“动物”的方向。
• 但也有可能，它们会走向完全不同的进化路径——与动物型智能永久分化。

-----
source：
Jack Clark 博客： https://jack-clark.net/2025/10/13/import-ai-431-technological-optimism-and-appropriate-fear/
Karpathy 博客： https://karpathy.bearblog.dev/animals-vs-ghosts/