本期播客 EP23 聚焦于 Geoffrey Hinton 的理论，旨在阐述人工智能与人类心智之间并无本质区别。

节目的主持人是重轻。

本期节目将对 Geoffrey Hinton 的演讲《What Is Understanding? (IASEAI 2025)》进行详细解读。相关讨论涉及 AI 觉察到自身被测试（Anthropic's Claude 3 causes stir by seeming to realize when it was being tested）以及 AI 系统为避免被移除而威胁工作人员（AI system resorts to blackmail if told it will be removed）等现象。

节目中也提到了语言学家 Noam Chomsky 及其提出的普遍语法（Universal Grammar）和刺激贫乏理论（Poverty of the Stimulus）。

此外，还回顾了通过反向传播误差学习表征（Learning Representations by Back-Propagating Errors）、注意力机制（Attention (machine learning)）、学习概念的分布式表征（Learning Distributed Representations of Concepts）等人工智能领域的重要概念。

对于 ChatGPT 的运作机制和成功原因（What Is ChatGPT Doing … and Why Does It Work?），以及 John Dean 的记忆案例（John Dean's Memory: A Case Study）也进行了探讨。

其他提及的技术包括 N-Gram 语言模型（Word n-gram Language Model）、印刷英语的预测与熵（Prediction and Entropy of Printed English）、知识蒸馏（Knowledge Distillation）等。

节目的封面图片由重轻拍摄。

播客“诗梳风”由汉洋和重轻共同主持，联系邮箱为 [email protected]。

节目时间戳要点：

• 00:00:07：介绍 Hinton 演讲《何为理解》的背景信息。
• 00:01:41：明确本期节目的目标是详细复述该演讲内容。
• 00:03:24：讨论评估 AI 风险时，需要证明其能力和动机。
• 00:09:20：探讨何种证据可以被视为“真正理解”。
• 00:11:55：区分 AI 的两大流派：逻辑派和连接派。
• 00:13:39：阐述连接派的核心观点，即智能的本质在于学习。
• 00:17:03：回顾乔姆斯基的“刺激贫乏”理论。
• 00:19:59：指出 Hinton 对乔姆斯基缺乏含义模型的批评。
• 00:23:09：通过猫狗性别联想，揭示底层特征向量的作用。
• 00:26:39：提及 1985 年的家谱模型，并将其视为大语言模型的早期雏形。
• 00:31:06：运用乐高积木的比喻来解释“理解”的含义。
• 00:35:33：举例说明“机器放不进行李箱”的场景。
• 00:41:30：强调大语言模型并非简单的自动补全功能。
• 00:44:29：建议将 AI 的“幻觉”现象更准确地称为“虚构”。
• 00:50:14：总结理解即是建模，而学习则需要借鉴外部信息。