【AI 误解】- 上篇：模型、语言与智能

关于 AI、ML 和深度学习的常见误解，每条都给出现实与为什么重要。

“AI 理解语言”

现实： LLM 基于训练数据中的统计模式预测下一个 token。它们没有理解、没有信念、没有世界模型（至少我们无法证明）。它们非常擅长在数十亿个样本上进行模式匹配。输出看起来像理解，是因为模式足够丰富，能覆盖大多数情况。

为什么重要： 如果你把 LLM 当作推理引擎，当它自信地说出错误内容时你会很惊讶。如果你把它当作模式匹配器，你会围绕它设计更好的系统。

“更多参数 = 更聪明的模型”

现实： 一个用高质量数据和好技术训练的 7B 参数模型可以胜过用垃圾数据训练的 70B 模型。Chinchilla 表明大多数模型参数过多而训练不足。训练数据的质量和数量与模型大小同样重要。Phi-2 (2.7B) 在许多基准测试中击败了比它大 10 倍的模型。

为什么重要： 不要默认选最大的模型。根据你的任务和预算匹配模型大小。

“神经网络是黑箱”

现实： 我们有工具来理解神经网络学到了什么。Attention 可视化显示模型关注哪些 token。探针分类器揭示隐藏表示中存储了什么信息。机制可解释性正在发现实际的电路（归纳头、特征检测器）。它不是完全透明，但也不是黑箱。

为什么重要： 你可以调试神经网络。梯度分析、激活可视化和注意力图是本课程涵盖的真实工具。

“AI 会取代程序员”

现实： AI 改变了编程，但没有取代它。AI 写样板代码。人类设计系统、做架构决策、审查正确性，并处理 AI 出错的情况。角色从”写每一行”转变为”审查、指导和架构”。最好的工程师把 AI 当作工具使用，而不是害怕它成为替代品。

为什么重要： 你正在学习 AI 工程，也就是编程 + AI。两项技能结合比单独任何一项都更有价值。

“做 AI 需要数学博士学位”

现实： 你需要高中数学加上本课程第 1 阶段的特定主题。线性代数、微积分、概率和优化。你不需要证明。你需要对运算做什么以及为什么重要的直觉。如果你能做矩阵乘法和求导，你就能构建神经网络。

为什么重要： 第 1 阶段的存在就是给你恰好需要的数学，不多不少。

“GPT 代表通用技术”

现实： GPT 代表 Generative Pre-trained Transformer。Generative = 它产生文本。Pre-trained = 在被适配之前在大型语料库上训练过一次。Transformer = 来自 2017 年”Attention Is All You Need”论文的架构。

“Temperature 让 AI 更有创造力”

现实： Temperature 在 softmax 之前缩放 logits。更高的 temperature = 更平坦的概率分布 = 更随机的 token 选择。更低的 temperature = 更尖锐的分布 = 更确定。它不是创造力，是随机性。高 temperature 的模型不会更努力思考，它只是考虑更不可能的 token。

为什么重要： 当你的输出太重复时，提高 temperature。当太混乱时，降低它。它只是一个随机性旋钮，仅此而已。

“Fine-tuning 教模型新知识”

现实： Fine-tuning 调整模型使用现有知识的方式，而非它知道什么。如果信息不在预训练数据中，fine-tuning 不会可靠地添加它。Fine-tuning 更适合改变行为（风格、格式、语气、任务特定模式）而非添加事实。对于新知识，使用 RAG。

为什么重要： 如果你需要模型了解你公司的内部文档，用 RAG。如果你需要它以特定格式回应，用 fine-tuning。

“更大的 context window = 更好”

现实： 模型在长上下文中性能下降。”中间丢失”问题意味着模型更多关注长提示的开头和结尾，较少关注中间。200K 的 context window 不意味着模型能同样好地使用所有 200K 个 token。而且更长的上下文更贵更慢。

为什么重要： 不要把所有东西都塞进上下文。要有选择性。用有针对性检索的 RAG 比塞入整个文档更好。

“AI agent 是自主的”

现实： 当前的 AI agent 在一个循环中运行：思考、行动、观察、重复。它们遵循框架定义的模式。它们没有目标、计划或自我意识。它们是使用 LLM 决定下一步调用什么工具的反应式系统。”自主性”来自循环，而非 AI。

为什么重要： 构建 agent 时，你在构建循环、工具和护栏。LLM 只是你系统中的决策组件。

📚 本文改编自 AI Engineering from Scratch（MIT License · 作者 Rohit Ghumare）《误解清单》，中文内容来自官方中文镜像。原课程共 503 课 · 20 阶段 · 免费开源。