读《设计机器学习应用系统》序言：从黑盒调用到机制直觉 #

← 返回读《设计机器学习应用系统》

今天开始学习周志明老师的《设计机器学习应用系统》（DMLA），先从序言读起。这篇序言不长，但把程序员与 AI 协作的关系分成了四个级别，也让我重新确认了自己为什么要把这本书认真读完。

我并不一定未来专职去开发 Agent，但我希望自己不只是会用ai工具。至少以后做调优、做设计、做选型时，能说出个所以然。知识是沙堆模型，这本书就是我要往沙堆里添的一把新沙子。

序言的核心：四个协作级别 #

周志明老师在序言里把程序员与 AI 的协作关系划成了四级：

Level 1：视 AI 为纯黑盒工具

会调 LangChain、会写 Prompt、会拼工作流。API 谁都能调，Prompt 谁都能写，照着教程三小时搭个聊天机器人，七天精通一项技术。这一层几乎没有壁垒，正是我去年之前的状态。

Level 2：概念够用，能用正确因果解释常见现象

知道采样温度影响多样性，但说不清 Softmax 里温度参数到底怎么作用；知道 tool-use 能让模型输出结构化参数，但讲不清约束解码是怎么保证输出精确契合工具 schema 的。到了这一层，能把怪现象解释成机制概念，而不是玄学，可以做选型和权衡，但每一个新概念都像是真正的新知识，需要小心翼翼地往已有体系上安放。

Level 3：机制直觉，架构设计能映射到工程后果

知道 Transformer 为什么用 RMSNorm 替代 LayerNorm、YaRN 如何提升外推能力；能在资源受限时设计注意力稀疏模式、选择上下文窗口、锚定全局注意力 token，并明白每个决策对生产的影响。不需要手推反向传播、不需要复现论文，但已经能把原理知识转化为设计直觉。

Level 4：研究创新，推动模型架构与方法进步

关注 SOTA、讨论 arXiv，靠实验和交流获取信息。这一层是 PhD 和基础模型研究者的事，与我关系不大。

DMLA 的定位很清晰：面向 Level 2 到 Level 3 的过渡带，面向有理工科和软件工程底子、不畏惧读代码写代码的人。这正好是我想要到达的区域。

我的自我定位：从 Level 1 往 Level 2/3 走 #

对照这四个级别，我现在大概处在 Level 1 到 Level 2 之间。

过去一年，我搭过 RAG、玩过 Harness、写过 Skill、调过 Prompt，也做过几个能跑的工具。这些经验是“黑盒使用经验”,有的积累效果还不错，但是我还是想去慢慢的拆黑盒，看看里面到底是个什么情况。

我想要的不是从 Level 1 跳到 Level 4，而是扎扎实实地往 Level 2、Level 3 挪动。

我一直把知识当成沙堆模型：每一粒新知识都落在一个已有结构上，结构稳了，沙堆才能越堆越高。这次读 DMLA，就是想往“LLM和Agent”这个区域多堆一些沙子。

这对应序言里的 Level 2 到 Level 3。要达到这个状态，没有捷径，只能一块砖一块砖地补：

读完每一章，我会尝试一种新的学习和整理知识方法，应用我的建模基本功，把AI相关的这块底层知识维护起来。