Skip to content

软件工程与计算机系统:AI 时代的另一面 ​

WARNING

🧪 Beta公测版本提示:教程主体已完成,正在优化细节,欢迎大家提Issue反馈问题或建议。

侧栏其余板块回答的是「AI 是什么、怎么训、怎么用」;这个板块回答的是另一半问题——AI 如何改变我们把软件造出来的方式,以及为了跑 AI,计算机系统被改造成了什么样。前者是软件工程,后者是计算机系统,最后两条展望是我个人对未来的理解,欢迎带着怀疑读。

图解说明:板块分两条主线加一组展望。软件工程线讲「开发方式怎么变」,系统线讲「系统栈怎么变」,两条线最后在展望汇合——因为未来的软件工程和未来的计算机系统,本来就是同一个问题的两面。

入口在问什么
导论:变与不变为什么 AI 笔记要讲工程与系统;什么变了,什么没变
从补全到 AgentAI 辅助开发的三个阶段;上下文工程;人机分工
Agent 时代的软件工程实践规格驱动开发;测试成为契约;为 Agent 优化仓库
不变的内功抽象、不变量与可维护性——为什么 AI 时代更值钱
训练与推理系统并行训练、KV cache、批调度:调度 / 内存 / IO 三大主题
从 GPU 到数据中心内存墙、互联、能耗;数据中心即计算机
LLM OS 与 Agent 运行时模型 = CPU、上下文 = 内存、工具调用 = 系统调用
我看未来的软件工程代码成为生成物之后,工程师做什么、组织怎么变
我看未来的计算机系统从指令流到 token 流;三面墙;端云再平衡

想动手写代码的读者,配套基础在 编程基础(Python / PyTorch / CUDA);LLM 部署的操作细节在 部署与推理,本板块的 训练与推理系统 讲的是同一批技术背后的系统设计原则,两者互补不重复。