Andrej Karpathy 发布 microgpt，用 200 行纯 Python 代码实现 GPT 训练与推理

Andrej Karpathy 发布教学项目 microgpt，仅用 200 行无依赖的纯 Python 代码完整实现了 GPT 的训练与推理全流程。该脚本包含字符级分词器、标量自动微分引擎、GPT-2 风格网络结构及 Adam 优化器，在极简实现中完整保留了多头注意力和 KV cache 等算法核心。该实现可在普通电脑上端到端训练名字数据集并采样生成新文本，同时提供了从零逐步构建的代码递进版本。