AI 编码 最新动态

Andrej Karpathy 发布 microgpt 教程，用 200 行纯 Python 训练和推理 GPT

Andrej Karpathy 发布 microgpt，这是一个 200 行、无依赖的纯 Python 单文件项目，用来训练并推理一个 GPT。它包含文档数据集、字符级 tokenizer、autograd 引擎、GPT-2-like 架构、Adam 优化器、训练循环和推理循环，并使用约 32,000 个名字训练 4,192 参数模型生成新名字。