参考

1xx. 【LLM】从零开始训练大模型 ***
从零开始训练大模型 v

1xx. LLM训练-pretrain ***

1xx. [译] 如何训练一个企业级 GPT 助手(OpenAI,2023) 1xx. chatgpt2 训练 10.5 10.6

小模型训练 PoC

1xx. LLM从0开始预训练系列:1、大模型训练踩坑 1xx. [译] GPT 是如何工作的:200 行 Python 代码实现一个极简 GPT(2023)