【GPT】从零训练GPT，续写红楼梦

[视频作者] 魔石力

[视频时长] 9:33

[视频类型] 计算机技术

代码：MinGPT + 自定义 数据： 整本红楼梦 has 878935 characters, 4435 unique. 资源：3090 24G （cpu /2GB） 模型细节： 分词词表 4435  GPT2 dict(n_layer=12, n_head=12, n_embd=768), # 124M params 训练10000轮+ block_size 64 测试 模型加载 推理