Go to file
kazusa fd4f7b3ba7 Temperature控制输出的准确性和创造性 2026-01-14 10:13:54 +08:00
.vscode init 2026-01-14 09:58:36 +08:00
src Temperature控制输出的准确性和创造性 2026-01-14 10:13:54 +08:00
LANGCHAIN_LEARN.md init 2026-01-14 09:58:47 +08:00
README.md init 2026-01-14 09:58:47 +08:00
day1_char_rnn.py init 2026-01-14 09:58:47 +08:00
requirements.txt init 2026-01-14 09:58:47 +08:00

README.md

从零训练一个迷你语言模型

第 1 天:字符级 RNNGRU

环境要求

  • Python 3.10+
  • PyTorchApple Silicon 支持 MPS

安装与准备

  • python -m venv .venv
  • source .venv/bin/activate
  • pip install torch

运行

  • python day1_char_rnn.py

你应该看到

  • 每 100 步输出一次 loss
  • 每 200 步输出一次采样文本

说明

  • 这是一个极小的数据集和模型,只为验证完整训练流程。
  • 下一步我们会把硬编码文本替换为文件,并加入评估指标。