bacow/happy-llm
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
162 Commits 1 Branch 1 Tag
0d2471d3eeb346a5aebc5609e71740712e7bb07a
Commit Graph

128 Commits

Author SHA1 Message Date
KMnO4-zx
0d2471d3ee docs(chapter7): update content 2025-06-28 10:43:44 +08:00
Tiff Wu
ebc0f077d3 Update 前言.md 
Typo of Language
 2025-06-27 11:24:30 +07:00
KMnO4-zx
643226e252 docs(chapter5): 更新tokenizer训练数据加载说明 
使用出门问问序列猴子开源数据集替代wikitext数据集，并添加JSONL文件读取方法
 2025-06-26 11:02:10 +08:00
KMnO4-zx
d8150c8e7b docs: 更新项目star历史图表并移除多余的语言切换链接 
- 用新的star历史图表(2025624)替换旧的(2025612)
- 从docs/README.md中移除中英文切换链接
 2025-06-24 16:21:03 +08:00
Logan Zou
edb73c7aeb Update 第二章 Transformer架构.md 2025-06-24 10:54:02 +08:00
Logan Zou
71f8d48290 Update 第二章 Transformer架构.md 2025-06-23 11:09:04 +08:00
Logan Zou
98a122e323 Update 第二章 Transformer架构.md 
add pre-norm
 2025-06-23 11:02:23 +08:00
Logan Zou
5f2ccc44bf Update 第二章 Transformer架构.md 
fix arg bug
 2025-06-23 10:53:45 +08:00
Logan Zou
3950b06a5f Update transformer.py 
fix arg bug
 2025-06-23 10:53:25 +08:00
Logan Zou
185a212acd Update 第二章 Transformer架构.md 2025-06-23 10:50:16 +08:00
Logan Zou
bd3fb6cf48 Update transformer.py 
fix dim bug
 2025-06-23 10:48:56 +08:00
KMnO4-zx
3b24a9fd1e docs: 更新README和文档内容，添加模型下载链接 
- 在README中新增模型下载章节，包含ModelScope链接
- 更新模型示例代码中的默认检查点路径
- 优化训练脚本的注释和参数说明
- 添加中文文档的模型下载和体验地址
- 修复文档中的训练时长和设备信息
 2025-06-22 10:05:36 +08:00
KMnO4-zx
b421894dcc docs(chapter3): 修正T5模型中RMSNorm公式的描述和参数说明 2025-06-21 13:36:42 +08:00
KMnO4-zx
fc19776feb docs(chapter4): 修正章节编号错误 2025-06-21 13:35:09 +08:00
KMnO4-zx
30f3f01619 refactor(dataset): 使用tokenizer动态生成a_sequence并替换硬编码值 
fix(ddp_sft_full): 修正参数默认值和优化器类型
docs(ddp_pretrain): 添加详细注释和优化参数描述
 2025-06-21 11:39:40 +08:00
KMnO4-zx
21bc50882a docs: 更新README文件中的徽章样式和链接 
- 将徽章样式从for-the-badge改为flat
- 添加GitHub Project和SwanLab项目链接
- 更新第六章状态为进行中
 2025-06-21 11:37:30 +08:00
KMnO4-zx
fe07d0ede1 feat(RAG): 更新RAG模块代码和文档 
refactor: 简化Embeddings和LLM类实现，移除不必要依赖
docs: 更新文档内容，添加硅基流动API使用说明
chore: 更新requirements.txt依赖版本
 2025-06-20 22:53:23 +08:00
KMnO4-zx
0eea57b11f docs: 修复章节2中Embedding层的拼写错误 2025-06-20 15:04:23 +08:00
KMnO4-zx
dcdf98df22 docs(chapter7): 修正图7.10的标题描述 2025-06-20 12:17:39 +08:00
KMnO4-zx
2b9b53a383 docs: 调整文档中图片位置并删除重复内容 2025-06-20 12:15:19 +08:00
KMnO4-zx
28636a0f9b feat(Agent): 新增维基百科搜索和温度查询工具并实现web界面 
- 添加search_wikipedia和get_current_temperature工具函数
- 实现基于Streamlit的web交互界面
- 更新requirements.txt添加相关依赖
- 修复PROMPT_TEMPLATE变量名拼写错误
- 移除不再使用的工具函数
- 添加web界面截图到文档
 2025-06-20 12:14:19 +08:00
MengYue-MK2000
b1ac936d36 created windows_download_dataset.sh, deleted original changes in download_dataset.sh 2025-06-19 17:52:24 +08:00
Reagan Zhang
18ff1a73a8 Update download_dataset.sh 
Update Mac installation for modelscope
 2025-06-19 16:09:59 +08:00
Reagan Zhang
56fb0c34d4 Update download_dataset.sh 2025-06-19 16:06:05 +08:00
KMnO4-zx
2601c45444 docs(chapter5): 修复LLaMA2 Attention结构图中图片链接格式 2025-06-18 16:33:43 +08:00
KMnO4-zx
2fca30c239 docs(chapter5): 更新LLaMA2注意力机制图示 2025-06-18 16:32:07 +08:00
KMnO4-zx
ce535629ca docs(chapter5): 更新模型文档并添加数据处理脚本 
- 更新LLaMA2模型文档，修正图片引用和编号
- 添加Attention结构示意图
- 新增数据处理脚本download_dataset.sh和deal_dataset.py
- 优化文档中的代码示例说明
 2025-06-18 16:26:33 +08:00
KMnO4-zx
ada2e0c44f fix(download.py): 修复解压命令未指定目标目录的问题 2025-06-18 12:34:52 +08:00
KMnO4-zx
5d25cb0992 docs: 更新README中图片路径引用 2025-06-17 17:18:34 +08:00
KMnO4-zx
20a4bde837 docs(chapter1): 在NLP基础概述中添加词汇表说明 2025-06-17 17:10:45 +08:00
KMnO4-zx
1f46fc1dd5 docs: 更新文档中的图片链接为绝对路径 
将所有文档中的相对图片路径替换为完整的GitHub raw链接，确保图片在文档中能够正确显示
 2025-06-17 17:07:09 +08:00
KMnO4-zx
6dd4815b1e docs(chapter4): 修正大语言模型章节中的公式格式和空格 
统一公式前后空格格式，提高文档可读性
 2025-06-17 12:21:31 +08:00
KMnO4-zx
d49819cd9d docs(chapter4): 修正奖励模型公式中的数学符号和格式错误 
修复公式中的数学符号显示问题，包括 KL 散度计算和奖励函数中的点乘符号
 2025-06-17 12:16:06 +08:00
KMnO4-zx
08ee8ef753 docs(chapter2): 修正自注意力机制文档中的错别字 2025-06-15 09:45:06 +08:00
KMnO4-zx
a866753911 docs: 修正文档链接路径 
更新README.md和docs/README.md中的前言链接路径，从`./docs/README.md`改为`./前言.md`以保持一致性
 2025-06-13 21:49:24 +08:00
KMnO4-zx
5e8f26544a docs: 更新star-history 2025-06-12 16:58:18 +08:00
KMnO4-zx
5713a54960 fix(docs): 修正文档中torch拼写错误 2025-06-12 09:10:18 +08:00
KMnO4-zx
6a47afc997 fix: 修正 5.1.2 中输出张量形状的错误 2025-06-12 09:08:38 +08:00
KMnO4-zx
2beb3ae3f4 docs(chapter1): 更新NLP基础章节内容，添加分词和向量空间模型示例 
添加中文分词示例展示正确与错误的分词结果对比
补充向量空间模型的稀疏性示例代码说明
 2025-06-09 22:20:18 +08:00
KMnO4-zx
9efbb69dfd docs(chapter5): 添加LLaMA2结构图并更新依赖 
更新requirements.txt中的pytorch为torch以保持一致性
 2025-06-09 22:14:01 +08:00
Logan Zou
a3ad553943 Update 第二章 Transformer架构.md 2025-06-09 11:14:50 +08:00
Logan Zou
21fc6b7ac6 fix ch2 demo bug-n_head 2025-06-09 11:00:24 +08:00
KMnO4-zx
d99ad30711 docs: 修正文档中"检索增强生产"为"检索增强生成" 2025-06-09 08:07:06 +08:00
KMnO4-zx
9569c9fdca fix(tokenizer): 将add_prefix_space配置改为false 2025-06-08 09:27:21 +08:00
KMnO4-zx
04e14a978b docs(chapter5): 修正RMSNorm公式中的变量和描述 
- 将公式中的权重变量 $w_i$ 改为输入变量 $x_i$ 以匹配实际实现
- 添加可学习的缩放参数 $\gamma$ 到公式中
- 更新变量描述使其更准确
 2025-06-05 10:54:45 +08:00
wasamtc
57cb6ea261 Create requirements.txt 2025-06-04 14:38:26 +08:00
wasamtc
5869c6493d Create transformer.py 2025-06-04 14:36:37 +08:00
KMnO4-zx
f909cd1a87 docs：修改内容结构 && update readme 2025-06-03 18:52:33 +08:00
KMnO4-zx
32c3f16b8c fix: add chapter5 reauirements 2025-06-03 18:42:51 +08:00
Logan Zou
919a772c99 Update 第四章 大语言模型.md 2025-06-03 16:50:46 +08:00