 KMnO4-zx
|
b421894dcc
|
docs(chapter3): 修正T5模型中RMSNorm公式的描述和参数说明
|
2025-06-21 13:36:42 +08:00 |
|
|
KMnO4-zx
|
fc19776feb
|
docs(chapter4): 修正章节编号错误
|
2025-06-21 13:35:09 +08:00 |
|
|
KMnO4-zx
|
30f3f01619
|
refactor(dataset): 使用tokenizer动态生成a_sequence并替换硬编码值
fix(ddp_sft_full): 修正参数默认值和优化器类型
docs(ddp_pretrain): 添加详细注释和优化参数描述
|
2025-06-21 11:39:40 +08:00 |
|
|
KMnO4-zx
|
21bc50882a
|
docs: 更新README文件中的徽章样式和链接
- 将徽章样式从for-the-badge改为flat
- 添加GitHub Project和SwanLab项目链接
- 更新第六章状态为进行中
|
2025-06-21 11:37:30 +08:00 |
|
|
KMnO4-zx
|
4fcb1924dd
|
docs: 更新第六章状态为进行中
|
2025-06-20 23:02:40 +08:00 |
|
|
KMnO4-zx
|
fe07d0ede1
|
feat(RAG): 更新RAG模块代码和文档
refactor: 简化Embeddings和LLM类实现，移除不必要依赖
docs: 更新文档内容，添加硅基流动API使用说明
chore: 更新requirements.txt依赖版本
|
2025-06-20 22:53:23 +08:00 |
|
|
KMnO4-zx
|
0eea57b11f
|
docs: 修复章节2中Embedding层的拼写错误
|
2025-06-20 15:04:23 +08:00 |
|
|
KMnO4-zx
|
dcdf98df22
|
docs(chapter7): 修正图7.10的标题描述
|
2025-06-20 12:17:39 +08:00 |
|
|
KMnO4-zx
|
2b9b53a383
|
docs: 调整文档中图片位置并删除重复内容
|
2025-06-20 12:15:19 +08:00 |
|
|
KMnO4-zx
|
28636a0f9b
|
feat(Agent): 新增维基百科搜索和温度查询工具并实现web界面
- 添加search_wikipedia和get_current_temperature工具函数
- 实现基于Streamlit的web交互界面
- 更新requirements.txt添加相关依赖
- 修复PROMPT_TEMPLATE变量名拼写错误
- 移除不再使用的工具函数
- 添加web界面截图到文档
|
2025-06-20 12:14:19 +08:00 |
|
|
KMnO4-zx
|
2601c45444
|
docs(chapter5): 修复LLaMA2 Attention结构图中图片链接格式
|
2025-06-18 16:33:43 +08:00 |
|
|
KMnO4-zx
|
2fca30c239
|
docs(chapter5): 更新LLaMA2注意力机制图示
|
2025-06-18 16:32:07 +08:00 |
|
|
KMnO4-zx
|
ce535629ca
|
docs(chapter5): 更新模型文档并添加数据处理脚本
- 更新LLaMA2模型文档，修正图片引用和编号
- 添加Attention结构示意图
- 新增数据处理脚本download_dataset.sh和deal_dataset.py
- 优化文档中的代码示例说明
|
2025-06-18 16:26:33 +08:00 |
|
|
KMnO4-zx
|
ada2e0c44f
|
fix(download.py): 修复解压命令未指定目标目录的问题
|
2025-06-18 12:34:52 +08:00 |
|
|
KMnO4-zx
|
5d25cb0992
|
docs: 更新README中图片路径引用
|
2025-06-17 17:18:34 +08:00 |
|
|
KMnO4-zx
|
20a4bde837
|
docs(chapter1): 在NLP基础概述中添加词汇表说明
|
2025-06-17 17:10:45 +08:00 |
|
|
KMnO4-zx
|
1f46fc1dd5
|
docs: 更新文档中的图片链接为绝对路径
将所有文档中的相对图片路径替换为完整的GitHub raw链接，确保图片在文档中能够正确显示
|
2025-06-17 17:07:09 +08:00 |
|
|
KMnO4-zx
|
6dd4815b1e
|
docs(chapter4): 修正大语言模型章节中的公式格式和空格
统一公式前后空格格式，提高文档可读性
|
2025-06-17 12:21:31 +08:00 |
|
|
KMnO4-zx
|
d49819cd9d
|
docs(chapter4): 修正奖励模型公式中的数学符号和格式错误
修复公式中的数学符号显示问题，包括 KL 散度计算和奖励函数中的点乘符号
|
2025-06-17 12:16:06 +08:00 |
|
|
KMnO4-zx
|
08ee8ef753
|
docs(chapter2): 修正自注意力机制文档中的错别字
|
2025-06-15 09:45:06 +08:00 |
|
|
KMnO4-zx
|
a866753911
|
docs: 修正文档链接路径
更新README.md和docs/README.md中的前言链接路径，从`./docs/README.md`改为`./前言.md`以保持一致性
|
2025-06-13 21:49:24 +08:00 |
|
|
KMnO4-zx
|
5e8f26544a
|
docs: 更新star-history
|
2025-06-12 16:58:18 +08:00 |
|
|
KMnO4-zx
|
5713a54960
|
fix(docs): 修正文档中torch拼写错误
|
2025-06-12 09:10:18 +08:00 |
|
|
KMnO4-zx
|
6a47afc997
|
fix: 修正 5.1.2 中输出张量形状的错误
|
2025-06-12 09:08:38 +08:00 |
|
|
KMnO4-zx
|
74908262f1
|
docs: 更新README中的PDF下载链接格式
|
2025-06-10 16:47:56 +08:00 |
|
|
KMnO4-zx
|
1516bb487d
|
docs: 添加在线阅读链接和PDF下载说明
|
2025-06-10 16:40:20 +08:00 |
|
|
KMnO4-zx
|
2beb3ae3f4
|
docs(chapter1): 更新NLP基础章节内容，添加分词和向量空间模型示例
添加中文分词示例展示正确与错误的分词结果对比
补充向量空间模型的稀疏性示例代码说明
|
2025-06-09 22:20:18 +08:00 |
|
|
KMnO4-zx
|
9efbb69dfd
|
docs(chapter5): 添加LLaMA2结构图并更新依赖
更新requirements.txt中的pytorch为torch以保持一致性
|
2025-06-09 22:14:01 +08:00 |
|
|
KMnO4-zx
|
d99ad30711
|
docs: 修正文档中"检索增强生产"为"检索增强生成"
|
2025-06-09 08:07:06 +08:00 |
|
|
KMnO4-zx
|
9569c9fdca
|
fix(tokenizer): 将add_prefix_space配置改为false
|
2025-06-08 09:27:21 +08:00 |
|
|
KMnO4-zx
|
1c4fee3490
|
docs: update readme
|
2025-06-06 19:58:05 +08:00 |
|
|
KMnO4-zx
|
224bb95c16
|
docs(.github): 修改问题反馈模板的标签从'bug'到'documentation'
更新ISSUE_TEMPLATE中的默认标签，以更准确地反映问题反馈类型
|
2025-06-05 15:45:39 +08:00 |
|
|
KMnO4-zx
|
ef7d4fa890
|
docs: update readme
|
2025-06-05 10:59:20 +08:00 |
|
|
KMnO4-zx
|
04e14a978b
|
docs(chapter5): 修正RMSNorm公式中的变量和描述
- 将公式中的权重变量 $w_i$ 改为输入变量 $x_i$ 以匹配实际实现
- 添加可学习的缩放参数 $\gamma$ 到公式中
- 更新变量描述使其更准确
|
2025-06-05 10:54:45 +08:00 |
|
|
KMnO4-zx
|
52ebcdd0a3
|
docs(.github): 添加ISSUE_TEMPLATE配置文件
初始化GitHub issue模板配置，禁用空白issue并添加文档和反馈链接
|
2025-06-04 22:12:54 +08:00 |
|
|
KMnO4-zx
|
1b1837f303
|
ci(issue_template): 将问题反馈模板从markdown迁移到yaml格式
迁移问题反馈模板至yaml格式以利用GitHub表单功能，提升用户体验
|
2025-06-04 22:09:35 +08:00 |
|
|
KMnO4-zx
|
b1d54ad3b9
|
docs(issue_template): 在问题模板中添加YAML前后分隔符
为书籍问题模板文件添加标准的YAML前后分隔符(---)，以符合GitHub issue模板的规范格式
|
2025-06-04 22:07:20 +08:00 |
|
|
KMnO4-zx
|
20731d96d3
|
docs(.github): 添加项目问题反馈的issue模板
|
2025-06-04 21:55:59 +08:00 |
|
|
KMnO4-zx
|
acdb595a24
|
docs: update english readme
|
2025-06-04 21:52:33 +08:00 |
|
|
KMnO4-zx
|
ad50c48e4f
|
docs: update readme
|
2025-06-04 10:16:04 +08:00 |
|
|
KMnO4-zx
|
af4b1a978e
|
docs: update readme
|
2025-06-04 10:15:18 +08:00 |
|
|
KMnO4-zx
|
f909cd1a87
|
docs：修改内容结构 && update readme
|
2025-06-03 18:52:33 +08:00 |
|
|
KMnO4-zx
|
32c3f16b8c
|
fix: add chapter5 reauirements
|
2025-06-03 18:42:51 +08:00 |
|
|
KMnO4-zx
|
20586c2790
|
docs:update readme
|
2025-05-27 16:15:57 +08:00 |
|
|
KMnO4-zx
|
0a2e9a84ff
|
docs: del reference file
|
2025-05-27 16:13:51 +08:00 |
|
|
KMnO4-zx
|
87828b9f6c
|
docs: update readme
|
2025-05-27 16:12:06 +08:00 |
|
|
KMnO4-zx
|
2ebdc267dc
|
docs: update :readme
|
2025-05-27 16:11:32 +08:00 |
|
|
KMnO4-zx
|
1425d45870
|
docs：update reame images scale
|
2025-05-25 10:11:41 +08:00 |
|
|
KMnO4-zx
|
f9fe12d99a
|
docs：add docsify deploy
|
2025-05-25 00:02:24 +08:00 |
|
|
KMnO4-zx
|
40dc5de2fc
|
docs：update readme
|
2025-05-23 12:05:58 +08:00 |
|
|
KMnO4-zx
|
d85abd01a6
|
docs：调整图片大小
|
2025-05-23 10:47:52 +08:00 |
|
|
KMnO4-zx
|
49ee7b2073
|
docs：update readme
|
2025-05-23 10:46:22 +08:00 |
|
|
KMnO4-zx
|
d5f119648e
|
docs:update readme
|
2025-05-22 23:27:23 +08:00 |
|
|
KMnO4-zx
|
4158f34988
|
docs：update readme
|
2025-05-22 23:24:47 +08:00 |
|
|
KMnO4-zx
|
833fef5473
|
docs：update readme
|
2025-05-22 21:33:38 +08:00 |
|
|
KMnO4-zx
|
9257ba2bcc
|
docs：第三章、前言 小修
|
2025-05-15 15:54:01 +08:00 |
|
|
KMnO4-zx
|
c9d22772a1
|
doc：修复第七章 tiny-agent
|
2025-05-14 21:26:54 +08:00 |
|
|
KMnO4-zx
|
ba29bde6b1
|
doc: 更新readme目录
|
2025-05-13 21:34:06 +08:00 |
|
|
KMnO4-zx
|
ab3e092186
|
doc:修正第二章公式
|
2025-05-13 21:21:10 +08:00 |
|
|
KMnO4-zx
|
786c77e2ea
|
doc：修正 第二章共识排版
|
2025-05-13 21:19:31 +08:00 |
|
|
KMnO4-zx
|
78309523d5
|
docs：第七章 大模型应用 内容修改
|
2025-05-13 21:07:51 +08:00 |
|
|
KMnO4-zx
|
c16ee23323
|
docs：第六章 大模型训练流程实践 图片格式 参考格式修改
|
2025-05-13 20:42:51 +08:00 |
|
|
KMnO4-zx
|
7127aa48b3
|
docs：第五章 动手搭建大模型 修改图片、引用格式
|
2025-05-13 20:10:12 +08:00 |
|
|
KMnO4-zx
|
9763467812
|
docs：第四章 大语言模型 修改完成
|
2025-05-12 11:05:25 +08:00 |
|
|
KMnO4-zx
|
a1e533632e
|
docs：第三章 预训练语言模型 （除GLM外）修复完成，等待添加deepseek-v3
|
2025-05-10 13:46:08 +08:00 |
|
|
KMnO4-zx
|
9821f37bc0
|
docs：第二章 Transformers 架构 修复
|
2025-05-09 18:54:52 +08:00 |
|
|
KMnO4-zx
|
311fa8fe04
|
Fix：第二章 Transformers架构 图片格式、参考文献格式
|
2025-05-07 23:15:05 +08:00 |
|
|
KMnO4-zx
|
a0c7b6eb37
|
Fix: 第一章 NLP 基础概念 格式错误
|
2025-05-07 22:45:44 +08:00 |
|
|
KMnO4-zx
|
a86accd751
|
Add chapter7 Agent code
|
2025-04-26 20:35:30 +08:00 |
|
|
KMnO4-zx
|
f216f6d96f
|
del Agent
|
2025-04-26 20:33:10 +08:00 |
|
|
KMnO4-zx
|
af57ef4956
|
update chapter7 Agent
|
2025-04-26 20:30:41 +08:00 |
|
|
KMnO4-zx
|
7638cee514
|
Create 第五章 动手搭建大模型 & 第七章 大模型应用
|
2025-04-26 20:28:25 +08:00 |
|
|
KMnO4-zx
|
b034735b42
|
update 7.4 agent
|
2025-04-24 22:51:52 +08:00 |
|
|
KMnO4-zx
|
81bc97f434
|
修改项目结构+7，4 一部分
|
2025-04-21 22:15:49 +08:00 |
|
|
KMnO4-zx
|
3512f55993
|
update ch05
|
2025-02-26 20:31:51 +08:00 |
|
|
KMnO4-zx
|
ca3e727e1c
|
update ch05
|
2025-02-26 11:24:19 +08:00 |
|
|
KMnO4-zx
|
2edfb76f7a
|
Add reward model
|
2024-12-09 17:43:53 +08:00 |
|
|
KMnO4-zx
|
c46ca2b583
|
Add 7.1 强化学习的目标
|
2024-12-08 22:54:59 +08:00 |
|
|
KMnO4-zx
|
90122a2ba9
|
Add 3.3 RAG
|
2024-10-24 15:05:13 +08:00 |
|
|
KMnO4-zx
|
d8cf0c0031
|
Add: Implement chapter 8.3 on Retrieval-Augmented Generation (RAG) and Tiny-RAG framework
|
2024-10-22 21:48:20 +08:00 |
|
|
KMnO4-zx
|
d66ee23cf2
|
update 8.1
|
2024-10-15 20:15:47 +08:00 |
|
|
KMnO4-zx
|
86c76cb09b
|
update 5.3 transformers pretrain
|
2024-10-15 11:01:59 +08:00 |
|
|
KMnO4-zx
|
9e6d8a3f77
|
Add: ch5.3 code
|
2024-09-22 16:02:14 +08:00 |
|
|
KMnO4-zx
|
c579aff59d
|
docs: ch05 Done
|
2024-09-22 16:00:36 +08:00 |
|
|
KMnO4-zx
|
629f1293ae
|
refactor: Optimize LLaMA2Model's configure_optimizers method
|
2024-08-24 18:59:48 +08:00 |
|
|
KMnO4-zx
|
f63e6895fa
|
complete tokenizer
|
2024-08-11 21:45:57 +08:00 |
|
|
KMnO4-zx
|
001a87bdfa
|
chore: Update tokenizer documentation and finish GPT mode
|
2024-07-18 09:50:11 +08:00 |
|
|
KMnO4-zx
|
f4007e8fd8
|
chore: Update tokenizer documentation and finish GPT mode
|
2024-07-17 23:37:01 +08:00 |
|
|
KMnO4-zx
|
2ab5c66d15
|
update llama
|
2024-07-14 19:29:50 +08:00 |
|
|
KMnO4-zx
|
1a47d2239c
|
update: Update T5 model structure and pretraining tasks documentation
|
2024-06-02 21:05:33 +08:00 |
|
|
KMnO4-zx
|
ae0f11fe56
|
chore: Update T5 model structure and documentation
|
2024-06-02 17:32:40 +08:00 |
|
|
KMnO4-zx
|
db0b347e43
|
chore: Update T5 model structure and pretraining tasks documentation
|
2024-06-02 17:31:07 +08:00 |
|
|
KMnO4-zx
|
c67364baed
|
Merge branch 'main' of https://github.com/datawhalechina/happy-llm
|
2024-06-02 11:36:53 +08:00 |
|
|
KMnO4-zx
|
ec6c8125fe
|
chore: Update Encoder-Decoder PLM details in README.md
|
2024-06-02 11:36:46 +08:00 |
|
|
KMnO4-zx
|
76e89ec149
|
Merge branch 'main' of https://github.com/datawhalechina/happy-llm
|
2024-06-01 16:36:51 +08:00 |
|
|
KMnO4-zx
|
0fd65ddf21
|
chore: Update README.md with Encoder-Decoder PLM details
|
2024-06-01 16:36:42 +08:00 |
|
|
KMnO4-zx
|
73ff50be2b
|
Fix: 5.1 llama
|
2024-05-28 16:18:07 +08:00 |
|