Update README.md

This commit is contained in:
Logan Zou
2025-05-23 11:57:18 +08:00
committed by GitHub
parent d85abd01a6
commit 14059f5cf0

View File

@@ -21,7 +21,7 @@
>   *很多小伙伴在看完 [self-llm 开源大模型食用指南](https://github.com/datawhalechina/self-llm) 后感觉意犹未尽想要深入了解大语言模型的原理和训练过程。于是我们决定推出《Happy-LLM》项目旨在帮助大家深入理解大语言模型的原理和训练过程。*
  本项目是一个**系统性的 LLM 学习教程**包含了大语言模型的基本原理、训练过程和应用案例。我们将从基础知识开始,逐步深入到大语言模型的核心原理和训练过程,最后介绍一些实际应用案例
  本项目是一个**系统性的 LLM 学习教程**将从 NLP 的基本研究方法出发,根据 LLM 的思路及原理逐层深入,依次为读者剖析 LLM 的架构基础和训练过程。同时,我们会结合目前 LLM 领域最主流的代码框架,演练如何亲手搭建、训练一个 LLM期以实现授之以鱼更授之以渔。希望大家能从这本书开始走入 LLM 的浩瀚世界,探索 LLM 的无尽可能
### ✨ 你将收获什么?
@@ -36,6 +36,7 @@
| 章节 | 关键内容 | 状态 |
| --- | --- | --- |
| [前言](./docs/readme.md) | 本项目的缘起、背景及读者建议 | ✅ |
| [第一章 NLP 基础概念](./docs/chapter1/第一章%20NLP基础概念.md) | 什么是 NLP、发展历程、任务分类、文本表示演进 | ✅ |
| [第二章 Transformer 架构](./docs/chapter2/第二章%20Transformer架构.md) | 注意力机制、Encoder-Decoder、手把手搭建 Transformer | ✅ |
| [第三章 预训练语言模型](./docs/chapter3/第三章%20预训练语言模型.md) | Encoder-only、Encoder-Decoder、Decoder-Only 模型对比 | ✅ |
@@ -44,6 +45,15 @@
| [第六章 大模型训练实践](./docs/chapter6/第六章%20大模型训练流程实践.md) | 预训练、有监督微调、LoRA/QLoRA 高效微调 | ✅ |
| [第七章 大模型应用](./docs/chapter7/第七章%20大模型应用.md) | 模型评测、RAG 检索增强、Agent 智能体 | ✅ |
## 💡 如何学习
本项目适合大学生、研究人员、LLM 爱好者。在学习本项目之前,建议具备一定的编程经验,尤其是要对 Python 编程语言有一定的了解。最好具备深度学习的相关知识,并了解 NLP 领域的相关概念和术语,以便更轻松地学习本项目。
本项目分为两部分——基础知识与实战应用。第1章第4章是基础知识部分从浅入深介绍 LLM 的基本原理。其中第1章简单介绍 NLP 的基本任务和发展,为非 NLP 领域研究者提供参考第2章介绍 LLM 的基本架构——Transformer包括原理介绍及代码实现作为 LLM 最重要的理论基础第3章整体介绍经典的 PLM包括 Encoder-Only、Encoder-Decoder 和 Decoder-Only 三种架构,也同时介绍了当前一些主流 LLM 的架构和思想第4章则正式进入 LLM 部分,详细介绍 LLM 的特点、能力和整体训练过程。第5章第7章是实战应用部分将逐步带领大家深入 LLM 的底层细节。其中第5章将带领大家者基于 PyTorch 层亲手搭建一个 LLM并实现预训练、有监督微调的全流程第6章将引入目前业界主流的 LLM 训练框架 Transformers带领学习者基于该框架快速、高效地实现 LLM 训练过程第7章则将介绍 基于 LLM 的各种应用,补全学习者对 LLM 体系的认知,包括 LLM 的评测、检索增强生产Retrieval-Augmented GenerationRAG、智能体Agent的思想和简单实现。你可以根据个人兴趣和需求选择性地阅读相关章节。
在阅读本书的过程中建议你将理论和实际相结合。LLM 是一个快速发展、注重实践的领域,我们建议你多投入实战,复现本书提供的各种代码,同时积极参加 LLM 相关的项目与比赛,真正投入到 LLM 开发的浪潮中。我们鼓励你关注 Datawhale 及其他 LLM 相关开源社区,当遇到问题时,你可以随时在本项目的 issue 区提问。
最后,欢迎每一位读者在学习完本项目后加入到 LLM 开发者的行列。作为国内 AI 开源社区,我们希望充分聚集共创者,一起丰富这个开源 LLM 的世界,打造更多、更全面特色 LLM 的教程。星火点点,汇聚成海。我们希望成为 LLM 与普罗大众的阶梯,以自由、平等的开源精神,拥抱更恢弘而辽阔的 LLM 世界。
## 🤝 如何贡献
@@ -85,4 +95,4 @@
## 📜 开源协议
本作品采用[知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议](http://creativecommons.org/licenses/by-nc-sa/4.0/)进行许可。
本作品采用[知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议](http://creativecommons.org/licenses/by-nc-sa/4.0/)进行许可。