马哥教育-大模型应用与工程实践

感谢网友分享，暂时只对VIP会员开放！

马哥教育-大模型应用与工程实践

21目录以后基本是空的，因为视频加密暂无！

课程目录：

1-Python基础

2-Python基础c02线性表

3-c02线性表

4-c02线性表c03哈希表

5-c03哈希表c04函数

6-c04函数

7-c04函数

8-c04函数

9-c05装饰器

10-c05装饰器c06文件IO和序列化

11-c06文件IO和序列化

12-c06文件IO和序列化

13-c06文件IO和序列化

14-c07面向对象

15-c07面向对象

16-c07面向对象

17-c07面向对象c08面向对象进阶

18-c08面向对象进阶

19-c08面向对象进阶

21-6.28开班

22-神经网络基础概率

23-Pandas、Matplotlib

24-Pandas、Matplotlib

25-sklearn神经网络和pytorch

26-神经网络

27-优化器正则化CNN和RNNLSTM

28-RNNLSTMGRU和Transformer

29-Transformer架构组件、工作原理、代码实践和最新演进

30-Transformer模型训练深度解析、各组件的演进、GPU

31-模型分布式训练并行策略、通信原语、ZeRO、混合并行、模型训练案例

32-大模型分布训练(ddpfsdp和deepspeed示例)、HuggingFace API及用例、模型微调基础

33-HF API及用例、模型微调工作机制、微调数据集和对话模板.LoRA

34-模型微调实践、模型压缩与优化介绍、模型量化工作原理、模型量化实践、模型剪枝和模型蒸馏介绍

35-第14节-模型量化及实践案例、模型推理与推理引擎、vLLM组件、架构、工作原理及案例

36-第15节-SGLang推理引擎、LLM的生产架构及案例

37-第16节-基于LiteLLM-proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理

38-第17节-LLM推理技术与工程化(基于Kubernetes)

39-LLM推理系统的约束分析、架构设计与SLA达成路径

40-分布式、云原生与生产级系统