Java吧 视频教程: 51cto Llama3大模型原理代码精讲与部署微调评估实战视频教程
& @$ I& ]: Y. |3 X" V; I+ IJava教程编号:【S0526】-166
* s7 q4 I; S2 h4 U/ V! {4 E4 s! B, `% W( x9 `
E5 s" r6 u) R$ s! f5 o" J- l- l4 N
〖课程目录〗:. d, _0 `6 }/ v$ m% ?
1 课程介绍.mp4& b; Y% w, o% y& c6 V
2 注意力机制.mp4, h# C, m1 o! k) `
3 自注意力机制.mp4
; O1 N$ P' _7 z: R; h4 Transformer的架构概述.mp4
& c* v8 o' ?5 O$ m) w5 Transformer Encoder的多头注意力.mp4" J, g" l9 e! P$ B
6 Transformer Encoder的位置编码.mp4
/ G+ I$ ^5 m/ Z `% D# N7 Transformer 残差链接、LayerNorm、FFN.mp4
, \$ r- E$ e6 g: n( v' E% e! i) o8 Transformer Decoder.mp4
) C: Q( x, { _0 i0 @+ K& U9 Transformer 训练及性能.mp4/ ]- r$ r, [" a5 Q- H+ m
10 Transformer机器翻译工作流程.mp4
* W8 r+ `2 Y) ]0 _9 A' T1 R11 Transformer的Encoder代码解读.mp4+ E% y, e3 r$ |# R/ W
12 Transformer的Decoder代码解读.mp4
# n7 E: \1 l# I. X( t* v' p3 F" Z13 Transformer的超参设置代码解读.mp4
' L! R) N; [$ x. C! \14 Transformer的训练示例(人为随机数据)代码解读.mp4! g7 l) H, B5 C3 U- x* R: T2 d" {
15 Transformer的训练示例(德语-英语机器翻译)代码解.mp4
% |, P2 F" |1 L9 b16 结合中文注释代码深入解读1.mp49 l1 p" r! [4 v! Z% H2 @% F( W
17 结合中文注释代码深入解读2.mp49 f1 V- t9 d$ b$ T. q* W
18 LLM推理方式.mp42 \, K! q5 b2 S1 L3 i( n4 H
19 文本生成模式.mp47 l! V+ Q, X0 a2 _5 v
20 文本生成策略.mp4
. B A* D" ?* k( U2 f/ |21 Token和分词器.mp4
0 j6 |" G5 f: \# I8 a7 P" M/ A( z7 N22 文本生成过程.mp4+ F: ~6 W+ ^# C9 n6 G
23 prefill和解码阶段.mp4- T: j7 W9 S, \' x! w# n$ Z
24 llama3文本生成过程.mp4# L8 | N/ Y" ]3 o1 {* u( n
25 文本生成时的QKV含义.mp4+ `/ T4 r2 c& d. f' i( ?3 K
26 大模型开发阶段划分.mp4
" \9 d9 h+ d% h6 P6 k$ s, A27 SFT微调.mp4
; o7 D) _ B! ~$ \0 ?. T( b4 G28 微调方法(全参、冻结参数、LoRA、QLoRA).mp4& Y x4 g Z; n/ L5 b9 a
29 LoRA微调.mp44 N0 ?0 A0 K5 ^+ K& ?" P" o
30 QLoRA微调.mp4- ]5 y- l. b' C$ T
31 llama模型进化史.mp4* r5 c' j$ `$ w' f1 A( p" `* X
32 llama3模型类型.mp4' C' P0 W+ g9 C6 D- N
33 llama大模型生态.mp4
5 H9 L3 m" h0 {% r+ N% ?34 llama3模型架构.mp4
8 ?7 ?% _8 |/ X6 b( [8 O `6 _" V$ `35 RMSNorm归一化.mp4" m. T1 N7 o7 M f7 [1 l# H" ]
36 SwiGLU激活函数.mp4
- K3 ]# u) H# Y- Z* \& c. M% j37 RoPE旋转位置编码.mp4
- c$ ^* E0 r5 x4 }/ D) P8 K; J1 @38 GQA分组查询注意力.mp4
# X8 [# M3 @, @* P/ z39 KVCache.mp4( d3 o7 _0 z* U3 h2 o- N/ W
40 各文件功能.mp4. n1 H8 K! o6 L& S# f% w
41 completion和chat应用脚本代码解析.mp4
. i7 v. v6 o/ ?+ |8 J2 \' t2 j* J42 generation.py代码解析.mp44 N) a9 b+ ~+ ?
43 model.py代码解析.mp4! x7 }- L V# \+ V& E6 } @
44 tokenizer.py代码解析.mp42 r+ Q$ L( ]; i) K
45 RMSNorm代码解析.mp4
# V7 c' i! S/ T, P) y8 x46 SwiGLU代码解析.mp4
" q8 u: A! g6 e( R' T47 GQA代码解析.mp49 o; a: I( t5 A8 Q5 _: d4 y+ h: O
48 RoPE代码解析.mp4* p* u8 d7 \ j0 D: k+ R6 r, z
49 KVCache代码解析.mp4
) b- ?+ y# O" ]: [4 b$ x50 阿里云实例创建.mp4
7 k/ T4 k- s" j51 ollama介绍.mp4( Q% C, A0 M7 B/ Q+ h
52 ollama安装.mp4 java8.com4 F* T) a( ^9 `4 W/ R+ d# t- |
53 llama3推理.mp4
6 @0 w6 Z. [. c) X/ I54 vLLM部署llama3.mp4
4 J2 b6 Q" _* L+ y& b7 {" q3 J55 llama_factory介绍.mp4
3 J$ B3 [5 W) b9 V' s56 llama_factory安装及llama3模型下载.mp46 ?% f7 n* E1 c5 ^0 Y+ O. R
57 LoRA微调训练.mp4, O$ W1 v y0 v6 U1 f" [
58 llama3中文增强大模型推理.mp4
' [* I4 S! x- k) F' m59 llama3中文增强大模型评估.mp4) H/ W, m* T% K4 n [! @: O+ g" r% v
60 lora文件合并.mp4
6 N' I) G$ x; o# {: s; Q) s6 S61 数据集准备.mp4
, T0 k6 v+ s$ {62 lora 微调.mp4
2 U0 ?5 F' f9 ` l1 H/ [63 llama3医疗问答大模型推理.mp4
% t6 `3 R% \9 I/ S7 B64 qlora微调 .mp4
' c& g N; ?, h+ ?; I65 qlora微调的医疗问答大模型推理.mp4
" W7 R! p* T6 R' {课件资料.7z
( E/ o- g5 D) D1 i h0 {2 q
$ w* t) [2 Z4 r6 H* V 网盘下载地址(完全免费-绝无套路):1 i0 S$ ?' T6 n7 g/ H3 X3 A
* T9 ~/ `( f) o2 j7 k- g本资源由Java吧收集整理【www.java8.com】
$ d/ S% |4 z5 u6 {7 O2 w/ T* f. }- K! ]7 K
- K/ L$ h9 [- L3 |( q
5 g! \. R: r6 _; I- W4 i1 |6 {; K9 [
c+ V" z1 q* z7 F6 J7 H
|