全站IT视频教程资源免费下载

热点推荐

查看: 17583|回复: 51

LLama实战本地CPU推理大语言模型-C++开发实战

[复制链接]

213

主题

1097

帖子

2459

积分

金牌会员

Rank: 6Rank: 6

积分
2459
发表于 2025-9-30 14:04:58 | 显示全部楼层 |阅读模式
( O1 x% p, z$ s; E# B9 }( x
1-1.课程介绍.mp46 R3 `' q& j6 _  y$ Q' G
1-2.推演程序演示,基于130亿参数模型.mp4# l) _1 o  |% F% e1 d" T) h
2-1.llama模型分析和训练数据分析.mp45 l7 t: y7 T( j
2-2.git和msys2安装和llama模型下载.mp4) A7 o9 n' Q3 p& `* b1 t8 X
2-3.llama推理测试程序演示.mp4
/ D- {) Z! r0 @8 P  P/ E: I- u3 Y8 H3-1.llama.cpp构建环境说明.mp4, G0 `. U' W4 X+ ~1 S
3-2.visutal_studio_2022安装.mp4! f/ y4 c0 L8 j, F
3-3.llama.cpp构建和项目分析.mp4& V. ~0 {) G2 z# @% l2 p
3-4.cmake windows安装二进制版本.mp4# P3 S7 O6 j5 _7 g5 O
4-1.ggml格式介绍.mp47 R0 t: u% j. B$ n; ^* _! V
4-2.conda在windows中的安装和使用.mp4
3 W! h" h: F7 X; x0 Z6 Z3 a4 Q+ S4-3.conda的python环境安装.mp4
% `$ A% u3 i& X" `) \: w4-4.llama的pth格式转换为ggml的bin.mp4* }) B4 {! J% e; x! a" C8 L* }
4-5.llama量化模型到Q4_0.mp4
# R% D/ X; \4 o7 z$ ^* G' ]5-1.Chinese-LLaMA-Alpaca 中文模型分析和下载.mp40 X% i% @, s* R) S, }/ ?6 l* ?
5-2.Transformers安装和llama模型格式转换.mp4
( S& C* ]2 l9 l: v8 w7 S* ~7 j' q5-3.合并中文LoRA权重和llama生成全量模型权重.mp4* h. @" A1 R5 v$ b. S6 o$ ~
5-4.使用Transformer和Web图形界面实现推理.mp4
; ~7 B% G5 w! U% t5-5.使用llama.cpp量化和推理中文模型.mp4+ |' G) |8 v. a2 Y( c& W/ C% l: ?
6-1.llama参数ctx-size上下文大小相关代码分析.mp4% p9 J# a: C4 l
6-2.predict和batch-size回复数和推理批次代码.mp4
% K5 d" w; b- J; g) f# O! t6-3.增加结果多样性-重复惩罚repeat-penalty.mp4
" _+ a8 o# X+ j, R6-4.21温度改变随机性top-k和top-p算法分析.mp45 N( j  S9 l  ]* d; F
7-1.开源llamaqt项目分析说明.mp4, G: {3 i+ y7 X9 ?' }/ v% U
7-2.基于llama.cpp的cmake项目配置和模型加载代码实现.mp4
' V* T/ |9 t0 z$ h  Y* v7-3.完成了推理预处理prompt代码.mp45 ^$ I# r% c) E) p
7-4.完成了推理结果逻辑表采样并输出.mp4& ?( q6 v7 f& h8 A* h
7-5.完成了精简版的推理示例程序.mp4
' p: N4 m+ v1 O" X0 j9 t$ M7-6.xllama接口类图设计说明.mp4
, a! A( x: }, o7-7.XGp测试项目和线程启动停止代码完成.mp4
, I5 Z+ I8 `7 h/ d7-8.XGpt用户输入和线程接收和回调反馈完成.mp4  D# x, j) x8 g
7-9.完成xllama的推理和反馈接口并测试.mp48 X5 k( E5 e9 C" O1 h/ q7 ~
7-10.XGptFac工厂类创建.mp4
$ W# {- x! }: S. D7-11.基于cmake配置了推理QT项目.mp4: f# ^# ]% n& ?+ `) T6 w0 ?
7-12.完成了基于QT的推理交互程序.mp4
/ h( A* D9 f7 A. O; }2 I配套资料.zip
& n; O- ?+ \, N' R& I" ~. n+ T2 N; a4 M% N4 W

- l1 f4 Q6 h" ]4 E/ q( n0 z8 Q下载地址:bli^*^2025
+ Y" _& N! |0 F+ W
5 H, _. y5 R: z$ V/ j# X资源网盘下载地址和密码:
游客,如果您要查看本帖隐藏内容请回复
百度网盘信息回帖可见
' @9 z9 z9 Y  j. ?! ]' b; j' K, B6 Q5 W0 O; H

& C/ e" v9 m5 h# Q  M7 e& o6 C
- T7 ?; u9 {& c- V7 Y' z% _3 I本资源由IT视频教程网收集整理【www.itspjc.com】

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

178

主题

1043

帖子

2308

积分

金牌会员

Rank: 6Rank: 6

积分
2308
发表于 2025-9-30 14:05:09 | 显示全部楼层
666
回复

使用道具 举报

206

主题

1055

帖子

2387

积分

金牌会员

Rank: 6Rank: 6

积分
2387
发表于 2025-9-30 14:23:51 | 显示全部楼层
xxxxxxxxx
回复

使用道具 举报

176

主题

1043

帖子

2298

积分

金牌会员

Rank: 6Rank: 6

积分
2298
发表于 2025-9-30 14:34:17 | 显示全部楼层
vb
回复

使用道具 举报

186

主题

1041

帖子

2295

积分

金牌会员

Rank: 6Rank: 6

积分
2295
发表于 2025-9-30 14:48:22 | 显示全部楼层
66666666666666666
回复

使用道具 举报

228

主题

1082

帖子

2434

积分

金牌会员

Rank: 6Rank: 6

积分
2434
发表于 2025-9-30 15:06:48 | 显示全部楼层
666666666666666666666666666666666666666666666
回复

使用道具 举报

178

主题

1067

帖子

2360

积分

金牌会员

Rank: 6Rank: 6

积分
2360
发表于 2025-9-30 15:23:01 | 显示全部楼层
kkkkkkkkkkkkkkkkkkkkk go
回复

使用道具 举报

190

主题

1104

帖子

2456

积分

金牌会员

Rank: 6Rank: 6

积分
2456
发表于 2025-9-30 15:27:07 | 显示全部楼层
4324222222222222222222222222222
回复

使用道具 举报

175

主题

1049

帖子

2314

积分

金牌会员

Rank: 6Rank: 6

积分
2314
发表于 2025-9-30 15:49:25 | 显示全部楼层
LLama实战本地CPU推理大语言模型
回复

使用道具 举报

177

主题

1041

帖子

2288

积分

金牌会员

Rank: 6Rank: 6

积分
2288
发表于 2025-9-30 16:02:32 | 显示全部楼层
6666666666
回复

使用道具 举报

懒得打字嘛,点击右侧快捷回复 【右侧内容,后台自定义】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表