一、finetune 简介
两种微调模式:增量预训练 与指令跟随

1.增量预训练

2.指令微调

二、LoRA 与 QLoRA 介绍


三、XTuner 介绍




四、低显存玩转LLM的方法

发布时间:2026/7/18 9:37:19
两种微调模式:增量预训练 与指令跟随

1.增量预训练

2.指令微调








工作中,除了必备的基础知识,还要学会与人合作。 如何将你开发的小功能整合到整个项目的大框架中如何让你的实验性代码不影响到大框架中的代码性能如何让你放下手中写到一半的代码去修改突然出现的bug 这些都是会出现的情况,为了应对这些情况&…
目录 一 什么是gitee 二 安装Git 三 登录gitee,生成密钥 四 配置SSH密钥 五 创建项目 六 克隆仓库到本地 七 关联本地工程到远程仓库 八 添加文件 九 异常处理 十 删除仓储 十一 git常用命令 一 什么是gitee gitee是开源中国推出的基于git的代码托管服务…
目的:一定时间内,同样的请求(业务参数相同)访问同一个接口,则只能成功一次,其余被拒绝 幂等实现原理就是利用AOP面向切面编程,在执行业务逻辑之前插入一个方法,生成一个token,存入redis并插入到…
一、2026天津黄金实时大盘行情参考(最新市价) 2026年天津本地黄金回收价格严格对标上海黄金交易所实时大盘金价,全市正规回收渠道统一遵循大盘计价逻辑,无私自调价、季节溢价、新旧差价等乱象,行情透明且波动稳定…
1. 项目概述:当机器人学会“主动思考”去探索未知 想象一下,你被蒙上眼睛,扔进一个从未见过的、结构复杂的大楼里,你的任务是在最短时间内摸清每一层、每一个房间的布局,并且不能撞墙。你会怎么做?一个本能…
1. 为什么PCB接地如此重要? 我第一次画PCB板时,完全没把接地当回事,结果做出来的板子像得了癫痫一样——数字电路疯狂干扰模拟电路,ADC读数跳得比股票K线还刺激。后来才知道,90%的电路异常都和接地不当有关。接地就像城…
1. 先搞清楚这个标题到底在说什么看到“栅栏硬控牛哥”“小概率神秘bug”这种标题,第一反应是游戏或赛事直播里的突发状况。这类问题最值得关注的不是bug本身多离奇,而是它出现的条件、复现方式和实际影响。很多所谓“神秘bug”其实有明确的触发边界&…
1. 项目概述:技能泛滥与行业困境 "多写点skill吧,写的越多这行业死的越快"这个标题直指当前AI技能开发领域的一个深层矛盾。作为从业者,我深刻理解这句话背后的焦虑——当每个人都在疯狂开发各种AI技能(skill)时,这个行…
Verb实战案例:用Emacs构建完整的RESTful API测试工作流 【免费下载链接】verb HTTP client for Emacs 项目地址: https://gitcode.com/gh_mirrors/verb/verb 你是否厌倦了在Postman、cURL和代码编辑器之间来回切换进行API测试?想要一个更优雅、更…
更多请点击: https://kaifayun.com 第一章:从模糊意图到可执行指令:Claude PRD中Prompt Engineering与需求颗粒度的5级映射法则 在Claude驱动的产品需求文档(PRD)生成实践中,原始业务意图往往以自然语言片…
更多请点击: https://codechina.net 第一章:Cursor配置生成失效?3大隐藏陷阱4行修复代码,资深工程师连夜整理的紧急补救清单 Cursor 配置生成突然失效,是近期高频报障场景。表面看是 cursor.config.json 未更新或 LSP…
作者:钟声编辑:Mark出品:红色星际头图:智能驾驶图片据悉,国内某头部智驾公司端到端模型技术大牛Z投身创业,并且已经拿到融资。Z不仅是该头部公司内部最年轻的对标阿里P10级别技术负责⼈,更是业内…
PlantUML 实战:5分钟将 UML 2.5 序列图转换为可执行代码草图 在软件开发过程中,清晰的系统设计往往比编码本身更为关键。传统拖拽式UML工具虽然直观,却常常成为效率杀手——频繁的鼠标操作打断设计思路,版本控制困难,…
29 动态Batch推理:让RT-DETR在低延迟下吃满GPU算力 开篇故事 上个月帮一家安防厂商做项目优化,他们用RT-DETR做实时人流统计,部署在NVIDIA A10上。客户反馈说:“GPU利用率才30%,但延迟已经飙到40ms了,加人流量就丢帧。” 我远程一看,好家伙——生产环境里每个请求单独…
Postman 环境变量高阶实战:动态管理与 CI/CD 深度集成在接口自动化测试领域,环境变量的灵活运用往往成为区分初级与高级测试工程师的关键能力。本文将深入探讨 Postman 环境变量的三种动态设置模式,并分享 Newman 在 CI/CD 流水线中的实战避坑…
在串(字符串)的顺序存储中,内存回收的方式取决于字符串的存储方式以及所使用的编程语言和相关库。以下以 C 为例进行说明,因为 C 对内存管理有较为直接的控制。 1. 基于 char 数组的串顺序存储 如果使用普通的 char 数组来存储字…
移动端游戏功耗测试:先控制变量,再比较优化是否真的省电 摘要:功耗测试最容易犯的错误,是拿两次不同温度、不同亮度、不同场景的平均功率直接比较。本文给出一套可复现的游戏功耗测试方法,覆盖引擎特性验证、版本回归和黑盒体验测试,并说明如何把功耗与帧率、温控、CPU/G…
本文是“足球口袋教练 HarmonyOS 离线应用实战”系列第 3 篇。示例项目是一个 HarmonyOS / ArkTS / ArkUI 编写的离线足球训练助手,围绕真实页面、真实截图和可复现操作展开。 本篇要解决的问题 训练 App 的首页不能只展示欢迎语,它要解决“我现在该点哪…