大模型量化，简单来说，就是用更少比特的整数（如 INT8、INT4）来近似表示模型中的高精度浮点数（如 FP32、FP16）。 这是一种在不显著损害模型效果的前提下，大幅压缩模型、加速推理的核心技术。 🎯 为何需要量化？ 大语言模型动辄数十亿甚至上千亿的参数，使用 FP32 格式…

from datetime import datetimefrom fastapi import FastAPI, Depends from sqlalchemy import DateTime, func, String, Float, select from sqlalchemy.ext.asyncio import create_async_engine, async_sessionmaker…

概述复利这个词，我之前写了很多，但今天从另外一个侧面来表述复利的力量。长期主义、做时间的朋友、延迟满足、慢慢变富，这些我们常常听到的名字背后，复利是实现上述目标的重要途径和手段。从小学、中学、高中、大学、工作、结婚、…

用 brew 安装软件慢，通常是因为默认的官方源服务器在国外。解决的核心思路就是将默认源替换为国内的镜像源。对于2025年的新版 Homebrew，有一个关键的新步骤需要留意。 💡 核心原因 Homebrew 慢主要是因为它的核心仓库和软件包（Bo…

错过了是幸运， 但不幸终将来临。 内心惶恐， 丢下眼前的菜， 在走廊里奔跑。 那就是ta， 赤手空拳， 但是大家都害怕。 ta追上来， 我转身， 试图摆脱。 下一秒， 我看见ta拿着枪指着我的头， 我从ta没有眼睛的眼眶里…

Django中间件的定义Django中间件是处理请求和响应的轻量级插件系统，位于Django请求/响应处理流程的全局层面。中间件在视图函数执行前后介入，可修改请求（HttpRequest）或响应（HttpResponse），实现…

斯坦福 CS336 从零构建大模型 (2025 春) - 第四讲：专家混合模型（Mixture of Experts, MoE） 文章目录斯坦福 CS336 从零构建大模型 (2025 春) - 第四讲：专家混合模型（Mixture of Experts, MoE）一、什么是 Mo…

Claude代码学习过程记录技术文章大纲 参考文献：Claude Code首次使用指南：十分钟创建完整项目 | 果叔AI世界 学习准备阶段 下载git bush，提供类似linux的命令行环境，git安装路径：Git - Install 1.安装Node.js 访问官…