如何下载 Llama 3 模型权重并跑通本地推理【免费下载链接】llama3The official Meta Llama 3 GitHub site项目地址: https://gitcode.com/GitHub_Trending/ll/llama3你需要把 Llama 3 的权重文件拿到本地让仓库里的示例代码直接跑起一次对话推理。下文覆盖两条下载渠道的选择、官方脚本的完整用法、文件完整性校验和首次推理命令读完即可独立完成整个流程。了解 Llama 3 官方仓库包含什么这是 Meta 官方的 Llama 3 仓库提供 8B 到 70B 预训练与指令微调模型的加载代码和最小可运行推理示例权重本体需要通过申请链接或 Hugging Face 获取。download.sh官方下载脚本交互式输入链接内置 MD5 校验llama/模型核心实现含模型定义、推理逻辑与分词器example_chat_completion.py指令微调模型的对话推理示例example_text_completion.py预训练基座模型的文本文续推理示例MODEL_CARD.md模型能力边界与使用说明USE_POLICY.md可接受使用政策对比两种权重获取方式获取渠道适用场景前置条件复杂度预估耗时官方download.sh脚本生产部署、直接跑本仓库示例Meta 官网申请并获取 Presigned URL低两次交互输入8B 约 16GB取决于带宽Hugging Face 下载快速试验、transformers 生态集成HF 账号并同意模型许可证低一条命令同上取决于带宽首次接触建议使用官方脚本它自动执行checklist.chk校验下载出的目录结构也与本仓库示例开箱对齐Hugging Face 渠道则更适合已经在用 transformers 的用户。用官方脚本下载并校验 Llama 3 权重前置条件在 Meta 官网申请 Llama 3 访问权限并同意许可审批通过后邮件会收到 Presigned URL系统已安装wget和md5sum准备好带 PyTorch / CUDA 的 Python 环境如 conda 环境磁盘空间8B 模型预留 20GB 以上70B 预留 140GB 以上克隆仓库并安装依赖把仓库拉到本地并安装可编辑包依赖会按 requirements.txt 自动安装。git clone https://gitcode.com/GitHub_Trending/ll/llama3 cd llama3 pip install -e . # 自动安装 torch、fairscale、fire、tiktoken 等依赖预期结果安装无报错llama包可在当前环境导入。从邮件复制 Presigned URL申请审批通过后Meta 会把带签名的下载链接发到注册邮箱下载时需要手动粘贴它。⚠️ 请从邮件正文手动复制链接不要点复制链接按钮链接 24 小时内有效且下载次数有限出现403 Forbidden说明已过期需重新申请。运行 download.sh 拉取模型文件执行官方脚本按提示粘贴 URL 并指定模型规格。bash download.sh # 提示 1粘贴邮件中的 Presigned URL # 提示 2输入要下载的模型如 8B-instruct逗号分隔可多选回车则四个全下预期结果依次下载所选模型的consolidated.*.pth、params.json、tokenizer.model、checklist.chk随后自动执行md5sum -c checklist.chk校验。⚠️ 若出现checklist.chk: FAILED删除对应模型目录如Meta-Llama-3-8B-Instruct后重跑脚本即可脚本内wget --continue支持断点续传不必从零下载。运行对话示例验证可用性加载刚下载的权重跑一次内置对话示例。torchrun --nproc_per_node 1 example_chat_completion.py \ --ckpt_dir Meta-Llama-3-8B-Instruct/ \ --tokenizer_path Meta-Llama-3-8B-Instruct/tokenizer.model \ --max_seq_len 512 --max_batch_size 6 # 8B 用 1 进程70B 需 --nproc_per_node 8预期结果控制台逐条输出内置对话蛋黄酱做法、巴黎行程等的 assistant 回复。如果已在 transformers 生态中也可以用 Hugging Face 直接拉取huggingface-cli download meta-llama/Meta-Llama-3-8B-Instruct \ --include original/* --local-dir Meta-Llama-3-8B-Instruct差异在于需要先登录 HF 账号并同意许可证文件取自original目录内容与官方脚本下载的格式一致本地目录名不同时只需相应调整--ckpt_dir。校验文件完整性并跑通首次推理验证方式cd Meta-Llama-3-8B-Instruct md5sum -c checklist.chk—— 预期每个.pth文件一行OK无FAILEDcat Meta-Llama-3-8B-Instruct/params.json—— 预期 JSON 含dim: 4096、n_layers: 32、n_heads: 32与 llama/model.py 的 8B 配置一致重复上文推理命令 —— 预期四组对话各自输出 assistant 回答常见问题问下载中报 403 Forbidden是什么原因答Presigned URL 在 24 小时后过期或下载次数已用尽。回到官网重新申请链接重跑download.sh粘贴新 URL 即可。问md5sum -c checklist.chk报 FAILED 怎么办答文件在传输中损坏。删除对应模型目录后重跑脚本wget --continue会续传而非全量重下。问--nproc_per_node按什么设置答按模型的 MP 值8B 设 170B 设 8。问max_seq_len能直接设到 8192 吗答Llama 3 上下文窗口为 8192 tokens但 KV cache 会按max_seq_len与max_batch_size预分配显存紧张时应调低。两条渠道最终得到的是同一套原生权重区别只在校验环节是否由脚本自动完成。下载完成后先读一遍 MODEL_CARD.md 确认能力边界再用 example_text_completion.py 试一下预训练基座模型的文本续写。使用模型须遵守 LICENSE 与 USE_POLICY.md 中的许可条款与可接受使用政策请勿将模型用于政策禁止的场景。【免费下载链接】llama3The official Meta Llama 3 GitHub site项目地址: https://gitcode.com/GitHub_Trending/ll/llama3创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考