本文分类:news发布日期:2026/6/15 2:39:21
打赏

相关文章

CANN/catlass 逐令牌反量化

Block Epilogue Per Token Dequant 【免费下载链接】catlass 本项目是CANN的算子模板库,提供NPU上高性能矩阵乘及其相关融合类算子模板样例。 项目地址: https://gitcode.com/cann/catlass 代码位置 功能说明 BlockEpilogue偏特化实现,使用perToke…

CANN/catccos AllGather反量化算子

AllGather矩阵乘法反量化算子设计文档 【免费下载链接】catccos CATCCOS昇腾计算-通信融合算子模板库,是一个聚焦于提供高性能计算通信融合类算子基础模板的代码库。 项目地址: https://gitcode.com/cann/catccos 1. 算子概述 1.1 功能描述 AllGather矩阵乘…

CANN/AMCT KV-Cache量化模型创建

create_quant_cali_model 【免费下载链接】amct AMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。 项目地址: https://gitcode.com/cann/amct 产品支持情况 产品 是否支持 Ascend 950PR/Ascend 950DT √ Atlas A3 训练系列产品/Atlas A3 推理系列产品√ Atlas A2 训…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部