本文分类:news发布日期:2026/6/15 4:16:21
打赏

相关文章

CANN/AMCT KV-Cache量化模型创建

create_quant_cali_model 【免费下载链接】amct AMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。 项目地址: https://gitcode.com/cann/amct 产品支持情况 产品 是否支持 Ascend 950PR/Ascend 950DT √ Atlas A3 训练系列产品/Atlas A3 推理系列产品√ Atlas A2 训…

CANN/ATVC ACLNN调用示例

AclNNInvocationNaive工程样例 【免费下载链接】atvc ATVC(Ascend C Templates for Vector Compute),是为基于Ascend C开发的典型Vector算子封装的一系列模板头文件的集合,可帮助用户快速开发典型Vector算子。 项目地址: https:…

RT2.0 动态 Shape 执行器特性分析

RT2.0 动态 Shape 执行器特性分析 【免费下载链接】ge GE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 Py…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部