CANN/asc-devkit DCCI缓存控制接口文档

asc_dcci

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径:"c_api/cache_ctrl/cache_ctrl.h"

在AI Core内部,Scalar单元和DMA单元都可能对Global Memory进行访问。

![](https://raw.gitcode.com/cann/asc-devkit/raw/b8f26e68676adf6e254d6472a20a1476859bfa77/docs/zh/api/SIMD-API/C-API/figures/dcci.png "DataCache内存层次示意图"?utm_source=gitcode_repo_files) \

如上图所示:

DMA搬运单元读写Global Memory,数据通过asc_copy_ub2gm和asc_copy_gm2ub等接口在UB等Local Memory和Global Memory间交互,没有Cache一致性问题; Scalar单元访问Global Memory,首先会访问每个核内的Data Cache,因此存在Data Cache与Global Memory的Cache一致性问题。 该接口用来刷新Cache,保证Cache的一致性,使用场景如下:

读取Global Memory的数据,但该数据可能在外部被其余核修改,此时需要使用asc_dcci接口,直接访问Global Memory,获取最新数据; 用户通过Scalar单元写Global Memory的数据,希望立刻写出,也需要使用asc_dcci接口。

Scalar单元访问UB数据时,该接口需配合asc_set_ctrl()接口使用,将CTRL[49]设置为1'b1,开启datacache模式。

针对Ascend 950PR/Ascend 950DT,不支持asc_dcci_entire_ub接口。

函数原型

// 刷新传入地址所在的单个Cache Line __aicore__ inline void asc_dcci_single(__gm__ void* dst) // 刷新传入的UB地址空间地址所在的单个Cache Line __aicore__ inline void asc_ub_dcci_single(__ubuf__ void* dst) // 刷新所有Cache Line __aicore__ inline void asc_dcci_entire_all() __aicore__ inline void asc_dcci_entire_ub() __aicore__ inline void asc_dcci_entire_out() __aicore__ inline void asc_dcci_entire_atomic()

参数说明

参数名输入/输出描述
dst输入需要刷新缓存的向量的起始地址。

返回值说明

流水类型

PIPE_S

约束说明

调用示例

// 示例:SINGLE_CACHE_LINE模式(x_gm 64B对齐场景) // 假设x为外部传入的地址,每个核计算16个数据,block_idx为内置变量,通过block_idx计算偏移实现多核间数据隔离 __gm__ float* x_gm = x + block_idx * 16; for (int i = 0; i < 16; i++) { x_gm[i] = static_cast<float>(i + block_idx); } // 由于首地址64B对齐,调用asc_dcci_single指令后,数据会立刻刷新到Global Memory asc_dcci_single(reinterpret_cast<__gm__ uint64_t*>(x_gm));

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考