CANN/asc-devkit AtomicCas原子比较交换

AtomicCas【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_atomic_intf.h。调用该接口后可在指定GM地址上进行原子比较操作读取address指向的GM地址上的旧值old_value与输入标量值value1进行比较如果相等则将输入标量值value2写入GM地址如果不相等则GM地址上的值保持不变。 返回该地址修改前的值old_value。计算公式如下$$new_value (old_value value1\ ?\ value2\ :\ old_value)$$函数原型template typename T __aicore__ inline T AtomicCas(__gm__ T *address, T value1, T value2)参数说明表1模板参数说明参数名描述T操作数数据类型。表2参数说明参数名输入/输出描述address输入输入GM的地址。value1/value2输入标量值支持数据类型和address指向的数据类型保持一致。数据类型address、value1/value2、返回值的数据类型相同支持的数据类型为uint32_t、uint64_t。返回值说明GM地址上做原子操作前的数据。约束说明在开启编译器自动同步功能参见自动同步使用约束说明的前提下编译器能够自动在PIPE_MTE2/PIPE_MTE3与PIPE_S之间插入同步参见编译器自动同步。但是AtomicCas为标量计算在读写GM时如果与搬运单元MTE2/MTE3存在数据依赖编译器却无法自动插入同步开发者需要根据实际情况手动插入同步。Scalar原子操作会绕过DCache需要调用DataCacheCleanAndInvalid接口确保GM与DCache的一致性。调用示例AscendC::LocalMemAllocatorAscendC::Hardware::UB ubAllocator; AscendC::LocalTensoruint32_t yLocal ubAllocator.Allocuint32_t(DATA_SIZE); AscendC::GlobalTensoruint32_t yGlobal; yGlobal.SetGlobalBuffer(reinterpret_cast__gm__ uint32_t*(y), DATA_SIZE); // AtomicCas三个核分别对GM首个元素原子比较交换。 uint32_t expected 1; uint32_t newValue 2; AscendC::AtomicCas(reinterpret_cast__gm__ uint32_t*(y), expected, newValue); // 原子操作后插入同步。 AscendC::SetFlagAscendC::HardEvent::S_MTE2(EVENT_ID0); AscendC::WaitFlagAscendC::HardEvent::S_MTE2(EVENT_ID0); AscendC::DataCopy(yLocal, yGlobal, DATA_SIZE);完整样例请参考scalar_atomic_operations样例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考