CANN/asc-devkit AI-CPU算子编译指南

AI CPU算子编译【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit与AI Core算子只需一个.asc文件即可编译生成可执行文件不同AI CPU算子需要同时包含.aicpu文件核函数定义和.asc文件通过内核调用符调用核函数才能编译生成可执行文件。通过bisheng命令行编译下文基于一个Hello World打印样例来讲解如何通过bisheng命令行编译AI CPU算子。该样例包含hello_world.aicpu文件AI CPU核函数定义和main.asc文件通过内核调用符调用AI CPU核函数。hello_world.aicpu文件内容如下#include aicpu_api.h __global__ __aicpu__ uint32_t hello_world(void *args) { AscendC::printf(Hello World!!!\n); return 0; }Host侧使用内核调用符...进行AI CPU算子的调用 main.asc示例代码如下#include acl/acl.h struct KernelArgs { int mode; }; extern __global__ __aicpu__ uint32_t hello_world(void *args); int32_t main(int argc, char const *argv[]) { aclInit(nullptr); int32_t deviceId 0; aclrtSetDevice(deviceId); aclrtStream stream nullptr; aclrtCreateStream(stream); struct KernelArgs args {0}; constexpr uint32_t numBlocks 1; hello_worldnumBlocks, nullptr, stream(args, sizeof(KernelArgs)); aclrtSynchronizeStream(stream); aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }开发者可以使用bisheng命令行将hello_world.aicpu与main.asc分别编译成.o再链接成为可执行文件编译命令如下编译hello_world.aicpu时通过-I指定依赖头文件所在路径通过--cce-aicpu-laicpu_api为Device链接依赖的库libaicpu_api.a通过--cce-aicpu-L指定libaicpu_api.a的库路径。编译main.asc时通过--npu-arch编译选项指定对应的架构版本号。${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。各产品型号对应的架构版本号请通过对应关系表进行查询。bisheng -O2 hello_world.aicpu --cce-aicpu-L${INSTALL_DIR}/lib64/device/lib64 --cce-aicpu-laicpu_api -I${INSTALL_DIR}/asc/include/aicpu_api -c -o hello_world.aicpu.o bisheng --npu-archdav-2201 main.asc -c -o main.asc.o bisheng hello_world.aicpu.o main.asc.o -o demo上文我们通过一个入门示例介绍了使用bisheng命令行编译生成可执行文件的示例。除此之外使用bisheng命令行也支持编译生成AI CPU算子的动态库与静态库用户可在asc代码中通过内核调用符...调用AI CPU算子的核函数并在编译asc代码源文件生成可执行文件的时候链接AI CPU动态库或者静态库注意若单独编译AI CPU算子代码生成动态库、静态库时需要手动链接表2。编译生成算子动态库# 编译test_aicpu.cpp生成算子动态库 # -lxxx表示默认链接库 # bisheng -shared -x aicpu test_aicpu.cpp -o libtest_aicpu.so -lxxx ...编译生成算子静态库# 编译test_aicpu.cpp生成算子静态库 # -lxxx表示默认链接库 # bisheng -lib -x aicpu test_aicpu.cpp -o libtest_aicpu.a -lxxx ...AI CPU算子常用编译选项AI CPU算子常用的编译选项说明如下选项是否必需说明-help否查看帮助。-x否指定编译语言。指定为aicpu时表示AI CPU算子编程语言。-o file否指定输出文件的名称和位置。-c否编译生成目标文件。-shared--shared否编译生成动态链接库。-lib否编译生成静态链接库。-g否编译时增加调试信息。-fPIC否告知编译器产生位置无关代码。-O否用于指定编译器的优化级别当前支持-O3-O2-O0。--cce-aicpu-L否指定AI CPU Device依赖的库路径。--cce-aicpu-l否指定AI CPU Device依赖的库。CMake方式编译项目中可以使用CMake来更简便地使用毕昇编译器编译AI CPU算子生成可执行文件、动态库、静态库或二进制文件。仍以通过bisheng命令行编译中介绍的Hello World打印样例为例除了代码实现文件还需要在工程目录下准备一个CMakeLists.txt。├── hello_world.aicpu // AI CPU算子核函数定义 ├── main.asc // AI CPU算子核函数调用 └── CMakeLists.txtCMakeLists.txt内容如下cmake_minimum_required(VERSION 3.16) # 1、find_package()是CMake中用于查找和配置Ascend C编译工具链的命令 find_package(ASC REQUIRED) find_package(AICPU REQUIRED) # 2、指定项目支持的语言包括ASC、AICPU和CXXASC表示支持使用毕昇编译器对Ascend C编程语言进行编译AI CPU表示支持使用毕昇编译器对AI CPU算子进行编译 project(kernel_samples LANGUAGES ASC AICPU CXX) # 3、使用CMake接口编译可执行文件 add_executable(demo hello_world.aicpu main.asc ) #4、由于存在ASC与AI CPU语言需要指定链接器 set_target_properties(demo PROPERTIES LINKER_LANGUAGE ASC) # 指定链接使用语言 target_compile_options(demo PRIVATE # --npu-arch用于指定NPU的架构版本dav-后为架构版本号 # COMPILE_LANGUAGE:ASC:表明该编译选项仅对语言ASC生效 $$COMPILE_LANGUAGE:ASC:--npu-archdav-2201 )各产品型号对应的架构版本号请通过对应关系表进行查询。如果需要CMake编译编译生成动态库、静态库下面提供了更详细具体的编译示例编译.cpp文件生成动态库# 将.cpp文件置为ASC属性启用Ascend C语言进行编译 set_source_files_properties( add_custom_base.cpp sub_custom_base.cpp PROPERTIES LANGUAGE ASC ) # 将.cpp文件置为AICPU属性支持AI CPU算子编译 set_source_files_properties( aicpu_kernel.cpp PROPERTIES LANGUAGE AICPU ) add_library(kernel_lib SHARED add_custom_base.cpp sub_custom_base.cpp aicpu_kernel.cpp # 支持AI CPU算子与AI Core算子一起打包为动态库 ) target_compile_options(kernel_lib PRIVATE $$COMPILE_LANGUAGE:ASC:--npu-archdav-2201 ) # AI CPU算子编译时需要手动链接以下依赖库若指定链接语言为ASC时不需要手动链接以下库 target_link_libraries(kernel_lib PRIVATE ascendc_runtime profapi unified_dlog ascendcl runtime c_sec mmpa error_manager ascend_dump ) add_executable(demo main.asc ) target_link_libraries(demo PRIVATE kernel_lib )编译.asc文件与.aicpu文件生成静态库# .asc文件会默认启用Ascend C语言进行编译.aicpu文件会默认启用AICPU语言进行编译不需要通过set_source_files_properties进行设置 add_library(kernel_lib STATIC add_custom_base.asc sub_custom_base.asc aicpu_kernel.aicpu # 可支持AI CPU算子与AI Core算子一起打包为静态库 ) target_compile_options(kernel_lib PRIVATE $$COMPILE_LANGUAGE:ASC:--npu-archdav-2201 ) add_executable(demo main.asc ) target_link_libraries(demo PRIVATE kernel_lib )【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考