AIOpenEuler/AIHost-turbo API完全指南20个核心函数详解与应用场景【免费下载链接】AIHost-turboA high-performance acceleration library built for AI host.项目地址: https://gitcode.com/openeuler/AIHost-turbo前往项目官网免费下载https://ar.openeuler.org/ar/openEuler/AIHost-turbo是一款为AI主机打造的高性能加速库提供了丰富的API函数来优化AI任务的调度与资源管理。本文将详细介绍20个核心函数的功能、参数及实际应用场景帮助开发者快速上手并充分发挥AIHost-turbo的性能优势。一、进程与线程管理函数1. group_create创建调度组功能创建一个新的任务调度组用于对相关进程和线程进行统一管理和调度。参数name可选- 调度组名称返回值int - 调度组ID应用场景在启动AI训练任务前创建专属调度组以隔离不同任务的资源。2. group_destroy销毁调度组功能删除指定的调度组释放相关资源。参数group_id - 调度组ID应用场景AI任务完成后清理不再需要的调度组。3. group_add_thread添加线程到调度组功能将指定线程添加到调度组中进行统一管理。应用场景将AI模型推理线程添加到高优先级调度组确保推理任务的响应速度。4. group_remove_thread从调度组移除线程功能将线程从调度组中移除。应用场景当某个线程不再需要特殊调度时将其从调度组中移除。5. group_add_process添加进程到调度组功能将指定进程添加到调度组。应用场景将AI训练进程及其子进程添加到同一调度组实现资源统一调度。6. group_remove_process从调度组移除进程功能将进程从调度组中移除。应用场景进程结束或不再需要特殊调度时使用。7. thread_set_high_priority设置线程高优先级功能提升指定线程的调度优先级。应用场景为AI推理线程设置高优先级减少响应延迟。二、资源绑定与隔离函数8. process_bind_npu绑定进程到NPU功能将进程绑定到指定的NPU设备优化AI计算性能。应用场景在多NPU环境中将不同的AI任务绑定到特定NPU避免资源竞争。9. set_exclude_cpu设置排除CPU功能指定不参与调度的CPU核心。应用场景保留部分CPU核心用于系统关键任务避免被AI任务占用。10. enable_cpuset_isolate启用CPU集隔离功能启用CPU集隔离功能将CPU资源划分为不同的集合。应用场景为AI任务创建独立的CPU集提高资源利用率和任务隔离性。三、调度与管理函数11. run_affinity运行亲和性调度功能执行亲和性调度策略优化任务与CPU资源的匹配。参数dry_run可选- 若为True仅模拟调度不实际执行应用场景在AI任务启动时执行实现任务的最优CPU亲和性配置。12. print_affinity打印亲和性配置功能输出当前的CPU亲和性配置信息。应用场景调试和验证亲和性调度配置是否正确。13. restore_affinity恢复亲和性配置功能将CPU亲和性配置恢复到初始状态。应用场景AI任务结束后清理亲和性配置恢复系统默认状态。四、配置与初始化函数14. AffinityConfig.init初始化亲和性配置功能创建并初始化亲和性配置对象。应用场景在启动调度器前初始化调度相关的配置参数。15. AffinityConfig.set_exclude_cpu设置排除CPU功能在配置对象中设置需要排除的CPU核心。应用场景初始化配置时指定不参与AI任务调度的CPU。16. Scheduler.init初始化调度器功能创建调度器实例关联配置、域管理器和任务管理器。应用场景系统启动时初始化调度器核心组件。17. Scheduler.schedule执行调度功能执行调度算法为任务分配CPU资源。返回值bool - 调度是否成功应用场景定期执行或在任务状态变化时触发调度。五、示例应用函数18. add_affinity_tasks添加亲和性任务功能为AI任务添加亲和性调度相关的任务。应用场景在vLLM等AI推理框架中集成优化推理任务的资源调度。19. cmd_run运行命令功能执行调度相关的命令。应用场景通过命令行接口启动亲和性调度。20. cmd_restore恢复命令功能执行恢复亲和性配置的命令。应用场景通过命令行接口恢复系统默认配置。总结openEuler/AIHost-turbo提供了全面的API函数涵盖了从进程线程管理、资源绑定到调度策略执行的各个方面。通过合理使用这些API开发者可以显著提升AI任务的运行性能和资源利用率。建议结合examples/affinity_vllm.py等示例代码进行实践快速掌握API的使用方法。要开始使用AIHost-turbo可通过以下命令克隆仓库git clone https://gitcode.com/openeuler/AIHost-turbo然后参考项目文档进行安装和配置开启AI任务的高性能加速之旅。【免费下载链接】AIHost-turboA high-performance acceleration library built for AI host.项目地址: https://gitcode.com/openeuler/AIHost-turbo创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
AIOpenEuler/AIHost-turbo API完全指南20个核心函数详解与应用场景【免费下载链接】AIHost-turboA high-performance acceleration library built for AI host.项目地址: https://gitcode.com/openeuler/AIHost-turbo前往项目官网免费下载https://ar.openeuler.org/ar/openEuler/AIHost-turbo是一款为AI主机打造的高性能加速库提供了丰富的API函数来优化AI任务的调度与资源管理。本文将详细介绍20个核心函数的功能、参数及实际应用场景帮助开发者快速上手并充分发挥AIHost-turbo的性能优势。一、进程与线程管理函数1. group_create创建调度组功能创建一个新的任务调度组用于对相关进程和线程进行统一管理和调度。参数name可选- 调度组名称返回值int - 调度组ID应用场景在启动AI训练任务前创建专属调度组以隔离不同任务的资源。2. group_destroy销毁调度组功能删除指定的调度组释放相关资源。参数group_id - 调度组ID应用场景AI任务完成后清理不再需要的调度组。3. group_add_thread添加线程到调度组功能将指定线程添加到调度组中进行统一管理。应用场景将AI模型推理线程添加到高优先级调度组确保推理任务的响应速度。4. group_remove_thread从调度组移除线程功能将线程从调度组中移除。应用场景当某个线程不再需要特殊调度时将其从调度组中移除。5. group_add_process添加进程到调度组功能将指定进程添加到调度组。应用场景将AI训练进程及其子进程添加到同一调度组实现资源统一调度。6. group_remove_process从调度组移除进程功能将进程从调度组中移除。应用场景进程结束或不再需要特殊调度时使用。7. thread_set_high_priority设置线程高优先级功能提升指定线程的调度优先级。应用场景为AI推理线程设置高优先级减少响应延迟。二、资源绑定与隔离函数8. process_bind_npu绑定进程到NPU功能将进程绑定到指定的NPU设备优化AI计算性能。应用场景在多NPU环境中将不同的AI任务绑定到特定NPU避免资源竞争。9. set_exclude_cpu设置排除CPU功能指定不参与调度的CPU核心。应用场景保留部分CPU核心用于系统关键任务避免被AI任务占用。10. enable_cpuset_isolate启用CPU集隔离功能启用CPU集隔离功能将CPU资源划分为不同的集合。应用场景为AI任务创建独立的CPU集提高资源利用率和任务隔离性。三、调度与管理函数11. run_affinity运行亲和性调度功能执行亲和性调度策略优化任务与CPU资源的匹配。参数dry_run可选- 若为True仅模拟调度不实际执行应用场景在AI任务启动时执行实现任务的最优CPU亲和性配置。12. print_affinity打印亲和性配置功能输出当前的CPU亲和性配置信息。应用场景调试和验证亲和性调度配置是否正确。13. restore_affinity恢复亲和性配置功能将CPU亲和性配置恢复到初始状态。应用场景AI任务结束后清理亲和性配置恢复系统默认状态。四、配置与初始化函数14. AffinityConfig.init初始化亲和性配置功能创建并初始化亲和性配置对象。应用场景在启动调度器前初始化调度相关的配置参数。15. AffinityConfig.set_exclude_cpu设置排除CPU功能在配置对象中设置需要排除的CPU核心。应用场景初始化配置时指定不参与AI任务调度的CPU。16. Scheduler.init初始化调度器功能创建调度器实例关联配置、域管理器和任务管理器。应用场景系统启动时初始化调度器核心组件。17. Scheduler.schedule执行调度功能执行调度算法为任务分配CPU资源。返回值bool - 调度是否成功应用场景定期执行或在任务状态变化时触发调度。五、示例应用函数18. add_affinity_tasks添加亲和性任务功能为AI任务添加亲和性调度相关的任务。应用场景在vLLM等AI推理框架中集成优化推理任务的资源调度。19. cmd_run运行命令功能执行调度相关的命令。应用场景通过命令行接口启动亲和性调度。20. cmd_restore恢复命令功能执行恢复亲和性配置的命令。应用场景通过命令行接口恢复系统默认配置。总结openEuler/AIHost-turbo提供了全面的API函数涵盖了从进程线程管理、资源绑定到调度策略执行的各个方面。通过合理使用这些API开发者可以显著提升AI任务的运行性能和资源利用率。建议结合examples/affinity_vllm.py等示例代码进行实践快速掌握API的使用方法。要开始使用AIHost-turbo可通过以下命令克隆仓库git clone https://gitcode.com/openeuler/AIHost-turbo然后参考项目文档进行安装和配置开启AI任务的高性能加速之旅。【免费下载链接】AIHost-turboA high-performance acceleration library built for AI host.项目地址: https://gitcode.com/openeuler/AIHost-turbo创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
![[C++]内存管理：串顺序存储的内存回收](http://pic.xiahunao.cn/yaotu/[C++]内存管理：串顺序存储的内存回收)
