为各地的人工智能开发人员提供无缝性能加速
为了抓住人工智能的机遇,开发人员需要获得最快的人工智能部署方法,并为要求最苛刻的下一代工作负载提供最佳性能。Arm Kleidi 的灵感来自希腊语中的 "钥匙 "一词,旨在为每个开发人员、每个模型和每个工作负载提供在 Arm 上轻松实现人工智能加速的钥匙。Kleidi 计划涵盖广泛的软件和社区参与计划,以加速人工智能。
Arm Kleidi 的第一个交付成果:Arm Kleidi 库
Arm Kleidi 计划始于我们新的 KleidiAI 和 KleidiCV 性能库--轻量级内核,旨在快速、轻松地集成到最流行的人工智能框架中。
Arm Kleidi 库是一套轻量级的高性能开源 Arm 程序,可使任何机器学习 (ML) 和计算机视觉 (CV) 框架轻松实现最佳性能,并利用最新功能在最初的 Arm Cortex-A CPU 设计中增强 AI 和 CV。这些库的设计目的是便于在 C 或 C++ ML 和 AI 框架中采用,并显著加速在其上运行的模型。
Arm Kleidi 可以帮助确保框架和编译器现在能够加速人工智能,从而使开发人员不必再这样做。
Arm Kleidi 库的功能和优势
灵活的内核组合
Arm Kleidi 为在框架上增强人工智能提供了各种灵活的内核。它为人工智能在 Arm 上的多方面发展提供了广阔的空间,从提高人工智能的能力或准确性,到实现加速或减少内存开销。
---