“写一次，运行每端”，高通发布AI软件栈。

整理|苏米
| csdn (ID: csdnnews)
“编程一次，到处跑”的梦想，我们从编程语言Java说起跨平台工具Flutter，探索操作系统鸿蒙系统和Fuchsia。现在逐渐看AI领域的规模，有没有一套这样的解决方案，可以把所有的智能网联边缘设备串起来？
6月22日，高通宣布推出一套全新的AI软件栈(高通AI Stack)，旨在帮助开发者和企业实现“一次开发，两端运行”的愿景。这个软件栈是面向OEM厂商和开发者的一整套AI解决方案。这也是高通首次通过单一的人工智能软件组合，实现了广泛的产品组合和高通技术水平的自由迁移。
涵盖硬件、软件、工具三个维度，高通AI软件栈发布！
如今，随着数字经济时代的到来，开发者使用的底层工具发生了巨大的变化，一些传统的跨平台工具已经不足以支撑整个领域的迭代。
高通技术公司产品管理副总裁Ziad Asghar在接受CSDN采访时表示，开发这种软件堆栈的原因非常简单。“从外部来看，很多合作伙伴的产品不仅会运行在云端，还会运行在边缘端。对于一些在开发上投入了大量工作的模型，我们希望确保这些模型能够发挥到极致，适用于不同类型的产品，这显然能够带来巨大的优势。对于高通来说，推出高通AI软件栈的出发点其实很简单，就是为了让我们的开发工作更轻松简单。”
具体来说，围绕AI技术，在市场不断从移动领域扩展到其他领域的时候，很多企业也面临着很多挑战。比如过去流行的智能手机应用开发，和现在的物联网、汽车业务相比，有很多不同。不同场景下的用电需求分析、模型类型、模型部署方式不同，不同业务对精度、功耗、时延的平衡要求也不同。此外，不同业务领域使用的AI模型和神经网络模型也有所不同。
在软硬件一体化的趋势下，今天，高通用AI软件栈交上了一份答卷。根据官方介绍，高通AI软件栈主要包括三个关键组件：硬件、软件和工具。
在硬件方面，我们非常惊讶地看到，这一解决方案几乎可以运行在高通科技支持的所有终端产品上，涵盖智能网联的广泛边缘产品，包括智能手机、汽车、XR、计算、物联网和云平台，使一个业务线的投资可以轻松扩展到其他不同领域。
从下图可以清楚的看到，在从底层到前端的开发过程中，高通AI软件栈也支持不同产品使用的不同操作系统，包括Android、Windows、Linux、网联汽车QNX。在系统软件层面，该方案可以全面支持系统接口、加速器驱动、仿真支持等。
在更高层次的开发者库和服务上，高通AI软件栈还支持数学库、编译器和虚拟平台，以及分析器和调试器，可以帮助开发者了解开发过程中使用了神经网络处理的哪个部分，这部分神经网络处理使用了哪个模型，在硬件端应该使用什么样的权重进行分析。
此外，该程序可以支持编程语言和核心库。上面提到的编译器可以针对具体内容进行定制，Python只需要几行代码就可以做更多的工作，这为开发者提供了很多便利。
除了以上，这套AI软件栈解决方案还整合了高通在AI领域十余年的研发成果，如支持高通AI模型增强工具包(AIMET)，提供模型量化和模型压缩技术，实现量化感知训练和无数据训练，将浮点运算模型转换为整数运算模型，如将32位浮点模型转换为8位整数模型，使模型能效提升高达4倍；还提供了开源的AI model efficiency toolkit模型库，方便行业开发者自行评估模型的能效和精度，找到最合适的方案；同时，高通AI软件栈还提供神经网络架构搜索(NAS)能力，以确保低延迟和高精度的AI计算，同时确保低内存和高能效。
在基础架构上，我们常用的Prometheus，Kubernetes，Docker都是支持的。
在使用中，OEM厂商和开发者将获得高通AI软件栈，该软件栈可以通过单个AI软件包实现更高的性能，并解锁智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品的AI能力。基于此，无论是企业还是个人开发者，都可以将工作重点放在探索创新的AI用例上，而无需关注模型的重复开发。
如何实现一个开发，两头跑？
同时，高通还提供了很多统一的SDK，如面向汽车ADAS解决方案的骁龙Ride SDK、面向物联网的高通智能多媒体SDK、骁龙Spaces XR开发者平台等。
要真正实现one development的愿景，高通整合了所有相关技术，让高通提供的统一模型可以实现跨平台、跨产品线的自由迁移，无论是在音频设备、可穿戴设备还是云端。
现在开发者只需要开发一次，开发成果就可以用在其他产品线。此外，基于高通AI软件栈，许多企业还可以实现不同产品和平台之间的扩展。比如上面提到的，将移动端的相关开发经验应用到汽车等其他平台的软件开发中，也可以将汽车、XR等当今平台的复杂车型开发经验带回移动端。
对此，高通技术公司产品管理副总裁Ziad Asghar表示：“高通AI软件栈的完整产品组合无疑是一个巨大的突破，将促进OEM厂商和开发者的AI发展，并为高通技术公司广泛的产品组合带来高性能。我们很高兴通过这一新产品组合进一步扩展公司的统一技术路线图，并扩大我们在智能网络领域的领先优势。”
实现1亿技术人