Silicon Labs 和 Eta Compute 简化边缘 ML 开发
人工智能 (AI) 是当今热门的流行语。如果不至少提到一次 AI,任何与技术相关的对话都是不完整的。这就是它对我们生活各个方面的影响。再加上另一个相关的词“机器学习”(ML),它正在彻底改变一切,小到总结日常会议,大到揭秘复杂的蛋白质结构。这些功能需要付出相当大的代价,包括其消耗的巨大电力、为进行训练而对数据的依赖,以及随着网络犯罪分子变得更加老练而产生的内在安全风险。这就是微型边缘上的 AI/ML 发挥作用的地方。
微型边缘是在最接近数据源的小型资源受限设备上对计算和数据处理功能的部署。这些设备,通常是处理能力和内存有限的传感器或微控制器,在本地执行操作,而不是依赖云计算。微型边缘支持在这些小型设备上运行 ML 模型,能够直接进行实时决策和数据分析,从而降低与数据传输和云存储相关的成本。这种方法对于需要低延迟、低能耗、增强隐私保护和低带宽利用率的应用特别有用。
Eta Compute 支持微型边缘上的 ML
Eta Compute 是一家硅谷初创公司,其使命是采用解决方案克服 AI 快速发展的格局与嵌入式系统的独特挑战之间的差距,从而实现微型边缘上的机器学习和创新。在 ML、物联网和系统设计专家团队的推动下,Eta Compute 了解在资源受限的边缘设备上部署 ML 模型的挑战。
Eta Compute 的 Aptos 是一款革命性的无代码软件工具链,专为嵌入式推理而设计。Aptos 旨在简化边缘 ML 模型开发,可加快创建为低功耗边缘处理器量身定制的高效模型。
Aptos 对 ML 工具采取了一种独特的新方法——它本身就基于 ML 技术。这些内部 ML 模型使 Aptos 能够自动学习嵌入式处理器的 ML 功能和性能特征。通过利用这些见解并提取硬件细节,Aptos 使产品开发人员能够将其领域和用例专业知识专注于创建出色的边缘 ML 产品,而不会纠结于数据科学、芯片优势/劣势、神经网络编译器和资源限制的细节。
Silicon Labs 和 Eta Compute 合作关系助力开发高级边缘 ML 嵌入式产品
Silicon Labs 很高兴地宣布与 Eta Compute 建立合作伙伴关系,这将支持产品开发人员将高级 ML 功能无缝集成到其边缘 ML 嵌入式产品中。
Silicon Labs 长期以来一直以物联网、汽车、医疗保健、工业和消费品的低功耗解决方案创新而闻名。我们的解决方案将高效的微控制器和无线连接与嵌入式推理的新功能相结合。如果开发人员希望为产品添加 ML 功能,这种技术领先地位将使我们成为其首选合作伙伴。然而,产品开发人员将最佳 ML 技术引入其边缘 ML 嵌入式产品的过程面临着困难。一个挑战是资源——很难找到并留住既具有 ML 专业知识又了解低功耗硅严格要求的“独角兽”工程师(与 ML 专家通常使用的云环境相比)。因此,针对受限嵌入式系统建立和优化 ML 模型就成为一个巨大的挑战。
另一个挑战是成功采用具有嵌入式 ML 功能的快速发展的新型硅。如果使用传统方法,描述新推理芯片的特性将需要熟练的 ML/嵌入式专业人员投入大量的精力来详细探索和理解每个新芯片的神经网络能力,以便正确地利用其优势并绕过不可避免的嵌入式限制,例如内存量或缺少对特定 ML 操作的支持。
传统 ML 流程的这些挑战将导致一个漫长的产品开发周期,充满了迭代过程。许多产品仍然停留在概念验证实验中,无法实现批量生产。
与 Eta Compute 的合作使得 Aptos 可以在 Silicon Labs 解决方案(包括 EFR32xG24 和 EFR32xG26)上接受训练。Aptos 对这些芯片的支持使其共同客户能够使用该平台轻松创建高度优化的模型,这些模型在 Silicon Labs 解决方案上运行,用于图像识别、分类、计数和人体姿态检测等边缘 ML 视觉任务。
Aptos 自动生成针对所选芯片的最佳 ML 模型并描述其特性。Aptos 支持的初始 Silicon Labs 芯片是 EFR32xG24 和 EFR32xG26。一旦通过指定目标和限制(例如模型准确性、延迟和功耗要求)并使用训练和验证数据集来定义 Aptos 要解决的 ML 问题,Aptos 就会应用其对各个 Silicon Labs SoC 和编译器的知识来自动生成模型。Aptos 还根据实际硬件开发套件自动对这些模型描述特性,因此可以保证 Aptos 报告的指标确实能够在您自己的 Silicon Labs 硬件上实现。
Eta Compute 开发了 Aptos,以帮助公司实现 Edge-AI/ML 的巨大潜力。此项合作旨在克服将边缘 ML 产品从概念验证实验引入批量生产过程中的挑战,包括解决 ML 和嵌入式软件世界之间的巨大差距以及客户可能遇到的资源、时间表和专业知识限制。
在未来的博客中,我们将有更多关于 Aptos 与 Silicon Labs 解决方案结合使用的详细信息,同时,您可以点击此处观看 Aptos 的现场演示和导览,或者注册免费试用,以生成针对 Silicon Labs 解决方案的优化 ML 模型。