当您将模拟计算的优点应用于 ML 时会发生什么?据 Aspinity 称,这种芯片可将系统功耗降低多达 95%。
在为像 TinyML 这样的应用程序寻求更节能的计算时,正在开发的更有前途的技术之一是模拟计算。如果处理得当,模拟可以带来更节能的计算,从而为边缘计算节省大量能源。
今天,模拟计算公司 Aspinity 发布了新的模拟 TinyML 芯片 AML100,成为头条新闻。
Aspinity 称 AML100 是“世界上第一款模拟 ML 芯片”。 该公司声称,其新产品是业界第一个也是唯一一个“完全在模拟域内”运行的 TinyML 解决方案,其结果是为边缘应用节省了能源。该公司在模拟计算市场上有着开创性的记录,两年前发布了具有“选择性听力”功能的 ML 模拟芯片。
All About Circuits 有机会与 Aspinity 的创始人兼首席执行官 Tom Doyle 交谈,以直接了解新产品。
Aspinity 对传统模拟计算的改进
今天的大多数模拟计算解决方案在很大程度上仍然存在于数字领域。数据(权重)存储在数字域中,但使用 DAC 转换回模拟量以进行计算。
当尝试在诸如始终在线唤醒字检测等应用中实现低功耗时,这种从原生模拟到数字、再到模拟的持续数据转换可能会限制原始模拟计算提供的节能效果。
“许多利用‘模拟’和‘模拟计算’这个词的人通常试图解决数字领域内的问题,”Doyle 说。“如果你阅读他们的网站并深入挖掘,你会发现他们实际上是数字域处理器,这意味着他们实际上是在使用数字数据。他们试图用模拟做的是通过在内存中进行模拟计算来实际节省数字内核中的功率。这很棒,我们都支持它,但它非常有限。”
Aspinity 的永远在线架构与传统计算的对比。 Aspinity 的 AML100 采用了不同的方法。Doyle 解释说:“相反,我们能够将机器学习能力从数字领域直接转移到模拟领域。我们能够分析来自本机模拟的原始传感器数据,然后我们能够关闭 ADC 和数字处理器。”
通过这种方式,AML100 保留数据并完全在模拟域中执行 AI/ML 计算。由于工程师现在可以在检测到重要数据之前将数字组件保持在低功耗模式,因此这可以节省整体系统功耗,同时最大限度地减少总数据量,从而消除数字化、数字处理和无关数据传输的功耗损失。
Aspinity AML100
据介绍,Aspinity 的新 AML100 芯片利用这种新架构为客户提供显着的节能效果。
该芯片的模拟计算基于一组独立的、可配置的模拟模块 (CAB),每个模块都可以在软件内完全进行现场编程,从而实现广泛的功能、传感器输入和应用。在这些 CAB 的更深处,人们会发现模拟非易失性存储器阵列以及模拟信号处理模块。该芯片还利用专有的模拟压缩技术,允许预卷收集和唤醒词检测等应用的准确性。
AML100 的框图。 Aspinity 还表示,该芯片支持多种模型架构和机器学习应用。
“在我们对唤醒词检测等应用的大多数测试中,我们发现 AML100 使用了大约四分之一的可用资源,”Doyle 解释说。“我们发现有大量剩余资源,这表明如果需要,我们可以切实支持各种模型和新的 ML 架构。”
总体而言,据说该芯片在执行始终开启感应时消耗不到 20uA。据 Aspinity 称,AML100 使工程师始终在线的系统功耗降低了 95%。
切割数据和功率
虽然市场上存在其他模拟解决方案,但 Aspinity 声称其方法是新颖的——它带来了可衡量的好处。AML100 据称可将数据减少多达 100 倍,同时节省多达 95% 的电力,可能会对边缘计算和 TinyML 世界产生显着影响。