跳到主要内容

Synaptics Coralboard™ SL 与 Raspberry Pi 5 对比:如何选择适合边缘 AI 的开发板

· 阅读需 14 分钟
Maclain Lobdell
Maclain Lobdell
Embedded AI @ Synaptics

本文对比的是公开发布的规格参数。Synaptics 与 Raspberry Pi Ltd. 无任何关联。Raspberry Pi 是 Raspberry Pi Ltd. 的商标。

Coralboard™ 系列是与 Google Research 合作、面向采用 Coral NPU 技术的产品而打造的边缘 AI 开发套件家族,旨在让开发者更轻松地进行高能效 AI 产品的原型开发。Synaptics 近期推出了该系列的首款套件——Synaptics Coralboard™ SL。许多开发者都熟悉 Raspberry Pi 5,在评估一款新开发板时,它自然是一个参照对象。那么,全新的 Coralboard SL 与市场上最受欢迎的通用单板计算机相比表现如何?请继续阅读,一探究竟!

太长不看版​

Synaptics Coralboard SL 以能效和成本效率为核心,并且基于一个从第一天起就可直接量产的平台。它的设计理念很简单:通过优化每瓦每美元的性能,将真正的 AI 能力带到低功耗、电池供电的设备中。在纯速度基准测试中,它未必能在每一项上都胜过 Raspberry Pi 5 这样的通用开发板,但其节能优势非常可观——正如下文数据所示,往往能达到数倍之多。

Synaptics Coralboard SL 与 Raspberry Pi 5 概览​

下面我们来看看 Coralboard SL 与 Raspberry Pi 5 的相同点与不同点。

定位​

两者面向的任务不同。Raspberry Pi 5 是一台通用的 Arm Linux 计算机,拥有庞大的软件和 HAT 生态,但没有片上 AI 加速器。Coralboard 则专为边缘 AI 的高能效和量产就绪而打造。

处理器(片上系统)​

Coralboard SL 基于 Synaptics Astra SL2619,这是一款双脑架构 SoC,将应用级处理器核心与专用实时核心以及片上 NPU 结合在一起。Raspberry Pi 5 基于 Broadcom BCM2712,这是一款没有片上 NPU 的通用应用处理器。

Coralboard SL (SL2619)
Astra SL2619
  • 双核 Arm® Cortex®-A55,主频 2 GHz
  • Arm Cortex-M52 核心,用于实时/低功耗运行与休眠模式
  • Mali G31 GPU
  • 1 TOPS NPU(采用 Coral 技术)
  • 2 通道 MIPI 摄像头 / 4 通道 MIPI 显示接口
  • 典型运行功耗 < 500 mW(在 A55 核心上运行)
  • 典型运行功耗 < 50 mW(在 M52 核心上运行)
Raspberry Pi 5 (BCM2712)
Raspberry Pi 5 SoC
  • 四核 Arm® Cortex®-A76,主频 2.4 GHz
  • 无专用实时/微控制器核心
  • VideoCore VII GPU
  • 无片上 NPU(可选配 AI HAT+ 扩展板,见下文)
  • 2 个 4 通道 MIPI 摄像头/显示接口
  • 实测典型功耗约 2W,电源预算最高 25W

尺寸​

Raspberry Pi 5 采用标准 Raspberry Pi 板型(85mm x 56mm),比小巧的 Coralboard 更大。

Coralboard SL
Coralboard Size
Raspberry Pi 5
Raspberry Pi 5 Size

功能差异​

功能Coralboard SL 2GBRaspberry Pi 5
内存2 GB DDR4(更多选项即将推出),见说明最高 16 GB LPDDR4X
存储micro-SDmicro-SD PCIe 2.0 x1
USB1 x USB22 x USB3 2 x USB2
有线网络USB 网络千兆以太网
无线网络扩展 Wi-Fi 6E 与蓝牙 5.3 模块板载 Wi-Fi 5 与蓝牙 5.0
触摸显示屏MIPI DSIMIPI DSI
HDMI扩展 micro-HDMI双 micro-HDMI
摄像头MIPI CSI 或 USBMIPI CSI 或 USB
麦克风带 PDM 麦克风的扩展模块或 USB扩展模块或 USB
音频输出I2S 或 USB扩展模块或 USB
GPIO20 针排针、MikroBus、QWIIC40 针排针
Linux基于 Yocto Project 的 Astra SDKRaspberry Pi OS
RTOSZephyr / FreeRTOS不适用

AI 加速、模型与模型优化​

Coralboard SL 专为高能效边缘 AI 而打造,片上集成 Torq AI 引擎,无需额外硬件即可直接在 SL2619 上卸载并加速模型推理。Torq AI 引擎采用 Coral NPU 技术,可加速多种类型的模型,包括视觉、音频以及基于 Transformer 的 LLM。你可以使用 PyTorch、ONNX、JAX 和 TFLite/LiteRT 等主流框架的模型,并通过基于开源行业标准 MLIR / IREE 的 Torq 编译器进行优化。阅读更多

Raspberry Pi 5 没有片上 NPU。AI 加速需通过官方 Raspberry Pi AI Kit / AI HAT+ 扩展实现,它使用经由 Pi 5 PCIe 接口连接的 M.2 模块(最高约 26 TOPS)。这能提供更高的峰值吞吐量,但它是一个独立模块,有自己的 SDK、功耗和成本。见下文

电池供电运行​

Coralboard SL 配有专用的电池电源输入接口,兼容带 JST-PH 2.0 接头的 3.7V 锂聚合物电池。Raspberry Pi 5 只有一个用于 RTC 纽扣电池的小接口;若要用电池为开发板本身供电,需要额外的 UPS/电池 HAT 为其 USB-C 电源输入供电。

能效​

两个平台都支持动态电压频率调节(DVFS),可根据当前负载调节时钟和电压。Coralboard SL 的基础功耗明显更低,这既得益于其低功耗 SoC,也因为板上元器件更少。

此外,其 SL2619 双脑架构允许 Arm Cortex-A55 应用核心完全断电,而片上的 Arm Cortex-M52 核心以约 50 mW 的功耗保持运行,处理日常维护任务并等待唤醒事件。Raspberry Pi 5 的 BCM2712 没有类似的片上监控核心。

基准测试​

为了了解两个平台的对比情况,我们测量了以下场景。有关功耗和性能测量方式的更多信息,请参阅下文的基准测试详情。

备注

这些结果旨在说明特定测试条件下各平台之间的相对差异,不作为官方性能或功耗规格。如需权威数据,请查阅各处理器的数据手册。

基础功耗​

在运行任何高级应用之前,我们先测量了系统空闲时的整板功耗。为准备此项测量,我们拔掉了所有线缆(电源和串口除外),并关闭了显示、网络服务和 Wi-Fi。待功耗稳定后,测得以下结果。

基准测试结果Coralboard SL 2GBRaspberry Pi 5
基础功耗(整板)0.56 W1.90 W
基础功耗结果

Coralboard SL 的空闲基础功耗仅为 Raspberry Pi 5 的 30%。对于常开或电池供电的设计,空闲功耗往往比推理峰值功耗更重要。

目标检测​

我们使用 YOLOV8n 测试了目标检测。基准测试应用从 USB 摄像头视频流中检测 COCO 数据集中的物体。

我们在 **Coralboard SL 2GB(Astra SL2619)**上使用 NPU 测试了模型推理,并在 Raspberry Pi 5 2GB 上测试了 2 个 CPU 和 4 个 CPU 两种配置。测量的是整板功耗。为聚焦于 AI 模型的执行效率,我们减去了基础功耗。

  • 性能与功耗

目标检测结果

乍一看,Raspberry Pi 5 的纯速度更高(102 FPS 对 74 FPS)。但请注意达到这一性能需要多少功耗。对于重视能效的应用,应当考虑每单位能量能获得多少性能。

  • 每焦耳推理次数

每焦耳推理次数

现在可以清楚地看到,搭载 Astra SL2619 及 Torq NPU 的 Coralboard SL 在能效方面表现出色,每单位能量完成的工作量是对手的 2.6 倍以上。与此同时,它仍能达到 74+ 帧每秒(FPS)。请参阅下文关于 FPS 的说明。

目标检测结果

与 Raspberry Pi 5 相比,Coralboard SL 的每焦耳推理次数达到 2.6 倍,同时仍能维持 74 FPS。

大语言模型(LLM)​

接下来我们测试了 Gemma3 270M LLM。这是 Google 推出的开放权重模型,主要面向端侧部署和聚焦的特定任务。它可用于多种语言相关任务,甚至简单的智能助手。

同样,我们在 **Coralboard SL 2GB(Astra SL2619)**上使用 NPU 测试了模型推理,并在 Raspberry Pi 5 2GB 上测试了 2 个 CPU 和 4 个 CPU 两种配置。同样测量整板功耗,并减去基础功耗以聚焦于 AI 模型的执行效率。

此外,我们还测试了该模型不同量化级别的多个变体,包括 int4、int8、bf16 和 fp32。不出所料,量化程度越高,模型的能效和内存效率就越高。不过,Coralboard SL 与 Raspberry Pi 5 之间的相对性能非常接近。以下对比聚焦于量化最激进的模型——int4。

  • 性能与功耗

LLM 结果

同样,Raspberry Pi 5 的速度更高(41 tok/sec 对 15 tok/sec)。但 Coralboard SL 的节能幅度同样巨大。我们来看看每单位能量的性能。

  • 每焦耳推理次数

每焦耳推理次数

搭载 Astra SL2619 和 Torq NPU 的 Coralboard SL 再次成为能效最高的平台,测试中每焦耳(瓦秒)完成 1.17 次推理,而 Raspberry Pi 5 的最佳配置为每焦耳 0.7 次。

  • 内存占用

那么内存占用呢?我们检查了每种测试配置所需的峰值内存。

LLM 内存

得益于 Torq 编译器和运行时带来的模型优化,在 Astra SL2619 上运行的模型在测试中所需内存最少。

大语言模型结果
  • 与 Raspberry Pi 5 相比,Coralboard SL 每单位能量完成的工作量达到 1.7 倍,同时仍能达到约 15 tokens/秒,快于人类语速(约 3 tok/sec)和舒适阅读速度(约 5 tok/sec)。
  • 此外,Coralboard 的内存效率高出约 19%。

更多信息请参阅下文的基准测试详情。

模块化与可扩展性​

两款开发板都提供了从原型到量产的路径。Coralboard SL 的设计可扩展至用于量产设计的 Grinn AstraSOM-261x 系统级模块(见下文)。Raspberry Pi 5 的量产路径是 Raspberry Pi Compute Module 5(CM5),它在 SO-DIMM 式模块中搭载相同的 BCM2712 SoC,可用于定制载板。

走向量产​

Synaptics Coralboard SL 2GB 的设计基于 Grinn AstraSOM-261x,这是一款可直接量产的系统级模块(SoM)。在量产系统中采用 SoM 可大幅降低设计复杂度。更多信息请访问 Grinn AstraSOM-261x 产品页面。Raspberry Pi 生态中对应的量产路径是 Raspberry Pi Compute Module 5,专为大规模集成到定制载板而设计。

总结​

Raspberry Pi 5 和 Coralboard SL 其实并不是在争夺你桌上的同一个位置。当你需要通用计算能力、广泛的 HAT 和软件生态以及灵活的内存/存储选项时——尤其是在功耗预算并非首要限制的项目中——Raspberry Pi 5 是不错的选择。而 Coralboard SL 则专为另一端而打造:将真正的 AI 负载——视觉、音频,甚至基于 Transformer 的 LLM——装进低功耗、通常由电池供电的设备中,凭借片上 NPU 和双脑架构,以远低于 Pi 空闲功耗的代价持续监听唤醒事件。

想了解更多?​

附加信息​

说明​

  • AI HAT - Raspberry Pi 5 兼容扩展神经网络加速器(AI HAT+ 和 AI HAT+2)。它们能提升 AI 处理性能,但会带来可观的额外成本以及更高的功耗。为保持成本和能耗的可比性,我们有意没有测试 AI HAT。

  • DRAM 内存 - 更多内存可以提升性能,但同样会增加成本(尤其是在近期内存价格飙升的情况下)。更多内存也意味着更高功耗。同样为了保持可比性并聚焦于能效,我们测试的两个平台均为 2 GB 版本。

  • FPS:这里的 FPS 仅衡量推理吞吐量——基于每帧的模型计算时间——而非端到端的摄像头采集速率,后者受摄像头自身帧率限制(约 30)。那么,你真正需要多少 FPS?更快意味着在等待下一帧到来时可以处理其他事情。是否真的需要,取决于具体应用。

基准测试详情​

功耗测量设置

  • 使用 USB Type-C 功率分析仪测量整板输入功耗。功耗数据包含微处理器、内存和外设芯片。
  • 将测得功耗减去基础功耗,得到执行推理所需的净功耗。
  • 能量按功耗乘以完成推理所需时间计算。
  • 关闭了显示和网络等未使用的服务以降低功耗。

目标检测测试

  • 目标检测测试使用 USB 摄像头。
  • 模型经训练可识别 COCO 物体。
  • 运行时
    • 在 CPU 上运行使用 LiteRT/TFLite
    • 在 NPU 上运行使用 Torq/IREE

LLM 测试

  • 使用 10 个问题进行了简单测试。
  • 所有测试的结果均经过交叉核对。模型回答略有差异,但均符合事实。
  • 运行时
    • 在 CPU 上运行使用 llama.cpp/GGUF
    • 在 NPU 上运行使用 Torq/IREE

测试软件

  • Astra SDK(Yocto Linux)v2.5
  • Torq 编译器与运行时 v2.3

测试硬件

  • Coralboard SL 2GB(Google I/O 版)
  • Raspberry Pi 5 2GB

代码

基准测试所用代码使用 Python 实现,并已发布至此代码仓库。

Google 和 Coralboard 是 Google LLC 的商标。Raspberry Pi 是 Raspberry Pi Ltd. 的商标。