跳到主要内容

8 篇文档带有标签「SL1680」

查看所有标签

Astra 上的 LLM

本教程将指导你如何在 Synaptics Astra™ Machina™ 上使用 SL1680 处理器，原生运行 TinyLlama 模型，使用 llama.cpp。

Astra上的VLM

本教程将指导您如何在Synaptics Astra™ Machina™开发板上使用llama.cpp原生运行视觉语言模型（VLM）。VLM是能够理解和生成图像与文本信息的多模态AI模型。

GStreamer 推理

本教程介绍如何在视频流上运行实时推理。假设您已经熟悉 Astra 开发板的设置。如果不熟悉，请参考设置教程。

Whisper 流式处理

本教程将指导您使用 SL1680 在 Synaptics Astra™ Machina™ 开发套件上运行 whisper.cpp 来测试使用麦克风的实时语音识别。

Whisper 语音转文本

本教程将指导您在 Synaptics Astra™ Machina™ SL1680 上运行 whisper.cpp 来测试 wav 文件。

交叉编译 LLM

本教程将指导你如何为 Synaptics Astra™ Machina™ 交叉编译 llama.cpp 二进制文件（在主机上构建二进制文件以用于自定义）。