Astra 上的 LLM
本教程将指导你如何在 Synaptics Astra™ Machina™ 上使用 SL1680 处理器，原生运行 TinyLlama 模型，使用 llama.cpp。
3 篇文档带有标签「llama.cpp」
查看所有标签Astra上的VLM
本教程将指导您如何在Synaptics Astra™ Machina™开发板上使用llama.cpp原生运行视觉语言模型（VLM）。VLM是能够理解和生成图像与文本信息的多模态AI模型。
交叉编译 LLM
本教程将指导你如何为 Synaptics Astra™ Machina™ 交叉编译 llama.cpp 二进制文件（在主机上构建二进制文件以用于自定义）。