跳到主要内容

2 篇文档带有标签「SLM」

查看所有标签

Astra 上的 LLM

本教程将指导你如何在 Synaptics Astra™ Machina™ 上使用 SL1680 处理器,原生运行 TinyLlama 模型,使用 llama.cpp。

交叉编译 LLM

本教程将指导你如何为 Synaptics Astra™ Machina™ 交叉编译 llama.cpp 二进制文件(在主机上构建二进制文件以用于自定义)。