跳到主要内容

1 篇文档带有标签「AI 推理」

查看所有标签

Ollama

本指南讲解如何在 NVIDIA Jetson Orin 设备上安装、更新、配置和卸载 Ollama。支持本地运行 LLMs 推理,具备 CUDA 加速能力并针对 Jetson 硬件优化。