3 篇文档带有标签「AI 推理」

本指南讲解如何在 NVIDIA Jetson Orin 设备上安装、更新、配置和卸载 Ollama。支持本地运行 LLMs 推理，具备 CUDA 加速能力并针对 Jetson 硬件优化。

在 NE503 上部署一个真实的 AI 推理应用 Person Detection，掌握 Python SDK 调用、模型与视频流发现、权限配置与 Web 控制台验收。

把 YOLOv8 目标检测部署到边缘设备的第一个 AI 推理扩展——模型懒加载、ONNX Runtime 动态库治理、能力化设备取流的完整工程剖析