系统要求
NeoMind 可在桌面(macOS / Windows / Linux)或服务器上运行。以下是各部署方式的具体要求。
包大小与资源占用
下载体积(GitHub Releases)
| 产物 | 大小 | 说明 |
|---|---|---|
| 服务器二进制 (tar.gz) | ~27–30 MB | neomind + neomind-extension-runner 打包;按平台分发 |
| Web 前端 (tar.gz) | ~4.4 MB | 静态资源(HTML/JS/CSS),由后端直接服务 |
| macOS 桌面 (.dmg) | ~41 MB | Tauri 应用 — 内含后端 + 前端 + 系统 WebView |
| Windows 桌面 (.msi) | ~42 MB | |
| Linux 桌面 (.deb) | ~48 MB | |
| Linux AppImage | ~117 MB | 完全自包含 — 包含所有系统库 |
服务器总磁盘占用:~35 MB(二进制 + Web 资源)。没有 Docker 镜像层,没有 pip/npm 运行时——一个静态编译二进制 + 一组静态文件。
运行时资源占用
主进程在单个二进制中内嵌 API 服务器、MQTT Broker、redb 存储和规则引擎。扩展运行在独立进程中。
| 组件 | 内存(典型) | 说明 |
|---|---|---|
| 主进程 | 50–150 MB | Axum + MQTT Broker + redb。随设备数量和遥测量增长。 |
| 扩展进程 | 每个扩展 10–50 MB | ML 模型延迟加载(首次命令 → 加载 → 常驻)。YOLOv8n 模型激活时增加 ~50 MB。 |
| 遥测存储 | 随数据量增长 | redb 文件位于 data/telemetry.redb。每个数据点 ~1 KB。保留时间可配置。 |
NeoMind 不需要 PostgreSQL、Mosquitto、Redis 或任何其他外部服务。唯一可选的外部依赖是 LLM——内置模型本地一键下载(完全离线),也可接 Ollama 或云端 API Key。
桌面应用(推荐入门)
通过 GitHub Releases 下载安装包。
| 操作系统 | 架构 | 安装包格式 |
|---|---|---|
| macOS | Apple Silicon(arm64) | .dmg |
| Windows | x86_64 | .msi / .exe |
| Linux | x86_64 / arm64 | .AppImage / .deb / .rpm |
官方仅提供上述架构的预编译包。如需其他平台(如 macOS Intel / Windows ARM),可从源码构建。
最低硬件:
- CPU:2 核以上(建议 4 核)
- 内存:4 GB 起步;若运行本地 LLM 推荐 8 GB 及以上
- 磁盘:1 GB 安装空间 + 数据存储(见下文)
服务器部署
支持的操作系统
- Linux(x86_64 / arm64):需 glibc ≥ 2.35 — Ubuntu 22.04+ / Debian 12+ / openEuler 24.03+ / Deepin 23+ / UOS V25+;更早或未列出的发行版(CentOS 7/8、麒麟 V10、UOS V20、Alpine 等)请使用 Docker 部署
- 边缘设备(arm64):NVIDIA Jetson(Orin 系列,CUDA 运行时自动引导安装)、RK3576 等 aarch64 SBC——服务端与扩展均有 arm64 构建
- macOS:12 Monterey 及以上(开发或小规模部署)
- Windows:Windows 10/Server 2019 及以上(通过 WSL2 或原生)
硬件建议
| 场景 | CPU | 内存 | 磁盘 | 说明 |
|---|---|---|---|---|
| 轻量(仅规则 / 云端 LLM) | 2 核 | 2 GB | 10 GB | 不跑本地模型 |
| 推荐(本地 LLM) | 4 核 | 8 GB | 20 GB+ SSD | 跑 Qwen3.5-4B 等 4B 模型;3 GB 起即可跑文档推荐的 MiniCPM5-2B(1.5GB,Apache-2.0 开放许可);亦可选择 LFM2.5-2.6B(平台默认下载,注意其为 LFM 自定义许可,商用需评估条款) |
| 多设备 / 视觉管线 | 8 核 | 16 GB | 50 GB+ SSD | 多路视频流 + YOLO/OCR 扩展 |
GPU:非必需。本地 LLM 与视觉推理主推内置模型(llama.cpp 运行时)——纯 CPU 即可运行,有 GPU(CUDA / Metal / Vulkan)时自动加速;可选的 Ollama 路线行为相同(CPU 可跑、GPU 自动加速)。详细模型与内存要求见本地 LLM 与视觉推理要求。
网络端口
| 端口 | 协议 | 用途 | 可配置 |
|---|---|---|---|
| 9375 | HTTP | 后端 API + Web UI(开发模式 neomind-cli serve 默认端口) | --port / PORT 环境变量 |
| 1883 | MQTT | 内置 MQTT Broker(设备接入) | 配置文件 |
| 29375 | HTTP | 内置模型推理服务(llama-server,仅本机回环 127.0.0.1) | 配置文件 |
| 80 / 443 | HTTP(S) | 反向代理(可选,nginx) | nginx 配置 |
生产部署建议用 nginx 反向代理,对外只暴露 80/443,将 9375 / 1883 限制在内网。
运行时依赖
服务器部署无需手动安装额外依赖——安装脚本会下载静态编译的二进制。可选组件:
- Docker 镜像内置(默认):官方镜像
camthink/neomind已内置 llama.cpp 运行时与默认模型 LFM2.5-2.6B(volume 首次运行自动就位,无需下载),详见下方 Docker 部署要求 - Ollama(可选):已有 Ollama 环境时用于本地 LLM 推理。安装见 ollama.com。首次配置 LLM 后端时需拉取模型,例如
ollama pull qwen3.5:4b - Docker(可选):
docker compose up -d一键部署 - nginx(可选):生产环境反向代理 + 静态前端托管
Docker 部署要求
| 项 | 要求 |
|---|---|
| 镜像 | camthink/neomind:latest(多架构 amd64 + arm64,随发版构建) |
| 端口 | 9375(HTTP API + Web UI)、1883(MQTT) |
| 数据持久化 | volume neomind-data(挂载至容器 /app/data) |
| 本地 LLM | 镜像构建时已下载并内置 llama.cpp 运行时与默认精选模型 LFM2.5-2.6B(来自官方 HuggingFace 仓库,SHA-256 校验;构建参数可换为 Qwen3.5-4B / Gemma4-E2B 或 none 跳过);目录默认下载亦为 LFM2.5-2.6B(LFM 自定义许可,商用需评估条款),文档推荐 MiniCPM5-2B(Apache-2.0 开放许可),向导内切换一键完成(预留 4-8GB 磁盘 + 内存)。注意:volume 首次运行从镜像内容初始化,若用 bind-mount 挂载 /app/data 则跳过预置模型,改走下载 API |
边缘设备说明
- NG4500 AI Box:官方推荐的边缘主机,开箱即可部署 NeoMind 与本地模型,见 NG4500 系列文档
- NVIDIA Jetson(Orin 系列):CUDA 运行时自动引导安装,视觉管线(YOLO / DeepStream)建议 8GB+ 显存预算
- RK3576 / 树莓派 5 等 aarch64 SBC:服务端与扩展均有 arm64 构建(Ubuntu / Debian 系,glibc ≥ 2.35)。主要门槛是内存:3GB 起可跑 MiniCPM5-2B / LFM2.5-2.6B(纯 CPU),8GB 机型可上 Qwen3.5-4B;视觉推理建议选 small 档模型
- 内存紧张的设备建议:本地 LLM 用 2-3B 档模型,视觉推理与 LLM 分机部署
本地 LLM 与视觉推理要求
NeoMind 的本地推理由内置模型承担:平台自带 llama.cpp 运行时,模型从目录按需下载,推理服务自动拉起——CPU 即可运行,有 GPU(CUDA / Metal / Vulkan)时自动加速。
LLM(文本推理)
| 模型 | 体积 | 最低内存 | 上下文 | 说明 |
|---|---|---|---|---|
| MiniCPM5-2B(文档推荐) | 1.6GB | 3GB | 128K | Apache-2.0 开放许可,商用友好 |
| LFM2.5-2.6B(平台默认下载) | 1.5GB | 3GB | 128K | LFM 自定义许可,商用需评估条款 |
| Qwen3.5-4B | 2.7GB | 4.8GB | 128K | 4GB+ 内存时 agent 能力最强 |
| 其余 4 款 | — | — | 128K | Gemma4-E2B / Nanbeige4.2-3B / Ling-3.0-tiny / Spark-X2.6-4B,见后端卡片目录 |
- 磁盘预留 4-8GB(模型 + KV 缓存);上下文默认 128K,按可用内存自动封顶,长会话建议保持 ≥32K
- 模型可在 LLM 后端卡片随时切换,也支持导入自己的 GGUF(上下文上限 128K)
视觉推理(VLM,独立模型)
- MiniCPM-V-4.7-1B:0.7GB,最低 2.4GB 内存,上下文 32K——与文本模型相互独立、单独下载,首次使用视觉功能(AI Chat 上传图片 / Agent 分析相机画面)时自动拉取
- 下载正文之外还会附带 mmproj 投影文件,并拉起一个独立的视觉 companion 实例;不使用视觉功能时不占任何资源
- 与文本模型可并存:文本走 MiniCPM5-2B / LFM2.5-2.6B,视觉走 MiniCPM-V
可选的 Ollama 路线行为相同:CPU 可跑、GPU 自动加速;模型生态更广,但需自行管理安装与许可。
数据存储
NeoMind 使用嵌入式存储,无需外部数据库。数据目录默认在 data/,包含:
| 文件 / 目录 | 用途 |
|---|---|
telemetry.redb | 时序遥测数据(所有设备指标) |
sessions.redb | 用户会话 |
devices.redb / dashboards.redb / rules.redb / agents.redb | 各业务域主数据 |
messages.redb | 通知消息投递记录 |
memory/ | Agent 记忆文件(Markdown) |
skills/ | 技能定义(YAML + Markdown) |
extensions/ | 扩展二进制与配置 |
logs/ | 运行日志 |
可通过环境变量或安装脚本参数自定义数据目录(见 安装与配置)。
开发环境
从源码构建需要:
| 工具 | 版本 | 用途 |
|---|---|---|
| Rust | 1.85+(工具链锁定 1.92.0) | 后端编译 |
| Node.js | 20+ | 前端构建 |
| Ollama(可选) | 任意 | 本地 LLM(也可用内置模型或接入云端模型) |
# 后端
cargo build && cargo test && cargo run -p neomind-cli -- serve
# 桌面 / 前端
cd web && npm install && npm run tauri:dev
详见 开发指南。
LLM 后端要求
NeoMind 支持四类 LLM 后端,按部署形态选择:
- 内置模型(推荐):无需安装 Ollama 或 Docker,向导内一键下载即可。模型选型、内存与磁盘要求见本地 LLM 与视觉推理要求。
- Ollama(可选):已有 Ollama 环境时使用(默认模型
qwen3.5:4b)。需要宿主机有足够内存加载模型。 - llama.cpp(可选):自带 llama.cpp server 或直接使用内置运行时,适合自带 GGUF 模型的场景。
- 云端:OpenAI / Anthropic / Google / xAI / Qwen / DeepSeek / GLM / MiniMax 等 OpenAI 兼容端点。仅需 API Key 与出站网络。
配置方法见 配置 LLM 后端。
最后更新: 2026-10-21