From 2d256264ec32bac875f242aab45ed37c11638bf8 Mon Sep 17 00:00:00 2001 From: Aska Date: Sun, 6 Sep 2026 10:47:48 +0800 Subject: [PATCH] =?UTF-8?q?docs(README):=20=E5=8E=BB=E9=99=A4=E7=94=A8?= =?UTF-8?q?=E6=88=B7=E4=BE=A7=E6=96=87=E6=A1=A3=E4=B8=AD=E7=9A=84=E6=9C=AC?= =?UTF-8?q?=E6=9C=BA=E5=BC=80=E5=8F=91=E7=8E=AF=E5=A2=83=E7=BB=86=E8=8A=82?= =?UTF-8?q?=EF=BC=8C=E6=94=B9=E7=94=A8=E9=80=9A=E7=94=A8/=E8=B5=84?= =?UTF-8?q?=E6=BA=90=E5=88=86=E7=BA=A7=E8=A1=A8=E8=BF=B0?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- README.md | 8 ++++---- 1 file changed, 4 insertions(+), 4 deletions(-) diff --git a/README.md b/README.md index 18de780..84bb716 100644 --- a/README.md +++ b/README.md @@ -65,11 +65,11 @@ go build -ldflags="-s -w" -trimpath -o cyrene ./cmd/cyrene/ | 模型 | dim | 大小 | 推理内存 | 质量 | 建议 | |------|-----|------|---------|------|------| | **bge-m3** | 1024 | ~2.2GB(fp16) / ~1.2GB(Q4) | ~2–3GB | ★★★★★（跨语言最强） | ⭐ **首选**（内存充足/GPU 时） | -| **bge-small-zh-v1.5** | 512 | ~30–100MB | ~几十MB | ★★★★ | ✅ **当前开发环境采用**（内存受限，轻且稳） | +| **bge-small-zh-v1.5** | 512 | ~30–100MB | ~几十MB | ★★★★ | ✅ **资源受限环境推荐**（轻且稳） | | nomic-embed-text | 768 | ~270MB | ~400–600MB | ★★★☆ | 可 | | mxbai-embed-large | 768 | ~350–670MB | ~0.8–1GB | ★★★★ | 可 | -> **说明**：bge-m3 质量最好、跨语言首推；但本开发机**可用内存仅 ~2.9GB（无 GPU、swap 已用 12G）**，跑 bge-m3 会明显 swap、偏慢。故**开发环境用 `bge-small-zh-v1.5`**（轻、快、稳，中文/多语言够用）——质量换性能，生产/有 GPU 再上 bge-m3。 +> **说明**：bge-m3 质量最好、跨语言，**推荐内存/GPU 较充足的部署**；**资源受限环境**（低内存 / 无 GPU）建议用轻量的 **bge-small-zh-v1.5**（快、稳，中文/多语言够用）——按部署资源取舍质量与性能。 `.env` 示例（本地 Ollama）： ```bash @@ -84,8 +84,8 @@ EMBEDDING_MODEL=bge-small-zh-v1.5 # 然后 EMBEDDING_API_URL=http://localhost:11434/v1 照用 ``` - **Ollama**：模型管理方便（`pull`）、开箱即用，但常驻偏重。 -- **llama.cpp**：单文件更轻（内存更省，适合本机）、可离线自制 GGUF；但模型要自己下/转（无 registry）。 -- 二者对上层代码**等价**（都是 OpenAI 兼容 embedding 端点）。本机内存吃紧时，llama.cpp 通常更划算。 +- **llama.cpp**：单文件更轻（内存更省，适合资源受限 / 单机部署）、可离线自制 GGUF；但模型要自己下/转（无 registry）。 +- 二者对上层代码**等价**（都是 OpenAI 兼容 embedding 端点）；资源受限时 llama.cpp 更省内存，追求易用则选 Ollama。 ---