diff --git a/README.md b/README.md index 18de780..84bb716 100644 --- a/README.md +++ b/README.md @@ -65,11 +65,11 @@ go build -ldflags="-s -w" -trimpath -o cyrene ./cmd/cyrene/ | 模型 | dim | 大小 | 推理内存 | 质量 | 建议 | |------|-----|------|---------|------|------| | **bge-m3** | 1024 | ~2.2GB(fp16) / ~1.2GB(Q4) | ~2–3GB | ★★★★★(跨语言最强) | ⭐ **首选**(内存充足/GPU 时) | -| **bge-small-zh-v1.5** | 512 | ~30–100MB | ~几十MB | ★★★★ | ✅ **当前开发环境采用**(内存受限,轻且稳) | +| **bge-small-zh-v1.5** | 512 | ~30–100MB | ~几十MB | ★★★★ | ✅ **资源受限环境推荐**(轻且稳) | | nomic-embed-text | 768 | ~270MB | ~400–600MB | ★★★☆ | 可 | | mxbai-embed-large | 768 | ~350–670MB | ~0.8–1GB | ★★★★ | 可 | -> **说明**:bge-m3 质量最好、跨语言首推;但本开发机**可用内存仅 ~2.9GB(无 GPU、swap 已用 12G)**,跑 bge-m3 会明显 swap、偏慢。故**开发环境用 `bge-small-zh-v1.5`**(轻、快、稳,中文/多语言够用)——质量换性能,生产/有 GPU 再上 bge-m3。 +> **说明**:bge-m3 质量最好、跨语言,**推荐内存/GPU 较充足的部署**;**资源受限环境**(低内存 / 无 GPU)建议用轻量的 **bge-small-zh-v1.5**(快、稳,中文/多语言够用)——按部署资源取舍质量与性能。 `.env` 示例(本地 Ollama): ```bash @@ -84,8 +84,8 @@ EMBEDDING_MODEL=bge-small-zh-v1.5 # 然后 EMBEDDING_API_URL=http://localhost:11434/v1 照用 ``` - **Ollama**:模型管理方便(`pull`)、开箱即用,但常驻偏重。 -- **llama.cpp**:单文件更轻(内存更省,适合本机)、可离线自制 GGUF;但模型要自己下/转(无 registry)。 -- 二者对上层代码**等价**(都是 OpenAI 兼容 embedding 端点)。本机内存吃紧时,llama.cpp 通常更划算。 +- **llama.cpp**:单文件更轻(内存更省,适合资源受限 / 单机部署)、可离线自制 GGUF;但模型要自己下/转(无 registry)。 +- 二者对上层代码**等价**(都是 OpenAI 兼容 embedding 端点);资源受限时 llama.cpp 更省内存,追求易用则选 Ollama。 ---