Google 这次把本地 RAG 的门槛直接打下来了。
原本要占 31GB 内存的向量索引,现在压到只要 4GB。
1000 万份文档,一台普通电脑就能跑。
更狠的是:
→ 单个向量压缩 16 倍
→ 检索速度比 FAISS 快 10%–19%
→ 不用训练
→ 不用重建索引
→ 不需要 GPU 集群
→ 全程本地运行
这意味着以后做知识库、文档搜索、个人 AI 助手,可能根本不需要昂贵的云服务。
Google 开源的不是一个小优化,而是在重新定义本地向量搜索的成本。

Google 这次把本地 RAG 的门槛直接打下来了。
原本要占 31GB 内存的向量索引,现在压到只要 4GB。
1000 万份文档,一台普通电脑就能跑。
更狠的是:
→ 单个向量压缩 16 倍
→ 检索速度比 FAISS 快 10%–19%
→ 不用训练
→ 不用重建索引
→ 不需要 GPU 集群
→ 全程本地运行
这意味着以后做知识库、文档搜索、个人 AI 助手,可能根本不需要昂贵的云服务。
Google 开源的不是一个小优化,而是在重新定义本地向量搜索的成本。

留言
NO REGISTRATION · 临时网名 + 邮箱即可开聊