Vault 常見問題

Vault 常見問題

自主知識庫 — 文件導入、嵌入向量、RAG 檢索、模型無關推理。為企業領導者提供解答,無需技術背景。

最後更新:2026-07-10

跳至章節

沒有問題符合你的搜尋。請嘗試更廣泛的關鍵字。
01 · 概覽

基本概念 — Vault 是什麼?

9 個問題

Vault 是一個自行架設的知識庫,利用 AI 協助你從文件中尋找資訊。它就像一個為公司內部知識而設的超級搜尋引擎。

運作方式如下:

  1. 你上傳文件:PDF、Word 檔案、網頁、試算表等
  2. Vault 處理文件:將文件分成小塊,建立 AI 嵌入向量(代表語意的數值)
  3. 你提出問題:「我們的退款政策是什麼?」或「顯示不競爭條款的先例」
  4. Vault 找出答案:檢索相關文件段落,並用 AI 生成簡潔的答案

與一般搜尋的關鍵分別:Vault 理解語意,而非僅靠關鍵字。即使查詢中沒有完全相同的詞彙,它也能找到相關資訊。

企業面臨知識管理難題:

  • 資訊分散各處:文件、wiki、電郵、Slack 訊息、資料庫 — 知識無處不在
  • 搜尋失靈:關鍵字搜尋忽略語境。搜尋「退款政策」不會找到「客戶退貨」,即使它們是同一回事
  • AI 工具需要將數據傳送到雲端:雲端 AI 服務(ChatGPT、Glean 等)需要將你的文件傳送到它們的伺服器 — 這對受監管行業來說是不可接受的

Vault 透過提供自行架設的 AI 驅動知識檢索來解決此問題。你的文件保留在你的基礎設施上。沒有數據離開你的伺服器。完全自主。

結果員工可在數秒內找到答案,而非花數小時。不再需要翻閱資料夾或問同事「那份文件在哪裡?」

Vault 專為受監管和數據駐留敏感的機構而設計:

  • 醫療:符合 HIPAA 的知識檢索,用於病人記錄、臨床指引、政策
  • 法律:案件檔案、先例、合約的特權文件搜尋 — 無需將數據傳送到雲端 AI
  • 金融服務:監管文件搜尋、合規知識庫、審計追蹤
  • 政府:機密文件檢索,具備完全數據主權
  • 歐盟企業:符合 GDPR 的知識管理,具備數據駐留控制

如果你有敏感文件且不能將它們傳送到雲端 AI 服務,Vault 就是你的選擇。

RAG = 檢索增強生成(Retrieval-Augmented Generation)。這是 Vault 背後的技術。

運作方式如下:

  1. 檢索:當你提出問題時,Vault 首先檢索相關文件段落(使用 AI 嵌入向量和向量搜尋)
  2. 增強:這些文件段落被增強(加入)到 AI 的上下文中
  3. 生成:AI 然後根據檢索到的上下文生成答案

為何重要:

  • 準確性:AI 根據你的實際文件回答,而非從訓練數據中幻覺
  • 可追溯:你可以看到答案來自哪些文件
  • 最新:AI 使用你最新的文件,而非過時的訓練數據
簡單比喻RAG 就像給 AI 一本參考書(你的文件),讓它在回答前查閱。它不能憑空捏造 — 必須引用來源。

主要分別:

面向ODW.ai VaultChatGPT / 雲端 AI
數據位置✅ 自行架設 — 保留在你的基礎設施上❌ 傳送到 OpenAI/Anthropic 伺服器
知識來源✅ 你的文件(RAG)❌ 訓練數據(可能過時)
準確性✅ 基於你的文件,可引用⚠️ 可能幻覺或過時
私隱✅ 完全自主❌ 數據傳送至第三方
合規✅ 兼容 HIPAA、GDPR、SOC 2❌ 可能不符合監管要求
費用免費(自行架設)或 $99-$499/月$20-$200/用戶/月

ChatGPT 是通用 AI 助手。Vault 是專為你的內部文件而設的知識檢索系統。一般問題用 ChatGPT;公司專屬知識用 Vault。

Glean 和 Onyx 是優秀的雲端 RAG 平台,但它們有不同的設計重點:

面向ODW.ai VaultGlean / Onyx
部署✅ 自行架設❌ 雲端 SaaS
數據主權✅ 完全控制❌ 數據傳送至供應商
開源✅ 核心開源❌ 專有
模型選擇✅ 模型無關(本機或 API)⚠️ 限於供應商的模型
價格免費(自行架設)或 $99-$499/月$10-$30/用戶/月
目標市場受監管的中小企一般企業

如果你沒有數據主權要求,想要託管服務,選擇 Glean/Onyx。如果你需要完全的數據控制或想自行架設,選擇 Vault。

是。Vault 的核心是開源(Apache 2.0 授權)。你可以:

  • 免費自行架設:下載、部署和使用 Vault,無需付費
  • 修改程式碼:根據你的需要自訂 Vault
  • 貢獻:提交 pull request、報告錯誤、加入社群

企業版功能(SSO、進階 RBAC、審計日誌、合規功能、優先支援)是付費的。這是我們資助開發的方式。

開源承諾我們相信透明、可審計的程式碼 — 特別是對注重數據主權的機構。你應該能夠驗證你的 AI 工具在做什麼。

「自主」意味著完全控制你的數據

  • 數據位置:你的文件保留在你的基礎設施上(本地或私人雲端)
  • 處理:所有 AI 處理(嵌入向量、檢索、生成)都在你的基礎設施上進行
  • 沒有外部依賴:沒有數據傳送至 OpenAI、Anthropic 或任何第三方(除非你選擇使用他們的 API)
  • 可審計:你可以檢查程式碼、日誌和數據流程

這對受監管行業至關重要。如果你的 AI 工具正在將文件傳送給雲端供應商,你就不能宣稱擁有數據主權。

部署方面:需要。Vault 是自行架設的,所以你需要有人能管理 Docker/Kubernetes、設定網絡和監控基礎設施。通常是 DevOps 工程師或 IT 顧問。

日常使用:不需要。管理控制台專為非技術用戶(知識管理人員、合規主任)而設計。你可以上傳文件、建立知識庫和查詢系統,無需撰寫程式碼。

開發人員:Vault 提供 REST API 和 SDK(Python、JavaScript)用於自訂整合。開發人員可以建立自訂工作流程、將 Vault 整合到內部工具等。

02 · 數據主權

文件導入與處理

8 個問題

Vault 支援多種文件格式:

  • PDF:文字型 PDF(掃描 PDF 需要 OCR — 見下方)
  • DOCX:Microsoft Word 文件
  • HTML:網頁
  • Markdown:.md 檔案
  • 純文字:.txt 檔案
  • CSV:逗號分隔值(結構化數據)
  • JSON:結構化數據

其他格式(PPTX、XLSX、電郵格式)計劃在未來版本中支援。

掃描 PDF掃描 PDF(文字圖像)需要 OCR(光學字元辨識)才能提取文字。Vault 包含基本 OCR 功能,但對於大量或複雜文件,我們建議在上載前使用專門的 OCR 工具(例如 Tesseract、Adobe Acrobat)。

Vault 分三步處理文件:

  1. 分塊:文件被分成較小的塊(通常每塊 500-1,000 字)。這使檢索更精確 — Vault 返回回答你問題的特定段落,而非整份 50 頁文件。
  2. 嵌入:每個塊使用 AI 模型轉換為數值表示(嵌入向量)。嵌入向量捕捉文字的語意 — 相似語意的嵌入向量相近。
  3. 儲存:嵌入向量儲存在向量資料庫中。當你查詢 Vault 時,你的問題也被轉換為嵌入向量,Vault 找出最相似的文件塊。

整個過程在你上傳文件時自動進行。無需手動設定。

分塊是將文件拆分成較小部分的過程。它很重要,因為:

  • 精確度:Vault 返回回答你問題的特定段落,而非整份 50 頁文件
  • 上下文窗口:AI 模型有有限的上下文窗口(一次可處理的文字量)。分塊確保每部分都在上下文窗口內
  • 效率:較小的塊檢索和處理更快

Vault 提供三種分塊策略:

  • 固定大小:塊為固定的字數(例如 500 字)。簡單、可預測。
  • 語意:塊基於語意 — 相似語意的句子被分在一起。更準確,但較慢。
  • 結構:塊基於文件結構(標題、段落、章節)。最適合結構良好的文件。
建議從固定大小分塊(預設值)開始。如果準確性不佳,切換到語意或結構分塊。

嵌入向量是文字的數值表示。它們以 AI 能理解的方式捕捉文字的語意

運作方式如下:

  • 每段文字(句子、段落或塊)被轉換為一串數字(例如 [0.12, -0.34, 0.56, ...])
  • 語意相似的文字有相似的嵌入向量(數字彼此接近)
  • 語意不同的文字有不同的嵌入向量(數字彼此遠離)

例子:

  • 「如何申請退款?」和「退貨政策是什麼?」有相似的嵌入向量(相同語意)
  • 「如何申請退款?」和「今天天氣如何?」有不同的嵌入向量(不同語意)

Vault 使用嵌入向量在你提出問題時找到相關文件塊。你的問題被轉換為嵌入向量,Vault 找出嵌入向量相似的文件塊。

可以。Vault 支援批量上傳

  • 網頁界面:拖放多個檔案或資料夾
  • API:透過 REST API 以程式方式上傳檔案
  • 連接器:從外部來源同步文件(檔案系統、S3、WebDAV、SharePoint)

對於大量文件集合(1,000+ 個檔案),我們建議使用連接器或 API。網頁界面最適合較小的上傳(10-100 個檔案)。

處理時間上傳是即時的,但處理(分塊 + 嵌入向量)需要時間。1,000 份文件預計需要 10-30 分鐘處理時間(視乎文件大小和你的硬件)。

可以。Vault 包含外部數據來源的連接器框架

  • 檔案系統:從本機或網絡驅動器同步文件
  • S3 兼容:從 AWS S3、MinIO 或其他 S3 兼容儲存空間同步
  • WebDAV:從 WebDAV 伺服器同步(例如 Nextcloud、ownCloud)
  • SharePoint:從 Microsoft SharePoint 同步(企業版)
  • Google Drive:從 Google Drive 同步(企業版)
  • 自訂:使用連接器 SDK 建立你自己的連接器

連接器可按時間表同步(例如每小時)或即時同步(透過 webhook)。

會。Vault 支援增量更新

  • 檔案變更偵測:Vault 偵測到檔案被修改時(透過檔案系統監控或連接器同步)
  • 重新處理:Vault 僅重新處理已變更的文件(而非整個知識庫)
  • 版本控制:Vault 追蹤文件版本 — 你可以看到回答查詢時使用了哪個版本的文件

這確保你的知識庫始終保持最新,無需從頭重新處理所有內容。

可以。Vault 支援多個知識庫

  • 分隔:為不同團隊、項目或文件類型建立獨立知識庫(例如「HR 政策」、「工程文件」、「法律合約」)
  • 隔離:每個知識庫有自己的文件、嵌入向量和存取控制
  • 查詢範圍:查詢特定知識庫或跨所有知識庫搜尋
  • 權限:控制誰可以存取哪些知識庫(企業版)

這對多租戶部署(例如管理多個客戶的 MSP)或有嚴格數據分隔要求的機構非常有用。

03 · 整合

方案優勢與設計

8 個問題
功能ODW.ai Vault一般替代方案
部署✅ 自行架設 — 完全自主❌ 雲端 SaaS — 數據傳送至供應商
開源✅ 核心開源(Apache 2.0)❌ 專有或有限開源
模型選擇✅ 模型無關(本機或 API)⚠️ 限於特定模型
按任務模型路由✅ 按查詢切換模型❌ 固定模型
價格免費(自行架設)或 $99-$499/月$10-$30/用戶/月
套件整合✅ 原生 ODW.ai 整合❌ 需要自訂整合
企業功能✅ SSO、RBAC、審計日誌、合規⚠️ 視乎而定

Vault 在數據主權 + 模型靈活性方面競爭。如果你需要完全的數據控制並想選擇 AI 模型,Vault 是最佳選擇。

PrivateGPT 和 Quivr 是開源 RAG 工具,但它們有不同的設計重點:

面向ODW.ai VaultPrivateGPT / Quivr
生產就緒度✅ 企業級⚠️ 實驗性 / 業餘
多租戶✅ 內建❌ 僅單用戶
存取控制✅ RBAC、文件級別權限❌ 沒有或基本
審計日誌✅ 防篡改日誌❌ 沒有
模型路由✅ 按任務模型選擇⚠️ 固定模型
支援✅ 提供付費支援❌ 僅社群

PrivateGPT/Quivr 適合實驗,但未達到企業使用的生產就緒度。Vault 專為需要可靠性、安全性和支援的受監管企業而設計。

模型無關表示 Vault 可與任何 AI 模型配合使用 — 你不會被綁定在特定供應商。

Vault 支援:

  • 本機模型:透過 Ollama、vLLM 或 llama.cpp 在你自己的硬件上運行模型(完全自主)
  • API 模型:使用 OpenAI、Anthropic、Google 或自訂端點(當你需要前沿功能時)
  • 嵌入模型:選擇任何嵌入模型(OpenAI、Cohere、sentence-transformers 等)

你甚至可以按查詢切換模型 — 簡單問題使用本機模型(快速、自主),複雜問題使用 API 模型(更強大)。

靈活性模型無關意味著你可以在更好的模型發佈時切換 — 無需更改程式碼,沒有供應商綁定。

可以。Vault 支援完全離線部署

  • 本機模型:在你自己的硬件上運行嵌入和生成模型(透過 Ollama、vLLM、llama.cpp)
  • 沒有外部依賴:Vault 的推理、嵌入向量或任何核心功能都不需要互聯網存取
  • 隔離網絡:在隔離網絡環境中部署(完全沒有互聯網存取)

這對互聯網存取受限或被禁止的政府、軍事和高安全環境至關重要。

硬件要求運行本機模型需要 GPU 硬件(建議使用 NVIDIA GPU)。僅 CPU 推理是可能的,但對大型模型來說很慢。

Vault 的檢索準確度取決於多個因素:

  • 嵌入模型:更好的嵌入模型 = 更好的檢索。我們建議使用最先進的模型(例如 OpenAI text-embedding-3-large、Cohere embed-v3)
  • 分塊策略:語意分塊比固定大小分塊更準確(但較慢)
  • 文件質量:結構良好、清晰的文件 = 更好的檢索
  • 查詢清晰度:清晰、具體的問題 = 更好的檢索

目標:≥85% MRR@10(前 10 名的平均倒數排名)。這意味著正確答案在 85% 的時間裏位於前 10 個結果中。

調優如果準確度不佳,請嘗試:(1) 切換到更好的嵌入模型,(2) 使用語意分塊,(3) 調整塊大小,(4) 改寫查詢。

可以。Vault 提供可設定的檢索策略

  • 相似度搜尋:找出最相似的文件塊(預設值)
  • 混合搜尋:結合相似度搜尋和關鍵字搜尋(BM25)。對包含特定術語的查詢更有效。
  • 重排序:在初始檢索後使用 cross-encoder 模型對結果重新排序。更準確,但較慢。
  • 元數據過濾:按元數據過濾結果(例如僅返回特定部門、日期範圍的文件等)

開發人員:Vault 的檢索管道是模組化的 — 你可以使用 SDK 編寫自訂檢索邏輯。

可以。Vault 支援多語言文件

  • 文件導入:上傳任何語言的文件(英文、中文、西班牙文、法文等)
  • 嵌入模型:使用多語言嵌入模型(例如 multilingual-e5、OpenAI text-embedding-3-large)
  • 查詢:用任何語言提問 — Vault 會檢索相關文件,無論語言

界面目前僅支援英文(v1),多語言界面計劃在 v1.1 推出。

可以。Vault 的核心是開源(Apache 2.0 授權):

  • 透明:所有程式碼在 GitHub 上公開可用
  • 可審計:你(或你的安全團隊)可以檢查程式碼是否有漏洞、後門或數據外洩
  • 可驗證:你可以驗證 Vault 做到了它所說的功能 — 沒有隱藏的遙測,沒有數據傳送至第三方

這對注重數據主權的機構至關重要。你應該能夠驗證你的 AI 工具在做什麼。

安全審計我們歡迎第三方安全審計。如果你的機構在採用 Vault 前需要安全審計,請聯絡我們 — 我們會全力配合。
04 · 安全

檢索與查詢

8 個問題

Vault 提供多種查詢方式:

  • 網頁界面:在搜尋欄中輸入問題(像 Google 一樣)
  • API:透過 REST API 發送查詢(用於自訂整合)
  • SDK:使用 Python 或 JavaScript SDK(供開發人員使用)

查詢示例:

  • 「我們的退款政策是什麼?」
  • 「顯示不競爭條款的先例」
  • 「總結第三季度財務報告」
  • 「HIPAA 對數據加密的要求是什麼?」

Vault 檢索相關文件塊並使用 AI 生成簡潔答案。你也可以查看來源文件以作驗證。

可以。Vault 提供來源引用

  • 答案:基於檢索文件的 AI 生成答案
  • 來源:用於生成答案的文件塊列表(包含文件名稱、頁碼和相關文字)
  • 信心分數:Vault 對答案的信心程度(基於檢索相似度)

這讓你可驗證答案並追溯到原始文件 — 對準確性和可審計性至關重要的受監管行業尤為重要。

如果 Vault 找不到相關文件,它會說「我不知道」,而非憑空編造。

這是 RAG 的一個關鍵功能 — AI 基於你的文件。如果資訊不在你的知識庫中,Vault 不會幻覺出答案。

你還可以設定 Vault:

  • 返回部分答案:「我找到了一些相關資訊,但不確定是否完全回答了你的問題」
  • 建議相關查詢:「我找不到答案,但你可以嘗試搜尋 X」
  • 標記待審:「此問題無法回答 — 考慮在知識庫中加入相關文件」

可以。Vault 支援對話式查詢

  • 上下文保留:Vault 記住你在同一對話中之前問題的上下文
  • 跟進:問「你可以詳細說明嗎?」或「例外情況呢?」Vault 會理解上下文
  • 對話管理:每個對話是一個獨立的對話階段 — 上下文不會在不同對話階段之間洩漏

這讓 Vault 感覺像是與一位知識淵博的同事交談,而不只是一個搜尋引擎。

可以。Vault 支援元數據過濾

  • 文件元數據:按文件屬性過濾(例如部門、作者、日期、文件類型)
  • 自訂元數據:為文件加入自訂元數據(例如標籤、分類、密級)
  • 查詢時過濾:「顯示 2025 年的 HR 政策」或「找出標為『機密』的法律合約」

這對你想縮小搜尋範圍的大型知識庫非常有用。

查詢速度取決於你的設定:

組件本機(本地部署)API(OpenAI 等)
檢索100-500ms100-500ms
生成1-5 秒(視乎 GPU)1-3 秒(視乎模型)
總計1-6 秒1-4 秒

對於延遲敏感的應用,我們建議:

  • 使用快速嵌入模型(例如 sentence-transformers/all-MiniLM-L6-v2)
  • 使用快速生成模型(例如本機的 Llama 3 8B,API 的 GPT-4o-mini)
  • 啟用快取(經常被問到的問題會被快取)

可以。Vault 支援查詢結果匯出

  • 網頁界面:下載結果為 PDF、Markdown 或純文字
  • API:以 JSON 格式檢索結果(供程式使用)
  • 批量匯出:一次匯出多個查詢結果(用於報告或分析)

這對生成報告、與同事分享答案或為合規目的歸檔查詢結果非常有用。

可以。Vault 提供查詢分析(企業版):

  • 查詢歷史:查看所有用戶提出的所有查詢(包含時間戳、用戶和結果)
  • 使用模式:識別常見問題、熱門知識庫和常見主題
  • 成本歸因:追蹤每個用戶、團隊或知識庫的 API 成本(如果使用 API 模型)
  • 未回答查詢:識別 Vault 無法回答的問題 — 這些是你知識庫中的缺口

這幫助你了解 Vault 的使用方式以及哪裡需要改善知識庫。

05 · 部署

安全與私隱

8 個問題

安全。Vault 以安全最佳實踐建構:

  • 自行架設:在你的基礎設施上運行 — 沒有數據離開你的伺服器
  • 加密:靜態 AES-256,傳輸 TLS 1.3
  • 存取控制:RBAC、文件級別權限、SSO(企業版)
  • 審計日誌:所有存取和查詢的防篡改日誌(企業版)
  • 開源:程式碼可審計 — 你可以驗證沒有後門或數據外洩

Vault 專為受監管行業而設計。如果你可以使用 Vault,你就能通過合規審計。

不可以。Vault 在你自己的基礎設施上自行架設。ODW.ai 完全無法存取你的文件、查詢或嵌入向量。

與雲端 RAG 平台(Glean、Onyx)不同,Vault 不會將遙測數據傳送至第三方。一切都在你的伺服器上。

這對注重數據主權的機構至關重要。如果你的 RAG 工具正在將文件傳送給雲端供應商,你就不能宣稱擁有數據主權。

可以。Vault 提供精細存取控制(企業版):

  • 知識庫級別:控制誰可以存取哪些知識庫(例如 HR 團隊可存取「HR 政策」,法律團隊可存取「法律合約」)
  • 文件級別:控制誰可以存取特定文件(例如只有管理層可存取「行政薪酬」)
  • 角色為本:分配角色(管理員、編輯者、檢視者)並設定不同權限
  • 屬性為本:基於用戶屬性(部門、安全級別等)控制存取

存取控制在查詢時執行 — 如果用戶沒有權限存取某文件,Vault 不會在查詢結果中返回該文件。

可以。Vault 透過 SAML 2.0 和 OIDC 支援 SSO(單一登入)(企業版):

  • Okta:原生整合
  • Azure AD / Entra ID:原生整合
  • Google Workspace:原生整合
  • 其他:任何符合 SAML 2.0 或 OIDC 的身份提供者

SSO 允許用戶使用現有的企業憑證登入 Vault — 無需記住獨立的用戶名/密碼。

可以。Vault 兼容 HIPAA

  • 自行架設:PHI 保留在你的基礎設施上 — 沒有數據傳送至第三方
  • 加密:靜態 AES-256,傳輸 TLS 1.3
  • 存取控制:RBAC、文件級別權限、審計日誌
  • 審計日誌:所有 PHI 存取的防篡改日誌
  • BAA:如果使用 ODW.ai 託管的 Vault(企業版),我們會簽署業務夥伴協議

Vault 幫助你滿足 HIPAA 要求的技術保障。你仍需單獨解決行政和物理保障。

可以。Vault 兼容 GDPR

  • 數據駐留:所有數據保留在你的基礎設施上(如果使用私人雲端,則在你選擇的地區)
  • 刪除權:按要求刪除文件和相關嵌入向量
  • 存取權:按要求匯出用戶數據
  • 數據處理記錄:審計日誌追蹤所有數據處理活動

Vault 幫助你滿足 GDPR 要求的技術和組織措施(第 32 條)。你仍需單獨解決法律和程序要求。

可以。Vault 支援隔離網絡部署(無互聯網存取):

  • 離線安裝:在沒有互聯網存取的情況下安裝 Vault(Docker 圖像、離線套件)
  • 本機模型:在你自己的硬件上運行嵌入和生成模型(無需對外部服務進行 API 呼叫)
  • 沒有外部依賴:Vault 更新、遙測或授權驗證均不需要互聯網存取

隔離網絡部署常見於政府承包商、軍事和高安全環境。

Vault 在查詢時執行存取控制

  • 權限檢查:在返回結果前,Vault 檢查用戶是否有權存取每份文件
  • 過濾:如果用戶沒有權限,該文件會從結果中過濾掉 — 他們永遠看不到
  • 審計日誌:所有查詢都會被記錄(誰查詢了什麼、何時、返回了什麼結果)

例子:一位初級員工查詢「顯示行政薪酬」。如果他們沒有權限存取「行政薪酬」文件,Vault 不會返回結果 — 而該查詢會被記錄以供審計。

06 · 合規

模型與 AI

8 個問題

Vault 是模型無關的 — 它支援多種模型:

嵌入模型:

  • OpenAI:text-embedding-3-small、text-embedding-3-large
  • Cohere:embed-english-v3.0、embed-multilingual-v3.0
  • 本機:sentence-transformers(all-MiniLM-L6-v2、all-mpnet-base-v2 等)
  • 自訂:任何提供 OpenAI 兼容 API 的模型

生成模型:

  • 本機:Llama 3、Mistral、Gemma、Qwen(透過 Ollama、vLLM、llama.cpp)
  • API:OpenAI(GPT-4o、GPT-4o-mini)、Anthropic(Claude 3.5 Sonnet)、Google(Gemini 1.5 Pro)
  • 自訂:任何提供 OpenAI 兼容 API 的模型

你可以隨時切換模型 — 無需更改程式碼。

可以。Vault 透過以下方式支援本機模型

  • Ollama:運行本機模型最簡單的方式。支援 Llama 3、Mistral、Gemma 等。
  • vLLM:用於生產工作負載的高性能推理伺服器
  • llama.cpp:輕量、對 CPU 友好的推理(適合邊緣設備)

本機模型在你自己的硬件上運行 — 沒有數據離開你的基礎設施。完全自主。

硬件要求本機模型需要 GPU 硬件(建議使用 NVIDIA GPU)。僅 CPU 推理是可能的,但對大型模型來說很慢。對於生產使用,我們建議至少配備一塊 NVIDIA A100 或同等產品。

可以。Vault 支援 API 模型

  • OpenAI:GPT-4o、GPT-4o-mini、text-embedding-3-large
  • Anthropic:Claude 3.5 Sonnet、Claude 3 Opus
  • Google:Gemini 1.5 Pro
  • 自訂:任何提供 OpenAI 兼容 API 的模型

API 模型在你需要前沿功能(例如複雜推理、長上下文窗口)而本機模型尚未能匹配時很有用。

數據主權如果你使用 API 模型,你的查詢和文件塊會被傳送到 API 供應商。這可能違反受監管行業的主權要求。使用本機模型以獲得最大主權。

可以。Vault 支援按任務模型路由

  • 簡單查詢:使用快速本機模型(例如 Llama 3 8B)— 快速、自主、便宜
  • 複雜查詢:使用強大的 API 模型(例如 GPT-4o)— 更強大,但數據離開你的基礎設施
  • 自訂路由:定義規則(例如「如果查詢包含 PHI,僅使用本機模型」)

這讓你兩全其美:敏感查詢享有主權,複雜查詢享有能力。

成本優化80% 的查詢使用本機模型(快速、免費),20% 的查詢使用 API 模型(複雜、付費)。這可將 API 成本降低 80%。

選擇嵌入模型取決於你的優先事項:

模型速度準確度成本主權
sentence-transformers/all-MiniLM-L6-v2✅ 快⚠️ 良好✅ 免費(本機)✅ 完全
sentence-transformers/all-mpnet-base-v2⚠️ 中等✅ 更好✅ 免費(本機)✅ 完全
OpenAI text-embedding-3-large✅ 快✅ 最佳❌ 付費❌ 沒有
Cohere embed-v3✅ 快✅ 最佳❌ 付費❌ 沒有

建議:

  • 最大主權:使用 sentence-transformers(本機、免費)
  • 最大準確度:使用 OpenAI text-embedding-3-large 或 Cohere embed-v3(API、付費)
  • 平衡:從 sentence-transformers 開始,如果準確度不佳再升級到 OpenAI/Cohere

選擇生成模型取決於你的優先事項:

模型速度質量成本主權
Llama 3 8B(本機)✅ 快⚠️ 良好✅ 免費✅ 完全
Llama 3 70B(本機)⚠️ 慢✅ 更好✅ 免費✅ 完全
GPT-4o-mini(API)✅ 快✅ 良好❌ 付費❌ 沒有
GPT-4o(API)⚠️ 中等✅ 最佳❌ 付費❌ 沒有
Claude 3.5 Sonnet(API)⚠️ 中等✅ 最佳❌ 付費❌ 沒有

建議:

  • 最大主權:使用 Llama 3 8B 或 70B(本機、免費)
  • 最大質量:使用 GPT-4o 或 Claude 3.5 Sonnet(API、付費)
  • 平衡:簡單查詢使用 Llama 3 8B,複雜查詢使用 GPT-4o-mini

Vault v1 不支援。Vault 使用現有模型 — 不支援微調。

不過,你可以:

  • 使用檢索:RAG 通常比微調對領域專屬知識更有效。與其微調模型學習你的文件,不如在查詢時直接檢索相關文件。
  • 提示工程:自訂系統提示以引導模型行為(例如「你是一名法律助手。根據提供的法律文件回答問題。」)
  • 外部微調:在 Vault 外部微調模型(使用 Hugging Face Transformers 等工具),然後透過自訂端点在 Vault 中使用微調後的模型。

微調支援計劃在 v2.0(2027 年第二季)推出。

可以。Vault 是模型無關的 — 你可以隨時切換模型:

  • 無需更改程式碼:只需在管理控制台更新模型設定
  • 無需重新嵌入:如果你切換生成模型,你不需要重新嵌入你的文件(嵌入向量是模型專用的,但你可以繼續使用舊的嵌入向量或用新模型重新嵌入)
  • 按查詢切換:不同查詢使用不同模型(例如本機模型處理簡單查詢,API 模型處理複雜查詢)

這讓你的投資面向未來 — 當更好的模型發佈時,你可以立即採用,無需重新架構你的系統。

07 · 模型

部署與設定

8 個問題

Vault 提供三種部署選項:

  1. Docker Compose:最簡單。一個命令(docker-compose up)即可運行。最適合開發和小型部署。
  2. Kubernetes(Helm):生產就緒。提供 Helm chart。最適合大型部署、高可用性、自動擴展。
  3. 裸機:進階用戶適用。直接安裝在 Linux 伺服器上。最大控制,但需要更多設定。

對大多數客戶而言,Docker Compose 是最快的途徑。對於生產環境,我們建議使用 Kubernetes。

設定時間取決於你的部署:

  • Docker Compose:30 分鐘。拉取圖像、設定環境變數、運行 docker-compose up
  • Kubernetes:2-4 小時。部署 Helm chart、設定 ingress、設定儲存、測試。
  • 裸機:1-2 天。安裝依賴、設定服務、測試。

目標:從下載到首次查詢少於 4 小時(Docker Compose 部署)。

首次查詢部署後,你需要上傳文件並等待處理(分塊 + 嵌入向量)。100 份文件預計需要 5-15 分鐘處理時間。

部署方面:需要。Vault 是自行架設的,所以你需要有人能管理 Docker/Kubernetes、設定網絡和監控基礎設施。通常是 DevOps 工程師或 IT 顧問。

日常使用:不需要。管理控制台專為非技術用戶(知識管理人員、合規主任)而設計。你可以上傳文件、建立知識庫和查詢系統,無需撰寫程式碼。

開發人員:Vault 提供 REST API 和 SDK(Python、JavaScript)用於自訂整合。開發人員可以建立自訂工作流程、將 Vault 整合到內部工具等。

Vault 的要求取決於你的部署:

組件最低建議
CPU2 核心4+ 核心
RAM8 GB16+ GB
儲存50 GB SSD200+ GB SSD(視乎文件量)
GPU(本機模型用)不需要(使用 API 模型)NVIDIA A100 或同等產品(本機模型用)
作業系統Linux(Ubuntu 20.04+、RHEL 8+)Ubuntu 22.04 LTS

如果你使用 API 模型(OpenAI、Anthropic),你不需要 GPU。如果你使用本機模型,強烈建議使用 GPU。

可以。Vault 可以部署在任何雲端供應商上:

  • AWS:使用 EC2(Docker Compose)或 EKS(Kubernetes)。使用 S3 儲存文件,RDS 儲存元數據。
  • GCP:使用 GCE(Docker Compose)或 GKE(Kubernetes)。使用 GCS 儲存文件,Cloud SQL 儲存元數據。
  • Azure:使用 VM(Docker Compose)或 AKS(Kubernetes)。使用 Blob Storage 儲存文件,Azure SQL 儲存元數據。

我們為每個雲端供應商提供部署指南。對於生產環境,我們建議使用 Kubernetes 配合託管資料庫(RDS、Cloud SQL、Azure SQL)。

可以。Vault 提供遷移工具

  • 導入文件:上傳你現有的文件(PDF、DOCX 等)
  • 導入嵌入向量:如果你之前的平台匯出了嵌入向量,你可以匯入它們(如果使用相同的嵌入模型)
  • 重新嵌入:如果嵌入向量不兼容,Vault 可以重新嵌入你的文件(需要時間,但確保準確性)

遷移通常需要 1-2 週。我們為常見平台(Glean、Onyx、PrivateGPT)提供遷移指南和支援。

Vault 透過管理控制台(網頁界面)或環境變數進行設定:

  • 模型提供者:設定嵌入和生成模型(本機或 API)
  • 儲存:設定文件儲存(本機、S3、GCS、Azure Blob)
  • 資料庫:設定元數據資料庫(PostgreSQL、MySQL)
  • 向量資料庫:設定向量儲存(Qdrant、Weaviate、Milvus、Chroma)
  • 身份驗證:設定 SSO、RBAC(企業版)

大部分設定透過界面完成。對於進階用戶,Vault 也支援透過 YAML 檔案或環境變數進行設定。

可以。Vault 包含沙盒模式

  • 測試環境:在測試環境中部署 Vault,使用範例文件
  • 實驗:測試不同模型、分塊策略和檢索設定
  • 評估:在正式上線前衡量準確度、延遲和成本

我們建議在部署到生產環境前花 1-2 天在沙盒模式中測試。

08 · 語言

費用與定價

7 個問題

Vault 定價基於部署模式和功能

級別價格包含
社群版(免費)$0自行架設、核心功能、社群支援
Pro$99/月自行架設、所有核心功能、電郵支援
企業版$299-$499/月自行架設、企業功能(SSO、RBAC、審計日誌)、優先支援
託管版自訂價格ODW.ai 為你託管和管理 Vault(私人雲端)

額外成本:

  • API 成本:如果你使用 API 模型(OpenAI、Anthropic),你直接支付給 API 供應商
  • 基礎設施:你支付自己的伺服器/雲端費用(如果自行架設)
備註定價僅供說明,可能會更改。請聯絡我們獲取當前定價和自訂報價。

是的,顯著更便宜。Glean 和 Onyx 通常每個用戶每月 $10-$30。100 人的公司就是 $1,000-$3,000/月。

Vault 每月 $0-$499(固定費率,非按用戶)。100 人的公司使用 Vault 便宜 2-30 倍

而且 Vault 是自行架設的 — 你獲得完全主權。Glean/Onyx 是雲端 SaaS — 你要將文件傳送給他們。

當然,Glean/Onyx 是託管服務(無需管理基礎設施),而 Vault 需要自行架設。但如果你有基礎設施並需要主權,Vault 在成本上是明顯的贏家。

沒有隱藏成本。總擁有成本包括:

  • Vault 訂閱:按級別收取月費(社群版 $0)
  • API 成本:如果你使用 API 模型(OpenAI、Anthropic),你直接支付給 API 供應商
  • 基礎設施:你支付自己的伺服器/雲端費用(如果自行架設)

就是這樣。沒有設定費、沒有意外收費、沒有按用戶收費。

是的。社群版 100% 免費

  • 無時間限制:永久使用
  • 無功能限制:包含所有核心功能(文件導入、RAG、API 等)
  • 無用戶限制:無限用戶
  • 無文件限制:無限文件

唯一的限制:

  • 企業功能:SSO、進階 RBAC、審計日誌、合規功能需付費
  • 支援:僅社群支援(GitHub issues、Discord)。沒有電郵或優先支援。

我們相信開源。如果你不需要企業功能,你可以永久免費使用 Vault。

我們接受:

  • 信用卡/扣帳卡:Visa、Mastercard、American Express(透過 Stripe)
  • 銀行轉帳:適用於年度訂閱或企業客戶
  • 加密貨幣:Bitcoin、Ethereum、USDC(適合注重私隱的客戶)

年度訂閱提供發票。請聯絡我們了解詳情。

可以。我們提供 30 天退款保證。如果你在前 30 天內不滿意,聯絡我們獲取全額退款 — 無須解釋原因。

30 天後,你可以隨時取消。你可以繼續使用直到帳單週期結束,但不會為部分月份提供退款。

是的。Vault 是 ODW.ai 套件的一部分。你可以:

  • 單獨購買 Vault:單獨使用 Vault(用於知識檢索)
  • 購買完整套件:以優惠價格獲得 Desk、Voice、Vault、Shield 和其他模組

套件捆綁以 20-30% 的折扣包含 Vault(相比單獨購買)。而且所有模組原生整合 — Vault 作為 Desk、Voice 和其他模組的知識後端。

09 · 定價

擴展與營運

7 個問題

Vault 可橫向擴展:

  • 小型部署:1,000-10,000 份文件(Docker Compose、單節點)
  • 中型部署:10,000-100,000 份文件(Kubernetes、3+ 節點)
  • 大型部署:100,000-1,000,000+ 份文件(Kubernetes、自動擴展、分散式向量資料庫)

對於超大型部署(100 萬+文件),我們建議:

  • 分散式向量資料庫(Qdrant 集群、Milvus 集群)
  • 託管 PostgreSQL(RDS、Cloud SQL)
  • 自動擴展 Kubernetes 集群

Vault 支援無限用戶(無按用戶限制):

  • 社群版:無限用戶
  • Pro 版:無限用戶
  • 企業版:無限用戶

Vault 可橫向擴展 — 加入更多節點以處理更多並發用戶。典型部署每個節點支援 100-1,000 個並發用戶。

如果 Vault 宕機,查詢功能將不可用,但你的文件是安全的:

  • 文件:儲存在你的資料庫(PostgreSQL)和向量資料庫(Qdrant、Weaviate 等)中 — 不會丟失
  • 恢復:重新啟動 Vault,它會重新連接到你的資料庫
  • 高可用性:對於生產環境,使用多個副本(Kubernetes)和託管資料庫(RDS、Cloud SQL)部署 Vault

對於高可用部署,我們建議:

  • Kubernetes:跨可用區的 3+ 個副本
  • 託管資料庫:RDS、Cloud SQL 或 Azure SQL(99.9% 正常運行時間 SLA)
  • 負載均衡器:在副本之間分配流量

Vault 包含監控儀表板

  • 系統健康:CPU、記憶體、磁碟、網絡使用量
  • 查詢指標:每秒查詢數、延遲(p50、p95)、錯誤率
  • 文件指標:文件數量、塊數、嵌入向量數
  • 模型指標:API 成本、token 使用量、模型延遲

你還可以透過標準協議將指標匯出到外部監控工具(Prometheus、Grafana、Datadog)。

Vault 數據儲存在兩個地方:

  • 元數據資料庫:PostgreSQL(文件元數據、用戶數據等)。使用標準 PostgreSQL 工具備份(pg_dump、WAL 歸檔)。
  • 向量資料庫:Qdrant、Weaviate、Milvus 或 Chroma(嵌入向量)。使用向量資料庫的原生備份工具備份。
  • 文件:儲存在檔案系統或對象儲存(S3、GCS、Azure Blob)中。使用標準檔案/對象儲存備份工具備份。

我們建議:

  • 每日備份:所有三個組件的自動備份
  • 異地儲存:將備份儲存在不同位置(例如 S3、GCS、異地伺服器)
  • 測試恢復:定期測試從備份恢復以確保其有效

可以。Vault 支援多租戶

  • 知識庫:為不同團隊或部門建立獨立知識庫(例如「HR」、「工程」、「法律」)
  • 存取控制:控制誰可以存取哪些知識庫(企業版)
  • 隔離:每個知識庫有自己的文件、嵌入向量和權限
  • 查詢範圍:查詢特定知識庫或跨所有知識庫搜尋

這對有嚴格數據分隔要求的機構或多租戶部署(例如管理多個客戶的 MSP)非常有用。

Vault 的設計直觀易用,但我們提供培訓資源:

  • 文件:為管理員、知識管理人員和終端用戶提供全面的用戶指南
  • 影片教程:逐步講解主要功能
  • 入職培訓:對於付費客戶,我們提供 1 小時的入職培訓(遙距)
  • 支援:Pro 和企業版客戶享有優先支援

大多數團隊在 1-2 小時的培訓後即可投入生產。網頁界面特別直觀 — 終端用戶無需技術技能。

10 · 入職

整合與工作流程

7 個問題

Vault 與所有 ODW.ai 產品原生整合

  • Desk:使用 Vault 作為客戶支援 AI 的知識後端
  • Voice:使用 Vault 作為語音助手的知識後端
  • Shield:Vault 將審計日誌發送到 Shield 以進行管治和合規
  • 其他模組:任何需要知識檢索的 ODW.ai 模組都使用 Vault

如果你使用 ODW.ai 套件,Vault 整合是自動的 — 無需獨立設定。

可以。Vault 提供 REST API 以供程式存取:

  • 文件管理:透過 API 上傳、刪除和管理文件
  • 查詢:透過 API 發送查詢和檢索結果
  • 知識庫管理:透過 API 建立、刪除和管理知識庫
  • 管理:透過 API 設定模型、分塊策略和其他設定

API 有完整文件(OpenAPI/Swagger),並支援透過 API 金鑰或 OAuth 2.0 進行身份驗證。

可以。Vault 為熱門語言提供 SDK

  • Python:pip install odw-vault
  • JavaScript/TypeScript:npm install @odw/vault

SDK 封裝了 REST API,為開發人員提供更便捷的接口:

from odw_vault import VaultClient

client = VaultClient(api_key="your-api-key")
results = client.query("What's our refund policy?", knowledge_base="hr-policies")
print(results.answer)

SDK 是開源的,可在 GitHub 上獲取。

可以。Vault 可透過以下方式整合到內部工具:

  • REST API:從你的內部工具(網絡應用、流動應用程式、腳本)呼叫 Vault 的 API
  • SDK:使用 Python 或 JavaScript SDK 簡化整合
  • Webhooks:Vault 可在文件加入/更新/刪除時發送 webhook(用於事件驅動工作流程)

常見整合:

  • Slack:建立查詢 Vault 的 Slack 機械人
  • Microsoft Teams:建立查詢 Vault 的 Teams 機械人
  • 內部網絡應用:將 Vault 的查詢界面嵌入你的內部入口網站
  • 自訂工作流程:在自動工作流程中使用 Vault 的 API(例如自動總結新文件)

可以。Vault 包含外部數據來源的連接器框架

  • SharePoint:從 Microsoft SharePoint 同步文件(企業版)
  • Google Drive:從 Google Drive 同步文件(企業版)
  • Confluence:從 Atlassian Confluence 同步頁面(企業版)
  • 檔案系統:從本機或網絡驅動器同步文件
  • S3 兼容:從 AWS S3、MinIO 或其他 S3 兼容儲存空間同步
  • 自訂:使用連接器 SDK 建立你自己的連接器

連接器可按時間表同步(例如每小時)或即時同步(透過 webhook)。

可以。Vault 提供可嵌入的查詢小工具

  • JavaScript 小工具:在你的網站或網絡應用中嵌入聊天式查詢界面
  • 可自訂:自訂小工具的外觀(顏色、標誌等)以配合你的品牌
  • 身份驗證:小工具遵循 Vault 的存取控制 — 用戶只會看到他們有權存取的文件

這適用於:

  • 面向客戶:在你的客戶入口網站中嵌入知識庫
  • 面向員工:在你的內部入口網站中嵌入知識庫
  • 產品整合:將 Vault 的查詢界面作為功能嵌入你的產品中

可以。Vault 可與現有 AI 工具配合使用:

  • LangChain:在 LangChain 管道中使用 Vault 作為檢索器
  • LlamaIndex:在 LlamaIndex 管道中使用 Vault 作為檢索器
  • 自訂 RAG:在你的自訂 RAG 管道中使用 Vault 的 API

Vault 的設計是作為知識層 — 它提供檢索,你可以使用任何 AI 工具進行生成。

11 · 路線圖

限制與路線圖

8 個問題

Vault 功能強大,但在 v1.0 中有限制:

  • 沒有即時串流:Vault 支援批量和近即時導入,但不支援亞秒級串流
  • 沒有流動應用程式:沒有原生 iOS/Android 應用程式(網頁界面是流動友好的,但沒有原生應用程式)
  • 沒有語音/音頻導入:無法導入音頻檔案(例如會議錄音)— 僅支援文字
  • 沒有影片分析:無法分析影片內容
  • 沒有工作流程自動化:Vault 是知識層,不是工作流程引擎(使用其他 ODW.ai 模組處理此類需求)
  • 僅英文界面:界面目前僅支援英文(v1)— 多語言界面計劃在 v1.1 推出
  • 沒有模型微調:Vault 使用現有模型 — 無法微調模型(計劃在 v2.0 推出)

會。我們計劃在 v1.1(2026 年第四季)加入更多文件格式支援:

  • PPTX:PowerPoint 簡報
  • XLSX:Excel 試算表
  • 電郵格式:EML、MSG(Outlook)
  • OCR:改善掃描 PDF 和圖像的 OCR

如果你需要特定格式,請告訴我們 — 我們根據客戶需求確定優先順序。

計劃在 v1.2(2027 年第一季)。語音/音頻導入將包括:

  • 轉錄:使用 Whisper 或其他 ASR 模型自動轉錄音頻檔案(會議錄音、語音備忘錄)
  • 說話者分離:識別會議錄音中誰說了什麼
  • 可搜尋的轉錄:將轉錄導入 Vault 以供檢索

這對想搜尋會議錄音和語音備忘錄的客戶來說是高優先功能。

計劃在 v1.1(2026 年第四季)。多語言界面將包括:

  • 中文(簡體和繁體)
  • 西班牙文
  • 法文
  • 德文
  • 日文

查詢引擎已經支援多語言文件和查詢 — 只有界面在 v1 中僅支援英文。

主要里程碑:

  • v1.0(2026 年第三季):MVP 發佈。文件導入、RAG、模型無關推理、多租戶、REST API、SDK。
  • v1.1(2026 年第四季):更多文件格式(PPTX、XLSX、電郵)、多語言界面、改善 OCR。
  • v1.2(2027 年第一季):語音/音頻導入(轉錄、說話者分離)、進階分析。
  • v2.0(2027 年第二季):模型微調、進階檢索策略(混合搜尋、重排序)、工作流程自動化。

路線圖可能會根據客戶反饋而更改。請聯絡我們獲取最新路線圖或要求功能。

Vault 不適合以下情況:

  • 你沒有數據主權要求:如果你不在乎數據主權,雲端 RAG 平台(Glean、Onyx)更簡單(無需管理基礎設施)。
  • 你需要即時串流:Vault 支援批量和近即時導入,但不支援亞秒級串流。如果你需要即時處理,使用專門的串流平台。
  • 你需要工作流程自動化:Vault 是知識層,不是工作流程引擎。如果你需要複雜工作流程,使用專門的工作流程工具(或其他 ODW.ai 模組)。
  • 你需要聊天機械人界面:Vault 提供知識層,但沒有精美的聊天機械人界面。如果你需要即插即用的聊天機械人,使用專門的聊天機械人平台(或將 Vault 整合到你自己的界面)。

不保證。沒有 AI 系統可以保證 100% 準確。Vault 的準確度取決於:

  • 文件質量:清晰、結構良好的文件 = 更好的準確度
  • 嵌入模型:更好的嵌入模型 = 更好的檢索
  • 生成模型:更好的生成模型 = 更好的答案
  • 查詢清晰度:清晰、具體的問題 = 更好的答案

目標:≥85% MRR@10(前 10 名的平均倒數排名)。這意味著正確答案在 85% 的時間裏位於前 10 個結果中。

Vault 提供來源引用,讓你可以驗證答案。如果準確度不佳,請嘗試改善文件質量、切換到更好的模型或改寫查詢。

三條途徑:

  1. 免費試用:下載 Vault 並自行部署。無需信用卡。用你的文件試用,看看它是否適合你的使用場景。
  2. 示範:與我們的團隊預約示範。我們會為你講解 Vault、回答你的問題,並幫助你評估它是否適合你的業務。
  3. 聯絡銷售:對於企業客戶或自訂部署(本地部署、隔離網絡),聯絡我們的銷售團隊獲取量身報價。
準備開始?訪問 odw.ai/vault 下載 Vault 或預約示範。