Voyage Rerank 3 與 Rerank 3 Lite 於 AI Gateway 上可使用

Rerank 3 與 Rerank 3 Lite 來自 MongoDB 的 Voyage AI 現已在 AI Gateway 上提供。

這些模型會先按相關度重新排序搜尋結果，再將檔案傳遞給語言模型。該系列在多個領域提升檢索品質，尤其在長檔案與程式碼上取得最大提升。

Rerank 3 專注於準確度，而 Rerank 3 Lite 則最佳化延遲與成本。兩者每個查詢-檔案對可處理至多 32K 代幣，並遵循查詢中的指示來指導排序。

要使用 Rerank 3，將模型設為 voyage/rerank-3：

import { rerank } from 'ai';
const { ranking } = await rerank({
  model: 'voyage/rerank-3',
  query: 'How does a vector database find similar documents?',
  documents: [
    'A load balancer distributes traffic across servers.',
    'A vector database searches embeddings to find similar documents.',
  ],
  topN: 1,
});

對於 Rerank 3 Lite，將模型改為 voyage/rerank-3-lite。

在 AI Gateway 模型遊樂場 試用 Voyage Rerank 3，或瀏覽 模型目錄。

AI Gateway 提供單一 API 來呼叫模型、追蹤使用量與成本，以及配置路由、重試與故障轉移。您可以使用 AI Gateway API 金鑰 或 自行提供的供應商金鑰。