跳到正文

全部動態

RSS
今日 4 則
11月7日週六
  1. Anthropic Research81

    Anthropic 拆解 AI 助理記憶的組成與整理方式

    Anthropic 說明 Claude 如何透過記憶筆記、夢境整理與 wiki,整理跨工作階段的經驗,並以多項任務評估各元件的作用。 - 記憶整理:Claude 可從工作紀錄中修正錯誤、建立新筆記與連結式 wiki;夢境整理會對照原始逐字稿檢查記憶。

    推薦理由:文章以多項任務評估記憶筆記、夢境整理與 wiki 的作用,呈現不同記憶組織方式對長程任務的影響。

  2. OpenRouter Announcements62

    Sentry 透過 OpenRouter 控制 AI 成本,無需限制存取

    Sentry 透過 OpenRouter 重新掌控 AI 成本,實現 93% 的費用削減並保持對模型選擇的自由。 - 成本控制:三週內完成 500 個 Anthropic/OpenAI key 清理,將直接存取關閉;每筆請求可追蹤至使用者或工作區,設定每人每週 1500 美元預算。

  3. Vercel Blog53

    Ampersand 開放透過 Vercel AI Gateway 使用

    Vercel AI Gateway 開放使用 Humans& 的多人對話模型 Ampersand,並提供至 2026 年 11 月 13 日的免費使用期間。 訓練方式:Ampersand 以 Z.ai 的開放權重模型 GLM 5.3 為基礎,透過模擬最長數月的群體對話進行強化學習訓練。 對話方式:模型會讀取每則訊息,包括未直接對它發出的訊息,並判斷要回覆或保持安靜;設計目標包括理解個人與共同目標、協助處理分歧,以及在適當時提供脈絡或提出澄清問題。 接入方式:應用程式可使用呼叫端定義的 send_message 與 pass 工具,分別送出發言或等待下一則人類訊息。可透過 AI SDK、OpenAI 相容的 Chat Completions API 或程式開發 Agent 呼叫;模型名稱為 humansand/ampersand-v0.1。 程式開發 Agent:在 Claude Code、Codex、Cursor 等工具中使用時,需安裝最新版 Vercel CLI 並執行設定,再選取該模型。

  4. Anthropic Research58

    AI 如何建構科學模型並帶來理解

    AI 系統逐漸能參與科學模型的建構、引數擬合與解讀,但只找出符合資料的模型,還不足以帶來對真實系統的理解。 - 引數推論:模擬式推論(SBI)透過大量模擬與神經網路,估計哪些引數可能產生觀測結果,並呈現多種可行解釋。

  5. AWS Machine Learning Blog78

    SageMaker Inference 透過 NVIDIA MIG 支援多實例 GPU,提升模型端點 GPU 利用率

    SageMaker Inference 透過 NVIDIA Multi‑Instance GPU (MIG) 允許單一 GPU 分割成多個獨立分割槽,使用者可為每個模型指定分割槽型別,從而在同一實例上部署更多模型並節省成本。

    推薦理由:Amazon SageMaker 透過 NVIDIA MIG 分割 GPU,允許多模型共用單一 GPU,提升資源利用率與成本效益,對 AI 推理部署具有實務價值。

  6. Vercel Blog64

    Vercel Tracing 向所有方案正式開放

    Vercel Tracing 正式向所有方案開放,使用者可從儀錶板或 Vercel CLI 搜尋與檢視追蹤資料;新建的 Next.js 專案也會預設啟用追蹤。 儀錶板搜尋:新增 Traces 頁面,集中顯示專案或整個團隊的 traces 與 spans,可切換清單、篩選並使用 Kibana Query Language(KQL)搜尋;Live 模式會串流顯示新 traces。 CLI 操作:儀錶板與 vercel traces search --query 使用相同的 KQL 查詢,可搜尋團隊內所有專案,或用 --project 指定專案;另可透過 vercel traces inspect <request-id> 檢視單筆 trace,並用 vercel traces config 管理取樣規則。 Next.js 預設追蹤:從 Next.js 16.5 起,在 Vercel 建立且包含至少一個 Node.js function 的新專案,首次成功建置後會啟用追蹤。Vercel 會新增一條涵蓋所有環境、追蹤 100% 請求的取樣規則,並在建置時注入 instrumentation;若要停用,可在 Settings → Tracing 移除所有取樣規則。 資料保留期限:Hobby 為 3 天(Beta 期間為 1 小時)、Pro 為 14 天(原為 1 天)、Enterprise 為 14 天(原為 3 天)。定價與 Beta 期間相同。

  7. AWS What's New42

    Amazon MWAA 無伺服器支援自訂運運算元和 Apache Airflow 提供商套件運運算元

    使用 Amazon MWAA 無伺服器時,資料工程師現在可以在工作流程中使用 Apache Airflow 提供商套件裡的運運算元,例如 HTTP、Snowflake、dbt,也能加入自己寫的運運算元。只要把運運算元放程序式碼套件、上傳到 Amazon S3,再在建立或更新工作流程時指定,就能用來串接不同系統或執行特定工作,不必先準備基礎架構。這項功能已在提供 Amazon MWAA 無伺服器的所有 AWS 區域推出。

  8. AWS What's New47

    Amazon MWAA 無伺服器版支援 Apache Airflow 的連線和變數

    工作流程常需要連到資料庫、API 或其他外部系統,也得用到登入憑證和設定。Amazon MWAA 無伺服器版現在支援 Apache Airflow 的連線和變數,讓你能在工作流程程式碼之外管理這些資料。敏感資料可以放在 AWS Secrets Manager、AWS Systems Manager Parameter Store,或自訂的存放位置,再授權工作流程使用;工作執行時,任務會照 Apache Airflow 一般的方法取用。非機密設定則能設成環境變數。這項功能已在提供 Amazon MWAA 無伺服器版的所有 AWS 區域推出。

  9. Baseten59

    Baseten Loops 正式推出無伺服器服務,提供 SFT 與 RL 訓練所需的基礎設施,並支援從訓練完成的 checkpoint 一鍵部署至正式環境推論。 服務特色:常駐暖機基礎設施可消除冷啟動;訓練與取樣採按 token 計價,並提供模型專屬數值驗證,以降低訓練與取樣之間的不匹配。 使用與權重:團隊提供資料、獎勵函式與訓練邏輯,模型權重由使用者持有。