跳到正文

#產品更新

RSS
今日 1 則
11月19日週四
  1. Replit ⠕52

    要改進一項產品,光設定目標還不夠,也得想好怎麼判斷成果。Replit 產品與設計團隊用 Replit Missions 改進 Replit Slides:先提供目標、評分範例、預算和一項受控要求,再讓一群 AI 助理分工調整提示詞和工具,並進行六輪由 AI 評分的測試。團隊表示,設計評分提高了 20%,花費不到 $500。這個案例展示了 Missions 如何把較大的目標拆成可持續執行的工作。

  2. Vercel Blog51

    Vercel 推出 Vercel X,為早期 AI 新創提供六週加速計畫

    剛有 AI 創業點子的人,常需要釐清要做什麼、誰會需要,也得找到資源把產品做出來。Vercel 推出 Vercel X,邀請 40 個團隊到舊金山參加六週計畫,接受 Vercel 團隊的技術指導與產品回饋,並可使用 Vercel、AWS、Anthropic、OpenAI 等夥伴提供的超過 $9M 點數,用於主機、運算和模型 API。申請者須是 Vercel 客戶,並全程到場;計畫不收股權,獲選團隊還有機會取得 Vercel Ventures 資金與合作夥伴獎項。

  3. Replit ⠕55

    想改進一項產品時,光提出目標還不夠,還要安排工作、測試成果並控制花費。Replit 產品與設計團隊成員分享,他們用 Replit Missions 改進 Replit Slides:先交代想達成的目標、評分規準範例、預算和一項受控要求,再讓多個 AI 助理分工數小時甚至數天。這次測試中,AI 助理反覆調整 Replit Slides 背後的提示詞和工具,經過六輪由 AI 評分的測試,設計評分提高 20%,花費不到 $500。

  4. Databricks Blog68

    Databricks 推出 Unity Gateway Insights,找出 AI 助理浪費 token 的地方

    團隊想降低 AI 成本時,除了調整預算,也可以檢查 AI 助理每次工作的紀錄。Databricks 推出 Unity Gateway Insights,會分析工作紀錄和公司的業務資料,找出 MCP 工具反覆出錯、簡單工作用了昂貴模型,以及值得整理成共用技能的重複流程。每個發現都能連到相關工作紀錄,也會依浪費的 token 成本排序;團隊還能加入自己的問題,檢視哪些流程值得改善。Databricks 表示,他們曾從 7 個 MCP 小錯誤中估計出每年 $1.2M 的浪費。

    推薦理由:Databricks 說明 Insights 如何從 AI 助理的工作紀錄找出重複錯誤與模型使用浪費,並把可節省的 token 成本連結到實際工作流程。

  5. Google AI Official Blog78

    Gemini app 登上低記憶體 Android 手機,帶來語音、相機與圖片功能

    記憶體較少的 Android 手機,過去受硬體限制,多半隻能使用基本語音指令。Google 重新設計 Gemini app,讓它能在符合條件的 Android Go 裝置上順暢運作。使用者可以用 45 種以上語言和 Gemini Live 對話、練習面試,也能用相機拍下筆記或表格來學習和翻譯,或用 Nano Banana 製作圖片。這讓更多人能在日常手機上使用 Gemini;部分合作夥伴的未來新機也會預先安裝這款 app。

    推薦理由:低記憶體手機過去多隻能使用基本語音指令,這次更新把 Gemini 帶到 Android Go 裝置,讓更多人能用語音、相機和圖片生成功能。

  6. vLLM68

    vLLM v0.34.0 已發布,這次更新包含 1,061 次程式碼提交與 412 位貢獻者。新版加入 10 個模型,並預設啟用可擴充的 KV cache;Model Runner V2 成為唯一的 GPU 執行器。專案也表示,在 4× GB200 上,Step5 NVFP4 解碼最高可快 1.95 倍。升級前可參考公告附上的升級說明。

    推薦理由:這次更新同時加入 10 個模型並調整 GPU 執行方式,還列出 Step5 NVFP4 解碼的速度資料,可用來瞭解 vLLM 的更新範圍。

  7. Replit Blog68

    Replit 擴大與 Microsoft 合作,讓團隊用企業資料打造並部署應用程式

    企業團隊常知道哪裡需要改善,卻得先換工具、搬資料,才能把想法做成軟體。Replit 宣佈與 Microsoft 擴大合作,讓團隊可用 Fabric 的受管資料打造應用程式,並部署到企業的 Fabric 租戶;Replit Desktop 也能在 Windows、Mac 和 Linux 存取使用者指定的資料夾,讓人檢查本機修改。Replit 與 Microsoft Teams 的整合將讓團隊從對話開始提問和開工;Azure 部署則進入早期存取,管理員可設定每個工作區的發布位置。這些功能讓團隊能在熟悉的工具中建置和發布,同時由企業管理資料與部署環境。

    推薦理由:Replit 這次把建置、部署與工作對話接上企業既有的資料和系統,也交代各項整合的開放狀態與管理方式。

  8. Databricks Blog78

    Databricks Genie 把受治理的企業資料帶進 Teams、Excel 和 Copilot

    公司資料分散在不同工具裡,員工常得自己找表格、核對數字,也不一定知道哪些資料能看。Databricks 擴大 Genie 在 Microsoft 工具中的使用方式:在 Teams 裡,員工可用訊息詢問資料、檢視圖表、分析檔案或安排定期分析;在 Excel 裡,可用白話提問、把結果載入活頁簿,並建立會更新的樞紐分析;Copilot Chat 和 Copilot Cowork 則能把資料問題交給 Genie 查詢。答案會附上資料來源,並依使用者許可權提供內容,管理員也能透過 Unity Gateway 管理工具使用、支出和操作紀錄。

    推薦理由:Genie 把受治理的企業資料帶進 Teams、Excel 與 Copilot,並以許可權、引用來源和管理工具串起工作流程。

  9. CrewAI Releases37

    CrewAI 發布 1.15.42,修正多項功能與資料處理問題

    這次 CrewAI 更新讓 ChromaDB 可以選擇安裝,並把預設知識資料改存到本機 Qdrant;AI 助理也能先挑選工具,之後再加入。更新還修正了多種資料處理問題,例如避免日期寫入 JSON 時出錯、正確讀取含 BOM 的 JSON 檔,以及不再漏掉串流回傳的內容。這些調整讓設定與資料讀寫更可靠,也讓使用者能依需求選擇儲存方式和工具。

  10. a16z37

    First Person Labs 正在打造 Second,持續整理使用者的偏好、優先事項和目標,並由使用者決定要分享給哪些 AI 助理。Ken Liu 認為,個人 AI 若能串起生活各處的資訊、看出哪些事情重要,並把這些瞭解帶到不同工具,就不必每次都要使用者重新說明。訪談也談到 AI 助理如何主動提醒待辦事項、保護敏感資料,以及讓 AI 助理長時間運作要花多少錢。Second 想讓 AI 更瞭解使用者,也讓使用者掌握個人資料的分享方式。

11月18日週三
  1. LangChain Blog63

    LangSmith 推出程式開發 AI 助理花費與 PR 成果報表

    團隊花錢使用程式開發 AI 助理後,常很難看出這些花費帶來了什麼成果。LangSmith 新增報表,把 Claude Code、OpenAI Codex 等 AI 助理的使用花費連到它們參與的 PR,並按 PR 狀態、工作型別和使用的模型整理資料。團隊可以檢視每個 PR 花了多少、哪些工作沒有產生 PR,也能點進對話瞭解原因,並比較更換模型前後的花費與合併成果。這項功能目前在 LangSmith Cloud 公開測試。

    推薦理由:LangSmith把程式開發 AI 助理的花費連到合併的 PR 與工作內容,能協助團隊比較模型調整前後的成本和成果。

  2. Hugging Face Blog65

    IBM 時間序列模型加入 Confluent,協助企業即時預測與找出異常

    企業的銷售、付款和裝置讀數一直在變,等到定期報表出來才採取行動,可能已經太晚。IBM 和 Confluent 把時間序列模型放進 Confluent,讓團隊透過 Apache Flink 和 SQL,從即時資料預測需求、找出異常,也能搜尋相似的裝置訊號;模型可在雲端或企業自己的環境中用 CPU 執行。文章舉例,商店可依銷售預測安排補貨,工廠則能提早發現產品品質可能偏離目標。預測結果可提供給既有應用程式和作業流程參考,仍可搭配其他資料、規則與人工判斷。

    推薦理由:文章以零售補貨與工廠品管等案例,說明如何把時間序列預測和異常訊號接進即時資料流程,協助團隊更早採取行動。

  3. NVIDIA Newsroom Press Releases76

    NVIDIA 推出 RTX Spark 小型桌機,可在本機執行 AI 模型與創作工作

    想在本機跑 AI 模型、處理創作工作,又不想讓筆電一直忙著執行任務,可以考慮專用桌機。ASUS、Dell 和 MSI 的 NVIDIA RTX Spark 小型桌機已開賣,搭載最多 128GB 共用記憶體,可在本機執行支援的模型、AI 助理、圖片與影片生成,也能微調模型。NVIDIA 表示,在本機處理程式碼和檔案可避免這些工作產生雲端 API 費用;桌機也能在筆電外出時繼續執行常駐 AI 助理和排程任務。文中另介紹 Adobe、Blender 和 ComfyUI 等創作工具在 RTX Spark 上的更新。

    推薦理由:RTX Spark 桌機把本機模型、常駐 AI 助理與創作工具放在同一臺電腦,文中也列出記憶體規格與適用工作流程。

  4. PostgreSQL Official News54

    pgSherpa 推出 macOS 桌面工具,方便監控 PostgreSQL

    同時管理 PostgreSQL 伺服器時,健康狀況、資安設定和雲端資料庫資訊分散,可能不容易掌握。CortexRidge 推出免費的 macOS 桌面工具 pgSherpa,可監看 PostgreSQL 12 到 18,並用句子提醒需要處理的狀況,也能檢視鎖定等待、長時間執行的工作、複寫延遲、備份和故障切換等資訊。它也提供 SQL 查詢和常用報表;查詢預設在唯讀交易中執行,只有使用者切換後才會寫入資料。工具不需在伺服器安裝擴充功能或代理程式,密碼和金鑰會留在 macOS Keychain。

  5. PostgreSQL Official News58

    pgjumbo 推出免費 PostgreSQL 桌面使用者端,整合查詢與管理工具

    管理 PostgreSQL 時,查詢資料、備份資料庫和檢查伺服器狀況常要用到不同工具。pgjumbo 是一款免費桌面使用者端,支援 PostgreSQL 12 以上版本,可在 Windows、macOS 和 Linux 使用。它提供 SQL 查詢、資料編輯、備份還原、許可權與伺服器活動檢查等功能;修改資料庫物件前會先顯示 SQL,標記為 Production 的伺服器若要執行會造成破壞的指令,也會先要求確認。

  6. PostgreSQL Official News50

    WAL-G 發布 3.0.10,新增 PostgreSQL WAL 直接讀取功能

    備份資料庫時,如果要讓備用伺服器讀到新的記錄,過去可能得先把檔案搬到指定位置。WAL-G 3.0.10 新增 PostgreSQL 的 wal-send,可以透過串流複寫協定,讓備用伺服器直接從物件儲存讀取 WAL,並在新片段到達時接著讀取。這次也改善了備份上傳、S3 傳輸和 Greenplum、Cloudberry 的備份還原流程;要留意的是,永久備份雖然仍不會因保留期限而刪除,但指定刪除目標時可以刪掉。

  7. FastAPI Releases60

    FastAPI 0.164.0 新增可設定的請求本文大小上限

    網站收到太大的請求本文時,可能需要限制可接受的資料量。FastAPI 0.164.0 新增可設定的請求本文大小上限,讓開發者能為服務設定這項限制。發布頁也提供一項協助 AI 助理使用 FastAPI 新功能與建議寫法的官方技能;可透過 uvx library-skills 在專案中安裝。

    推薦理由:FastAPI 這次加入可設定的請求本文大小上限,讓開發者能依服務需求限制傳入資料的大小。

  8. shadcn53

    AI 助理操作網頁時,常得靠截圖找按鈕再逐步點選。UI SDK 支援 WebMCP,使用它打造的介面會提供可供 AI 助理呼叫的工具,讓 AI 助理直接讀取元件並執行操作,不必看截圖或到處點選。作者表示,內部基準測試中,這種做法比現有函式庫與工具少約 50% 的工具呼叫、少約 75% 的 token,成本也低約 70%;原文另附上測試資料與自行執行測試的方法。

  9. llama.cpp Releases70

    llama.cpp b12503 大幅改善 OpenVINO 後端的推論與記憶體使用

    使用 OpenVINO 跑 llama.cpp 時,模型推論可能花太多時間搬動快取和資料,也會佔用不少記憶體。b12503 更新了 OpenVINO 後端在 CPU、GPU 和 NPU 上的多項做法,例如依實際注意力範圍讀取 KV 快取、減少 NPU 預填階段的資料搬動,並讓部分執行設定可以選擇開啟。更新也調整了模型快取與注意力處理,修正多種模型和執行模式下的問題;實際可用的選項與效能改善會依裝置和設定而異。

    推薦理由:這次更新集中改善 OpenVINO 後端在 CPU、GPU 與 NPU 上的快取、記憶體使用和推論效能,並提供多項可調整的執行選項。

  10. Vercel Blog65

    Vercel Speed Insights 開始追蹤 App 內切換頁面的速度

    使用者在 App 內切換頁面時,內容會更新,但不會重新載入整個頁面,過去的速度資料看不到這段過程。Vercel Speed Insights 現在會追蹤這類切換,記錄 LCP、FCP、INP 和 CLS,並納入 Real Experience Score;由於沒有新的檔案請求,不會記錄 TTFB。追蹤預設開啟,儀錶板也新增導覽型別篩選,可分開檢視完整載入或頁面內切換的資料。這些事件會計入 Speed Insights Plus 用量,也可透過程式設定關閉。

    推薦理由:過去只看完整載入時的速度,容易漏掉使用者在 App 內切換頁面時的體驗;這次新增的資料可用來比較兩種導覽情況。

  11. llama.cpp Releases44

    llama.cpp b12500 用 fastdiv 加快 CUDA 卷積運算

    llama.cpp 的 CUDA 卷積運算原本要反覆做整數除法,處理資料越多,這些運算越容易拖慢速度。這次改用事先算好的除法資料來找出每筆資料的位置;測試中,RTX PRO 6000 上一種卷積運算的時間從 221 微秒降到 138 微秒,其他測試案例也都變快。這表示 llama.cpp 能更快完成這類 CUDA 運算。

  12. OpenAI Codex Releases45

    OpenAI Codex 發布 0.170.0,改善語音通話、連線與沙盒許可權

    Codex 0.170.0 加入幾項新功能,也修正多種使用問題。現在可以在文字介面中協商即時語音通話,也能自動更新 OpenTelemetry 傳送資料時使用的驗證標頭;同名的 MCP 伺服器也能在不同環境中分開使用。舉例來說,WebSocket 請求太大時,Codex 會直接改用 HTTP 傳送,不再多做不必要的重試。 這次更新也修正雲端對話重新連線、Windows 檔案替換與沙盒許可權等問題,並補充沙盒的許可權設定和檔案系統規則說明。使用者因此較能順利接續對話,也能更清楚瞭解程式可以存取哪些檔案。

  13. PyTorch Core Releases63

    PyTorch 改用共用 CUDA 核心處理混合資料型態的加減運算

    不同資料型態一起做加減時,框架需要處理多種運算組合,也得避免整數轉換出錯。PyTorch 這次把部分加減運算改成共用的 FP32 FMA CUDA 核心,涵蓋原地修改和輸出為 FP32 兩種情況,並保留涉及 FP32 的資料型態組合。更新也調整了 alpha 的轉換順序,避免整數 0、INT64_MIN 和 UINT64_MAX 遇到取負問題。測試涵蓋兩種運算模式及整數 alpha;提供的測試結果顯示,18 個 CUDA 測試案例通過,另有 1,296 組原始位元結果相符。

    推薦理由:這次更新整理了混合資料型態加減運算的 CUDA 核心,並用浮點結果與整數 alpha 的測試檢查不同情況下的結果是否一致。

  14. llama.cpp Releases42

    llama.cpp b12494 新增 Kokoro 文字轉語音支援

    llama.cpp 的 b12494 加入 Kokoro 文字轉語音支援,並補上把文字轉成語音時需要的文字整理與發音處理,也調整了聊天功能和批次處理的程式。這次更新也列出多種作業系統與硬體的版本,例如 macOS、Linux、Android 和 Windows,可搭配 CPU、CUDA 或 Vulkan 等環境使用。