跳到正文

開源生態

開源模型、框架與倉庫動態:權重開放、社群專案爆火、開源與閉源的力量消長。

最新精選

第 1–20 條 · 共 507 條
今天11月23日週一
  1. Lobste.rs (Engineering Discussion)71

    ATProto 開發指南:別把使用者名稱當成固定帳號識別

    開發 ATProto 軟體時,若把帳號名稱、資料伺服器或貼文時間當成固定且可靠的資訊,程式可能出錯。作者整理多個常見誤解,並用規格和實際伺服器回應說明正確做法:用不會變的 DID 識別帳號,查詢帳號目前使用的名稱與伺服器,讀取資料時也要檢查格式。不同服務可能對追蹤人數或帳號狀態有不同看法;遇到不認識的資料,也應避免直接假設它無效。這份清單能協助開發者找出容易踩雷的地方,讓程式更能應付 ATProto 網路中的差異。

    推薦理由:ATProto 將帳號身分、名稱與資料伺服器分開,文中用規格和實際伺服器回應說明常見假設會在哪些地方出錯。

11月22日週日
  1. Redis Core Releases68

    Redis 8.12 正式推出,新增集合成員到期設定與壓縮點陣圖

    Redis 8.12 正式推出,這次更新加入多種資料操作功能,也改善部分記憶體用量與查詢處理。大型排序集合改用新的 B+ tree 編碼,可大幅減少記憶體用量;壓縮點陣圖則整合進 Redis 核心,讓點陣圖操作更省記憶體、速度更快。集合中的個別成員現在也能設定到期時間,並查詢剩餘時間或移除到期設定。此外,更新加入多個排序集合移動指令,並修正複寫、點陣圖計數與 JSON 陣列插入等問題。

    推薦理由:Redis 8.12 把集合成員到期時間、壓縮點陣圖等能力加入核心,能看出這次更新如何同時處理記憶體用量與資料操作需求。

  2. Dev.to Top Tech78

    PagedAttention 如何減少大型語言模型服務時的記憶體浪費

    大型語言模型回答問題時,會把讀過的文字留在 KV cache;如果每個請求一開始就預留一大段記憶體,很多空間會被佔著,其他請求也用不到。作者用停車位和小型互動示範,解釋 PagedAttention 如何把記憶體切成固定大小的區塊,需要時才分配,並用對照表記下區塊位置。多個請求也能共用相同提示詞的資料,只有內容要改動時才複製區塊。這能減少閒置空間,讓同一批記憶體容納更多請求;作者也提醒,區塊較大時空位會增加,太小則可能影響 GPU 平行處理。

    推薦理由:文章從 KV cache 的記憶體浪費談起,再用互動式示範比較分頁配置與連續配置,說明記憶體管理如何影響同時服務的請求數。

  3. Dev.to Top Tech76

    BabySea 開源 ledger-fortress,處理 AI 生成服務的點數結算

    AI 圖片或影片生成常要等一段時間,付款通知也可能重複、延遲或亂序,讓點數被重複發放,或工作完成後沒有正確扣款。BabySea 把可重用的點數結算做法開源為 ledger-fortress:Stripe 負責收付款,PostgreSQL 記錄可用點數和每次變動。開始生成前先預留點數,成功時確認扣款,失敗或取消時退回;資料庫也會擋下重複操作,並可找出卡住的預留紀錄交由恢復流程處理。Stripe 退款與爭議款則留在這套點數帳本之外,需另行處理。

    推薦理由:文章拆解點數預留、扣款與退款如何配合非同步生成,並說明資料庫如何處理重複和亂序事件,可作為設計類似計費流程的參考。

  4. Dev.to Top Tech76

    作者示範用 API 接收 Lightning 付款,並驗證付款證明

    透過別人的付款 API 收款時,服務商可能會代管款項;作者做了一套 API,讓顧客直接把錢付到商家的 Lightning 地址。API 會核對地址和發票金額,再確認付款前像的雜湊值符合發票記錄,才通知商家付款完成。作者也分享自己曾在結算程式和測試模擬器中發現的錯誤,以及修正方式。文章還示範如何驗證簽章通知、避免重複結算,並提供可免費試用的沙盒。

    推薦理由:作者以實際程式碼展示 Lightning 付款驗證,並說明如何用付款前像避免把未付款誤認為已付款。

  5. Dev.to Top Tech90

    作者檢查 GRH 證明程式碼,發現幾何條件被寫成永遠成立

    Lean 和 Mathlib 社群確認一份黎曼猜想證明通過多種程式檢查,但作者發現,程式裡有個叫 anyGeometry 的條件,對任何輸入都直接回傳 True。作者追查程式碼後確認,這個條件出現在 24 個檔案中,也被用來建立一些假設;不過,他還沒查完它是否真的一路影響最後的定理。程式檢查能確認證明符合寫好的定義,卻不會判斷定義本身是否真的表達了數學上的幾何條件,因此目前的發現還不能單獨判定整份證明是否成立。

    推薦理由:文章對照程式碼與驗證紀錄,說明形式證明能檢查推導是否符合定義,卻無法判定定義是否承載了名稱所指的數學內容。

  6. aihot60

    Together AI 說明提示詞外洩事件,建議敏感資料使用者啟用 ZDR

    Together AI 的部分提示詞樣本遭未經授權的人下載,起因是私有 Hugging Face 儲存庫的憑證被提交到公開 GitHub 專案 xorl。樣本來自 2026 年 6 月和 7 月對 MiniMax M3、GLM-5.2 和 Kimi K2.6 無伺服器推論服務的請求;對方也搜尋樣本中的其他服務憑證,並測試其中五個 Dragos 安全實驗用的金絲雀憑證。Together AI 表示,目前沒有理由認為資料又被轉傳,並已得知資料遭刪除;公司仍在檢查內容,確認是否涉及個人或客戶資料。公司已加強憑證和程式碼審查,並把 ZDR 設為新帳戶的預設值;處理敏感提示詞的客戶可在帳戶設定中啟用 ZDR。

    推薦理由:這起事件交代了提示詞樣本遭下載的原因、涉及範圍與後續管控,能幫助使用者判斷是否啟用 ZDR 並留意憑證管理。

  7. Lobste.rs (Engineering Discussion)74

    作者讓 Claude 從頭打造 Rust 瀏覽器,分享近兩個月的實驗

    大型軟體能不能交給 AI 自己一路做下去?作者從 10 月初開始,讓 Claude 從頭打造名為 SWB 的瀏覽器,只告訴它哪些網站要能使用,不介入技術決定。不到兩個月後,SWB 已能日常瀏覽部分網站,也有自己的 JavaScript 引擎,但複雜的網頁應用程式還不太行。早期多個 AI 助理同時改相同程式碼,造成衝突;改成一次處理一項工作後,進度變得順利。作者沒檢查程式碼,因此這次實驗呈現的是使用體驗與開發過程,不能據此判定程式碼品質。

    推薦理由:作者讓 AI 助理從頭打造瀏覽器,並記錄工作流程與遇到的協作問題,呈現大型軟體專案全程交由 AI 開發的實際經驗。

  8. Rohan Paul72

    英國隱語填字常用容易誤導人的文字遊戲藏起答案,而且只要填錯一格,就排在所有全對的解答之後。UT Austin 論文介紹的系統 Darmok,在 2026 年 Times Crossword Championship 解完全部 7 道題,沒有出錯,並在決賽中比人類冠軍快 3 分 13 秒。決賽時,主要服務明顯變慢,備援方式補上 30 個答案中的 17 個。這場比賽也顯示,系統遇到服務延遲時,備援路徑能協助完成作答。

    推薦理由:英國隱語填字的規則讓一格錯誤就失去完美解答,這套系統在決賽遇上服務變慢時,也靠備援路徑補上部分答案。

  9. Dev.to Top Tech76

    StudioVisualIdentity 用一個提示詞打造 18 種短影片風格

    自己做短影片時,常會不小心用上和別人很像的版型、字幕和動畫。作者開源了 StudioVisualIdentity,整理出 18 種視覺風格,每種都有設計規則和實際做出的短片,也提供一個提示詞,讓 AI 助理挑選風格並建立新的製作專案。作者還比較了兩種判斷風格是否不同的方法:看顏色和線條的程式測試把 4 支短片分錯,盲測則把 72 個畫面全都分對。這提醒我們,判斷視覺風格不能只看配色,還得看形狀、字型和呈現方式。

    推薦理由:這個專案把 18 種短影片視覺風格整理成 AI 助理可讀的設計資料,並用盲測結果說明單看顏色與邊緣容易誤判風格差異。

  10. hackernews10077

    LookAtMyQuant 用較小檔案儲存模型表現,並支援 Apple Silicon 執行

    模型檔案縮小後,回答品質可能跟著下降,也很難知道不同壓縮方法差多少。作者推出 LookAtMyQuant,會估算模型各部分壓縮後對輸出的影響,再分配儲存空間;新版也提供可在 Apple Silicon 上執行的模型與工具。以 Inkling-2-Mini 為例,5.38 GB 版本在 GSM8K 解出 134 題、HumanEval 通過 60 題;8.87 GB 版本在 GSM8K 解出 148 題,與原始模型相同。這些比較呈現了縮小檔案後的測試結果,也顯示表現會因模型大小與測試專案而異。

    推薦理由:作者提供多種模型在相同檔案大小下的量化比較,並列出數學、程式測試與文字差異,方便衡量縮小模型後的取捨。

  11. Lobste.rs (Engineering Discussion)74

    miniPG 把 PostgreSQL 裝進單一執行檔,免啟動資料庫伺服器

    有些自架軟體需要 PostgreSQL,使用者得先安裝並維持資料庫伺服器運作,試用起來不太方便。作者做出 miniPG,把完整的 PostgreSQL 伺服器和使用者端包進單一執行檔;指定一個資料夾就能建立資料庫、執行查詢,也能讓需要 PostgreSQL 伺服器的軟體使用它。程式結束後不必另外關閉資料庫服務,資料仍留在磁碟上。miniPG 適合本機、單人使用;若要在雲端服務多人或使用複本,作者建議照一般方式部署 PostgreSQL。

    推薦理由:miniPG 把需要啟動伺服器的 PostgreSQL 用法收進單一執行檔,文中也交代它適合本機單人使用的範圍。

11月21日週六
  1. Hugging Face Transformers Releases66

    Hugging Face Transformers v5.24.0 加入多種模型支援並調整快取名稱

    要在 Transformers 裡使用新模型,或讓不同模型共用一套程式,開發者常得處理各自不同的介面。v5.24.0 加入 Inkling 2 Mini、Apertus 1.5、Dory 和 Omnilingual ASR 等模型支援,也把原本依模型而異的 past_key_values 和 cache_params 統一改叫 cache;舊名稱目前仍可使用,但會出現棄用提醒。這次更新也修正了文字串流在中文、日文和韓文內容中可能漏空格或變慢的問題。

    推薦理由:Transformers v5.24.0 一次加入多種模型支援,也統一了快取名稱;更新內容能幫開發者掌握新模型接入與舊程式需要調整的地方。

  2. Dev.to Top Tech78

    Bitcoin 入門:用 15 分鐘建立自己的私有網路

    想弄懂 Bitcoin,不一定要先買幣或下載整條正式網路的資料。作者用兩個終端機小實驗說明,雜湊會替資料做出指紋,工作量證明則讓竄改舊紀錄變得很費工;接著帶讀者用 Bitcoin Core 的 regtest 模式,在自己的電腦建立私有網路。讀者可以建立錢包、挖出測試用的幣,再送出一筆付款,觀察交易先進入等待區,挖出新區塊後才算確認。這些幣只存在自己的電腦上,沒有價值,適合安全地練習節點與交易的基本流程。

    推薦理由:文章用可在筆電操作的私有網路,帶讀者親手看懂雜湊、挖礦與交易確認,適合作為理解 Bitcoin 節點運作的入門練習。

  3. Dev.to Top Tech79

    Linux systemd-repart 實作指南:用設定檔建立與擴充分割區

    手動替 Linux 磁碟分割區時,指令碼可能認錯磁碟,也容易在磁碟配置改變後失敗。這篇指南介紹 systemd-repart:先用設定檔寫出需要哪些分割區,再讓工具依照設定建立或擴充分割區;例如可在首次開機時替根目錄分割區增加空間,或新增固定大小的 swap 分割區。工具預設只預覽變更,也不會自行擴充分割區裡的檔案系統。它適合製作系統映像檔或整理新磁碟;遇到 MBR、需要縮小或搬動分割區時則不適用。

    推薦理由:文章用三個實作情境說明如何用設定檔建立或擴充分割區,並提醒哪些情況會動到資料,適合用來評估映像檔與新磁碟的管理方式。

  4. hackernews10086

    Inkling 2 Mini 發布,可在筆電上執行的開放權重模型

    模型要處理需要多步推理的工作,常得花更多時間或寫下更多推理內容。Inkling 2 Mini 會把模型中間的部分重複運算三次,作者表示,這讓它能用較少的 token 處理程式開發等任務;模型總引數為 26.4B,記憶體佔用約 20GB,也能在筆電上離線執行。它在多項同尺寸開放權重模型的程式與搜尋測試中表現突出,權重已公開;不過,多輪聊天和需要遵守許多限制的指令仍是弱項。作者也測試了重複運算對推理內容監看的影響,初步結果沒有顯示監看能力明顯變差。

    推薦理由:Inkling 2 Mini以反覆運算的架構提升推理能力,文中也比較了它在程式任務、長篇推理與監看能力上的表現。

  5. Browser Use84

    browser-use 1.0 如何用一個工具取代 24 個瀏覽器操作

    瀏覽器操作選項愈加愈多,AI 助理遇到選單裡沒有的功能時,還是會卡住。browser-use 1.0 把 24 個瀏覽器操作改成一個持續執行的 Python 工具,並讓 AI 助理直接使用 Chrome DevTools Protocol 操作瀏覽器。作者舉例,一個卡住的統計頁面重新載入後,AI 助理直接找到網站提供資料的入口,取得 4,720 筆資料,花了三分半鐘。新版在 BU Bench v2.1 的分數比 0.x 高 14 到 33 分,成本低了 2.7 到 5.2 倍;但這些數字來自整體改版,每個模型只跑一次,預設設定也有變,因此不能把差異全算在工具改動上。

    推薦理由:這次改版同時調整工具介面與預設設定,文中也用卡住的網頁案例說明單一程式工具如何處理原本選單未涵蓋的操作。

  6. vLLM Official Blog75

    vLLM 支援 Thinking Machines 的 Inkling 2 Mini 迴圈模型

    模型把部分中間層重複運算,會讓推論時的快取和訊息傳遞更難處理。vLLM 宣佈支援 Thinking Machines 的 Inkling 2 Mini,並在 NVIDIA Blackwell、Hopper 和 DGX Spark 上提供 Day-0 支援。Inkling 2 Mini 的 12 個核心層會對每個 token 運算三次,每次各自保留 KV cache,並讀取前一次運算傳來的訊息;模型有 26B 總引數、3.5B 啟用引數,支援最多 1M tokens 的上下文。vLLM 也支援可調整運算次數的研究檢查點,讓團隊能測試速度、記憶體用量和品質之間的取捨。

    推薦理由:Inkling 2 Mini 的迴圈層會讓每個核心層重複運算三次,vLLM 透過分開管理快取並融合訊息讀取來支援這種架構。

  7. aihot74

    Browser Use 刪除 13.7 萬行程式碼後,BU Bench v2.1 分數反而上升

    Browser Use 回頭檢視 browser-use 1.0,發現專用工具堆得太多,未必能讓 AI 助理做得更好。團隊把 24 個工具收斂成一個 Python 工具和兩種結束方式;這次改動新增 29,601 行程式碼,刪除 136,905 行,Python 檔案也從 178 個減到 43 個。材料指出,BU Bench v2.1 的得分在這次調整後反而上升,呈現了簡化工具設計的實際例子。

    推薦理由:作者比較重寫前後的同一項基準分數,呈現工具數量與模型表現之間的取捨,並提供精簡工具設計的實例。

  8. aihot81

    Thinking Machines Lab 發布可在筆電執行的開源權重模型 Inkling 2 Mini

    想在筆電上跑 AI 模型,常會遇到模型太大、速度不夠快的問題。Thinking Machines Lab 發布開源權重模型 Inkling 2 Mini,讓模型的中間層對每個 token 重複運算三次,增加推理計算;模型總引數量為 26.4B,記憶體約需 20GB,官方表示可在記憶體至少 32GB 的 Mac 上執行。原文列出多項程式開發與工具使用測試,也說明模型在多輪對話和大量指令限制的測試中較弱。迴圈設計還會讓更多推理留在模型內部,原文的初步測試沒有看到監控能力隨迴圈增加而明顯下降。

    推薦理由:迴圈架構讓模型在每個 token 上多做幾輪運算,原文也交代本機硬體門檻與推理監控實驗,可用來理解這種設計的取捨。