llama.cpp b12479 開始支援 Minimax-Music3
llama.cpp 這次更新,加入對 Minimax-Music3 的支援,並修正、整理了相關程式碼。更新頁面也列出多種系統和硬體的版本,例如 macOS、Linux、Android、Windows 與不同 GPU;其中有些版本標示為停用。
llama.cpp 這次更新,加入對 Minimax-Music3 的支援,並修正、整理了相關程式碼。更新頁面也列出多種系統和硬體的版本,例如 macOS、Linux、Android、Windows 與不同 GPU;其中有些版本標示為停用。
玩電腦遊戲時,手邊沒有合用的控制器,或想用手機直接操作電腦,可能得另外找工具。作者更新開源 Windows 工具 HSH Gamepad,讓手機透過瀏覽器連上電腦,可當遊戲控制器、方向盤、觸控板,也能在 v1.0.5 中顯示並觸控操作電腦畫面;有兩臺螢幕時還能切換。使用者可以自行調整按鈕位置和大小、設定連續操作,也能複製版面設定分享給朋友。這次更新也加入 12 種內建語言、連線防護選項和防火牆協助功能。
大型語言模型要在 AWS Trainium2 上提供服務,需要配合硬體準備模型和程式。RunAnywhere 開源了 TrnRT,能在一臺 trn2.48xlarge 上運作 GLM-5.3-Flash,並提供相容 OpenAI 的 API,讓現有使用者端可以呼叫。它也會記住已處理過的文字,讓相同開頭的請求少做一些重複工作。作者列出不同批次設定下的速度、延遲和成本;例如批次 12 每分鐘處理 3.57M 個 token,每百萬 token 的 spot 成本為 $0.040。這些數字來自較早版本的 TrnRT。
Android 程式碼庫很大,下載原始碼和重新建置常要等很久,也讓開發者和 AI 助理難以快速開好多個工作區並平行測試。Google 做了開源工具 ABFS,先載入檔案清單,等建置真的需要某個檔案時才下載,並重用 CI 和開發者已經做好的建置結果。Google 表示,Android 原始碼下載時間從約 36 分鐘縮短到不到 8 秒,完整建置則從約 80 分鐘縮短到 2 分鐘多。ABFS 也能讓多個工作區共用快取;Google 正探索把它用在其他大型 Git 專案。
推薦理由:ABFS 把大型 Git 專案的檔案按需載入,並重用 CI 與開發環境的建置結果,文中以 Android 實測呈現這套做法如何縮短等待時間。
在 Mac 上同時開著本機大型語言模型、Docker 和瀏覽器時,記憶體不夠用,卻很難知道哪些程式能安全關閉。作者因此做了 canfit,讓使用者檢查模型或應用程式能不能在目前的記憶體下啟動;如果空間不足,它會建議關閉哪些應用程式,系統程式則不會列入,而且未經確認不會關閉任何程式。檢查 GGUF 模型時,canfit 會估算模型權重、上下文快取和額外用量;在 Apple Silicon 上,也會檢查 GPU 可使用的記憶體上限。它還能即時顯示各應用程式的記憶體用量,幫助使用者減少重開機來騰出空間的情況。
團隊想完成大型專案,常會卡在人手和時間不夠。Replit 推出 Missions,使用者先說明目標、預算和哪些動作要先核准,接著由多個 AI 助理分工規劃、開發、測試和修改;完成進度與待核準事項都能檢視。Replit 用它打造自家的監控平臺 DataCat,花 2 天、預算上限 $3,000,完成儀錶板、警示和追蹤功能;測試時,平臺在 38 秒內找出刻意加入的資料庫錯誤。Replit 表示,DataCat 的自架版本也已開放原始碼。
推薦理由:Missions 把多個 AI 助理分工執行、預算限制與人工核准放進同一流程,文中 DataCat 案例也呈現這套做法如何處理監控平臺建置與效能檢查。
跑大型 AI 模型很花運算資源,如果只是分派程式工作、檢查格式,可能有點大材小用。這個專案用 Ollama 在本機操作 NVIDIA Nemotron 3.5 Lightning:模型共有 30B 個引數,但每次只啟用 3B 個,兼顧模型容量與執行速度。工具會顯示生成速度和等待第一個字出現的時間;專家啟用熱度圖則是模擬畫面,因為 Ollama 目前不會提供模型實際用了哪些專家的資料。這讓人能在自己的電腦上觀察模型運作,也能分清哪些數字是實際量到的,哪些只是示意。
AI 模型越來越大,AI 助理也會累積大量工作紀錄,讓推論和訓練更難在不同硬體上順利進行。SGLang Summit 發表 SGLang v1.0,聚焦提升正式環境的效率與擴充能力;Miles v0.2 則支援 NVIDIA 和 AMD GPU、Google TPU,並將強化學習擴充套件到圖片、影片和音訊。大會也分享多個部署案例,例如 Meta 表示,改用 SGLang 後 GPU 用量減少超過 2 倍。這些更新與案例呈現了團隊如何把實際部署需求帶回開源工具的開發中。
推薦理由:SGLang 與 Miles 的更新涵蓋推論和強化學習,也整理了不同硬體與實際部署的經驗,可看出開源工具如何回應現場需求。
資料庫專案若限制別人怎麼使用,可能讓使用者不方便;但若完全開放,也得找到維持營運的方式。Antfly 團隊宣佈 0.3 版採用 Apache 2.0,讓人可以使用、修改,也能把它放進自己的產品或拿來做生意。團隊打算透過 Antfly Cloud 收費代管資料庫,自己架設則不必付費。0.3 版還能用 SQL 查詢資料表、直接查詢物件儲存空間裡的 Iceberg 和 Parquet 資料表,也能從檔案建立知識圖譜,並用研究 AI 助理產出附有引用來源的報告。
有些 PHP 框架會在背後偷偷改變程式的運作方式,讓工程師和 AI 助理不容易看懂,也不容易寫對。NexPHP 改用清楚的型別和標記來處理請求,像是收到商品資料時,會自動檢查內容;不符合規定,就回傳錯誤。 NexPHP 也能讓 PHP 程式長時間留在記憶體裡運作,並在每次請求結束後清掉使用者等暫存資料。作者表示,測試中它每秒可處理約 218,000 個請求,連續處理 10,000 個請求後,記憶體用量沒有增加。框架也附有工作佇列、排程和安全防護等功能,想讓開發者少寫重複程式碼,也更容易和 AI 助理一起工作。
開發電腦裡常會堆著 node_modules、快取和舊的 Docker 資料,不知不覺就佔掉好幾十 GB。smartclean 是一款 CLI 工具,會先列出能清掉的資料夾和大小,等你確認後才動手,也能用 --dry-run 預覽。它只會刪除能確認重新產生的資料,例如旁邊有 lockfile 的資料夾;不確定安不安全就會跳過。作者表示,多數電腦第一次清理可騰出 5-20 GB,讓人比較放心地找回硬碟空間。
原本只在 Linux 上使用的 Bahá’í Reader,是一本離線祈禱書和聖作閱讀器;但想用它的人不一定有 Linux 電腦。開發團隊把它改用 Flutter 重做,讓同一款閱讀器也能在 Windows 和 Android 上使用,並推出新版 1.0。舊版 Linux 使用者第一次開啟新版時,原有的重點、筆記和閱讀紀錄也會帶過來。它不需要帳號,也不會傳送其他資料;不過 Windows 版目前還沒有提醒功能,macOS 和 iOS 版也尚未建置與測試。
用 AI 寫程式時,只看總花費,很難知道哪些錢真的換來了成果。Estela 新增了 ai-cost --undelivered,利用原本就有的資料,分開找出兩種狀況:聊天期間和結束後半小時內都沒有程式碼提交的工作階段,以及有 AI 花費、但預設已閒置 14 天的分支。舉例來說,花在還在修改的分支上的錢,和花在後來沒提交成果的工作上,代表的問題不同;分開計算,才知道該處理哪一種。repo 的費用若找不到依據,Estela 會列為「無法歸屬」,不會猜測分攤。
網頁通常得靠 JavaScript 才能做出對話方塊、選單和分頁,但 Alloy CSS 的示範頁展示了另一種做法。這個頁面用單一 HTML 檔呈現虛構記帳 App Ledger,裡面有發票清單、逾期款項、付款紀錄和常見問題,整頁沒有使用 JavaScript。想了解 Alloy CSS 怎麼呈現這些介面,可以檢視頁面的原始碼。
自己從頭寫提示詞很花時間,太籠統的指令也可能讓 AI 助理只會附和。agency-agents 是一個公開的 GitHub 專案,整理了 100 多份 Markdown 提示詞,依工程、測試、設計和產品等工作分類,並寫出具體規則和該提醒的問題。你可以把需要的檔案連結或複製到 Claude Code、Cursor 等工具,依規劃、寫程式或測試階段更換提示詞。提示詞太長會佔用模型的 token 額度,因此作者建議一次挑一種適合手邊工作的角色,也可以刪掉用不到的規則。
企業要配合巴西消費稅制改革調整許多系統,若各自解讀計算規則,容易出現差異,也增加開發與核對成本。巴西聯邦稅務局把稅額計算工具的原始碼公開到 GitHub,採用 MIT 授權,讓企業和軟體開發者能把官方的 CBS 等稅額計算方式整合進既有系統,並檢視計算依據。公開的程式碼也方便追蹤版本更新和確認真偽。這項工具是供企業整合使用的元件,不是要取代現有系統。
瀏覽器分頁開太多,想找回之前存的網頁時常得翻半天。CofreTabs 是一款給 Chromium 瀏覽器使用的免費開源擴充功能,讓你自己挑要收藏的分頁,再用網站分類或自訂資料夾整理,也能搜尋、加最愛、寫筆記,甚至救回刪掉的分頁。收藏內容存在自己的裝置上,不用帳號或雲端服務,也沒有追蹤功能;目前要手動安裝。
資料大多不變、卻需要一直快速查詢時,一般資料庫可能用不上,逐筆搜尋也可能太慢。VennDB 是用 Rust 寫的記憶體資料庫,資料加進去後可以持續追加,再用布林欄位或其他簡單條件篩選。作者用 10 萬和 100 萬筆資料測試,並和 SQLite、逐筆搜尋等做法比較;結果顯示,部分查詢在這些測試中更快、索引也更省記憶體。作者提醒,VennDB 適合特定的長時間讀取情境,不能取代一般用途的資料庫。
用 Casio CTK-2500 接上一般 Windows 電腦時,按下琴鍵,聲音會晚一拍才傳出來,讓人很難跟著節奏彈。作者用一段短促的聲音,從喇叭輸出再接回電腦錄音,量出聲音來回所花的時間:一般模式延遲 127.5 ms,WASAPI 共用模式是 40.8 ms;WASAPI 獨佔模式約 20 ms,但 4 次錄音有 3 次出現雜音。檢查也顯示,程式送出的聲音原本正常,雜音是在後面的音效處理過程中出現。這些測量還沒校準,結果只能先當線索;作者接下來想讓電腦辨認琴鍵,再用其他樂器的音色播放。
查政府薪資資料常得下載很大的表格,再自己找地點、職稱和公司,才能算出薪水中位數。作者做了 h1bsalarydata.org,把美國勞工部的 H-1B 申請資料整理成容易查詢的網站;搜尋職位後,就能看到薪水中位數、申請件數和主要僱主。例如,想了解西雅圖資深後端工程師的薪資,可以檢視不同工作等級的資料。網站用中位數呈現薪水,減少少數高薪案例拉高平均值的影響,也讓求職者和僱主更容易參考真實申請紀錄。
寄出一封通知看起來只要一行程式碼,但收件延遲、重複寄送、使用者退訂和大量寄送撞在一起,就會變成一整套難維護的系統。作者分享七種實際出錯情境,說明通知系統如何用相同的訊息 ID 辨認重試、在使用者安靜時段暫緩非緊急訊息、依寄送上限排隊,並確認收件者沒有退訂。文章也介紹作者打造的開源通知服務 notifkit,可自行架設在 Postgres 和 Redis 上,並用工作流程安排訂單通知;作者說明它無法保證每封信只寄一次,也需要自行維運。
看一長串刷卡紀錄和圖表,不一定知道錢到底花去哪裡,也很難判斷接下來能不能買車。HackJunction 2026 的參賽團隊 Project Aethon 做了 Revi,讓使用者直接用聊天方式詢問自己的財務狀況。Revi 會整理日常花費、固定支出和不定期但必要的開銷,也能試算明年買車對預算的影響,或看看多存三個月、調整目前花費會有什麼差別。它還能參考外部資訊,例如目前價格,協助使用者想清楚不同選擇會帶來的結果。
Janzeer 開始用 JNZ 懸賞 GitHub 工作後,外部開發者在 5 天內完成 Windows 和 macOS 安裝套件、SDK 功能與範例,拿到 410 JNZ。領取方式是先在 GitHub 問題下留言,再提交程式碼;合併後才會付款,紀錄公開可查。 檢查程式碼時,團隊發現有些數字的單位弄錯,也有人把區塊和創世檔案搞混;實際連上主網測試,還揪出 TypeScript SDK 原本就有的錯誤。另有一些修改因刪掉既有功能或只交說明檔案而沒被合併。這一週的經驗顯示,公開規則和實際測試能幫忙找出問題,也讓貢獻者知道為什麼修改沒通過。
AI 很快就能寫出程式,但專案是否好好維護,還得看程式庫裡的設定和紀錄。作者做了 check-repo-ready,執行後會檢查主分支是否受到保護、提交程式碼時是否跑過 CI、提交說明是否清楚,以及 README 和金鑰是否有問題;工具只讀取資料,不會修改專案。作者用自己的專案示範,工具找出主分支沒有限制直接推送,以及根目錄缺少 README。若金鑰曾出現在 Git 紀錄中,刪掉檔案也不夠,還需要更換金鑰。使用需要 Node 22.12 或更新版本,以及 git。
Emacs 的修改要送進正式版本,流程可能比一般 GitHub 專案更花時間。作者分享自己提交並收錄到 Emacs 31 的幾項改進:Dired 可以隱藏目錄的完整路徑,macOS 版補上語音辨識所需的許可權說明,也能從右鍵選單把檔案或選取文字傳給其他 App;此外,修正也讓 Emacs 30 失去的 macOS 聽寫功能恢復。作者也提到,新加入的分享功能能透過不同處理方式串接其他系統的分享工具。
機器人會用相機、LiDAR、慣性感測器、輪子編碼器和 GNSS 取得不同資料,幫自己定位並畫出周遭環境;麻煩是各種感測器可能失準、故障,資料也不一定能直接放在一起。鬆散融合會先讓各感測器各自算出位置,再把結果合起來,方便更換和檢查,但可能漏掉原始資料之間的線索;緊密融合則把不同感測器的資料放進同一套計算,讓它們互相補足,代價是系統更複雜、運算量也可能更大。 例如室內機器人可以用輪子和慣性資料追蹤短時間的移動,再用 LiDAR 對照建築環境修正位置;相機也能提供地標或協助辨認走過的地方。實際系統常把兩種做法搭配使用,並依感測器狀況調整資料影響力。重點是讓機器人在某種感測器變差或失效時,仍能穩定定位,並妥善處理不確定性。
Tor 網路遭到持續的 DDoS 攻擊,大量建立通訊電路讓中繼節點負載過重,影響多數節點營運者。Tor Project 發布 Tor 0.4.9.17,修補 IPv6 使用者端計數方式的漏洞:過去同一個 /64 網段裡的不同位址會分開計算,攻擊者因此可能不斷換位址來避開連線限制;更新後,Tor 會把同一網段的位址合併計算。官方也修正 DNS 回覆及通訊電路共用問題,並呼籲中繼營運者升級;升級後不必另外設定。
llama.cpp 的 b12470 修正了 SYCL 搭配 mkl 時,遮罩套用到多個注意力頭或批次會出錯的問題,也替 macOS、Linux、Android、Windows 等平臺提供多種版本。伺服器啟動指令碼原本新增了 cache-ram 引數,但格式有問題,因此這項調整移到另一個 PR 處理。
桌面 AI 助理念出工作結果時,如果要等整段語音檔做好才播放,使用者得先等一段時間。Krish Verma 為 Ankita AI 改用串流語音,收到第一段音訊就開始播放,並在目前句子播放時準備下一句;完成的語音也會留在快取,方便重播。一次實測中,第一段音訊在 491 毫秒後到達,但這只是單次結果,不能當成普遍的速度保證。遇到供應商不支援串流時,程式會改用原本的整段合成方式,面板也會顯示實際採用的播放模式。
這次 PyTorch 更新調整了 CPU 和 GPU 一起運算時的處理方式:在把運算合併到 GPU 之前,先完成 CPU 上的純量運算。這項修改記在版本 viable/strict/1794910847 的發布內容中。頁面沒有提供更多細節,因此無法從中判斷它會改善哪些使用情境或帶來多大差異。
畫 SVG 通常得靠很大型的 Cairo 或 Skia,裡面有許多複雜程式碼,一般人不容易看懂。作者花了約 10 年打造 Nile,讓人用較簡單的語言描述圖形怎麼變成螢幕上的畫素,再由編譯器負責整理和執行。他用約 300 行 Nile 程式碼畫出一隻老虎,同一份程式也能編譯成 JavaScript、WASM 和 WebGPU 版本。這套工具目前還在開發中,速度可能比不上專家為特定硬體調校的繪圖工具;它更大的價值,是讓人有機會看懂圖形繪製的原理。
在 FreeBSD 主機上管理多個服務,常得分別處理隔離、網路、防火牆和備份。JailOps 把這些工作放進同一個主控臺,也能用命令列或 API 操作;每個應用程式會放在獨立的 jail 裡,並可設定誰能連線。管理者可以建立快照、升級服務,或把備份還原成新的 jail。防火牆變更若沒有確認,會自動復原,避免設定錯誤後連不回主機。JailOps 支援 FreeBSD 15.1 以上版本,也提供應用程式目錄供安裝。
Windows 也能有像 Apple「動態島」的互動小工具了。WinIsland 是一款開源桌面程式,可以顯示音樂控制、CPU 和 RAM 使用情況與電池資訊,也能檢視行事曆、待辦事項和專注計時器;它還整合 Gemini AI,並加入會動的通知和桌面小夥伴 Pixel。WinIsland 使用 Python 和 PyQt6 製作,提供安裝程式,原始碼採用 MIT License。
大型分析資料庫要跟上 PostgreSQL 的修補,也得照顧不同作業系統和硬體平臺。Apache Cloudberry 2.2.0 把核心從 PostgreSQL 14.4 更新到 14.10,納入多項上游安全修補,並加入六種擴充功能與多項查詢改進。這個版本支援 Rocky Linux 8、9、10 和 Ubuntu 22.04、24.04,Ubuntu 20.04 則不再支援;安裝套件也支援 x86_64 和 ARM64。
大量資料載入 PostgreSQL 時,原本的工具會在單一工作程式裡讀取、解析和寫入,讓多核心電腦的其他核心閒著。pg_fastload 1.0.0 把讀取和解析分給背景工作者,再由原本的工作程式負責寫入;整次載入仍是一筆交易,遇到錯誤資料就會取消整次載入。文中的測試以 1 GiB CSV 資料進行,預設設定比 COPY 快 6.07 倍,比上游 pg_bulkload 最快的模式快 1.58 倍。部分設定不適用平行處理時,程式會自動改用單一工作程式。
推薦理由:pg_fastload 把讀取和解析工作分給背景工作者,同時保留單一交易;文中也比較了它和上游工具及 COPY 的測試結果。
用聊天模型產生 JSON,雖然能做出看起來完整的知識圖譜,卻不容易看出哪些關係是模型猜的。edgextract 先讓人用 YAML 說明哪些種類的人事物和關係可以出現在圖譜裡,再讓小型本機模型逐一判斷候選關係是否成立,並給出機率;你可以設定門檻,把關係留下、交給人檢查,或丟掉。 在 288 個新聞句子的測試中,edgextract 產生 218 條錯誤關係;用聊天模型寫 JSON 的做法則有 504 條。它目前仍在早期階段,可在本機執行,不必連上雲端。這種做法讓圖譜中的每條關係都經過檢查,但使用者仍要先設定好門檻,並抽查留下的結果。
不同遊戲平臺各有遊戲清單和遊玩紀錄,很難一次看清自己買了哪些、實際玩過哪些。Hex Guard 做了 Playroom,這個可自行架設的網頁程式會同步 Steam、PlayStation 和 Xbox 的遊戲資料,也能檢視遊玩時間、成就、獎盃和活動日曆;Nintendo 遊戲則要手動加入。PlayStation 資料需要用自己帳號取得的 NPSSO token,若 Sony 更改網站,這項同步功能可能失效。Playroom 用一個 Docker 容器就能執行,資料放在可備份的資料夾,適合想把遊戲收藏集中管理並自行保管資料的人。
呼吸和心跳平常只會以數字呈現,不容易直接感受到自己的身體節奏。AuraFlow AI 是一款桌面健康體驗,透過攝影機和 Presage SmartSpectra SDK 讀取人體訊號,再用發光球體和海洋畫面呈現。當系統取得有效的呼吸資料,球體會跟著呼吸逐漸變大、變小;有效的脈搏、心率變異和訊號品質也會顯示在畫面上。沒有有效資料時,程式會留白,不把模擬數值當成真的。它讓人用畫面感受呼吸節奏,但不是醫療工具,不能用來診斷或治療。
不想一直開著 Gmail 分頁,卻又怕漏看新信?Gmail Notifier 是一個 Python 桌面小工具,會檢視一個或多個帳號的未讀郵件,並用電腦通知顯示信件主旨和簡短預覽;點一下通知,就能在瀏覽器開啟那封信。它也能播放通知音效、記錄變化,並在設定或程式碼更新時重新啟動。Windows、macOS 和 Linux 都有對應的通知與音效設定說明,讓你不用替每個信箱都開著 Gmail 分頁。
一次下載整份 YouTube 播放清單,若要逐支處理會很花時間,也可能重複下載同一支影片。這個名為 youtube_bulk_downloader 的網頁工具,可以輸入播放清單或頻道、選擇畫質,還能限制下載數量;下載時會顯示進度,並記下下載紀錄。它也能同時下載多個檔案,發現已經下載過的檔案就會跳過。下載頻道影片時,可以只抓最新的幾支。工具使用 yt-dlp 取得影片、用 FFmpeg 處理媒體;作者提醒,只能下載自己擁有、獲得授權或依法可以儲存的內容,也要遵守著作權與 YouTube 規定。