llama.cpp 修正 Qwen2VL 的 NVFP4 權重縮放設定
llama.cpp 的 Qwen2VL 在組合模型運算時,漏掉了幾個用來調整 FFN 權重的比例資料,導致模型算出來的結果壞掉:CUDA 上的困惑度約為 1e6,CPU 上則出現 NaN。這次修正把比例資料交給 FFN 運算,就像 Qwen2 的處理方式一樣,讓已載入的 NVFP4 設定能正確套用。
llama.cpp 的 Qwen2VL 在組合模型運算時,漏掉了幾個用來調整 FFN 權重的比例資料,導致模型算出來的結果壞掉:CUDA 上的困惑度約為 1e6,CPU 上則出現 NaN。這次修正把比例資料交給 FFN 運算,就像 Qwen2 的處理方式一樣,讓已載入的 NVFP4 設定能正確套用。
CSV 裡的銷售資料可能有重複、格式錯誤或缺少客戶與商品資訊,直接刪掉問題資料也會讓人看不出發生什麼事。Marymar 用 dbt 和 DuckDB 建立可重跑的資料流程,把資料分成可用結果與保留檢查的紀錄,再用測試確認資料沒有遺失、收入也能對上。流程通過檢查後,GitHub Actions 會自動發布報表和資料檔。這個範例使用合成資料,展示如何讓資料整理過程更容易追查。
在 AWS 上反覆測試程式,要等待資源建好,也可能碰到真實帳戶和費用。AWS 推出 AWS Emulator,讓開發者在自己的電腦模擬部分 AWS 服務,程式可以用原本的 AWS CLI、SDK 或 AI 助理來操作,不必改應用程式的程式碼。例如,測試程式建立 DynamoDB 資料表、寫入再讀取一筆資料,可以在本機快速完成。AWS 表示,這個模擬器的程式碼由 AI 助理撰寫和測試,也公開了用來比對模擬器與真實雲端行為的測試。不過,它不會嚴格檢查 IAM 許可權,也不適合拿來確認安全性、進行長時間負載測試或正式上線;這些仍要到 AWS 驗證。
推薦理由:文章整理 AWS Emulator 的本機測試方式與許可權檢查限制,能幫助開發者判斷哪些工作適合留在本機,哪些仍要到 AWS 驗證。
多人一起開發時,不同 AI 助理可能改到彼此負責的檔案,也可能同時做同一件事,或對 API 怎麼配合有不同想法。作者做了開源工具 CodeRelay,讓團隊成員先說明各自負責的程式碼範圍;需要其他人幫忙時,一位開發者可以把工作交給對方的 AI 助理,並附上指定 Git commit 的 API 約定。對方接下任務並完成後,原本的開發者會收到分支、commit 和工作摘要,方便整合。工具也提供 Alice 和 Bob 的本機示範,讓人不用先組好團隊就能試跑交接流程。
一般 AI 助理多半隻靠打字對話,作者想讓角色也能做動作、說話,並記住之前的資訊,因此打造了 3D 桌面 AI 助理 Wemmbu。程式用 Three.js 顯示角色和裝備,透過 OpenRouter 對話、Fish Audio 把文字轉成語音,並用 SQLite 儲存可搜尋、修改和刪除的記憶。角色動作由共用的動作清單管理,語音播放時嘴巴會跟著音訊活動動起來,但還沒有做到逐字對嘴。作者也分享用 Tauri 2 管理桌面程式和本機 Node.js 服務的做法,並提醒 Windows 安裝程式已在本機測試,Linux 和 macOS 套件仍需實際測試。
Redox OS 是用 Rust 開發的開源作業系統。最近的進度包括讓 Golang 編譯器能在 Redox OS 上使用,也把圖片編輯軟體 GIMP 移植完成。Golang 可以用來替其他平臺編譯程式,也能直接在 Redox OS 上編譯程式。 Redox OS 也更新了 Servo 瀏覽器引擎,並確認 NUMA 支援運作正常;此外,它簡化了 AI 政策,表示不接受由大型語言模型(LLM)產生的程式碼貢獻。這些改動讓更多工具能在 Redox OS 上運作,也清楚說明專案如何看待 AI 產生的貢獻。
資料湖倉常把表格資訊散放在許多檔案裡,資料一多,查詢前就得先找出要讀哪些檔案,還可能被大量小檔案拖慢。DuckLake 1.1 把表格中繼資料放進一般 SQL 資料庫,讓查詢能直接找到要讀的 Parquet 檔案;它也能把多個檔案合在一起,減少檔案數量和讀取請求。DuckLake 1.1 在 10 月推出,並附帶 200 多項錯誤修正。這次訪談由 The New Stack 訪問 DuckLake 開發者,說明這套開源格式如何用熟悉的資料庫方式管理湖倉資料。
推薦理由:訪談把資料湖倉的檔案與中繼資料管理問題,連到 DuckLake 1.1 的做法,能看出 SQL 資料庫目錄如何減少查詢前的整理工作。
猜自己的呼吸和脈搏,和攝影機測到的結果會差多少?作者做了桌面遊戲 Body Radar:第一回合先看著別處,在每次吸氣時按空白鍵;第二回合用滑桿猜脈搏。遊戲之後會把按鍵時間和呼吸波峰畫在同一個圓環上,也會顯示攝影機測到的脈搏,讓玩家看猜得準不準。遊戲使用 Presage SmartSpectra SDK,遇到光線太暗或動作太多時會提示玩家調整;呼吸與脈搏讀值只留在記憶體中,關閉視窗就會清除。作者也提醒,遊戲不提供醫療讀值,不能用來診斷或做醫療決定。
想找工作、分享專案或和其他開發者聊天,常常得在好幾個網站之間跑來跑去。來自孟加拉的 13 歲學生 Rizwan Rahim Chowdhury 因此打造 BSDC,把文章分享、即時聊天、工作和接案資訊、專案展示,以及開發者用品買賣放進同一個平臺,全球開發者都能加入。BSDC 有 14 個彼此分開運作的網頁 App,還有一個 Android App,使用免費的雲端服務運作;例如,即時聊天會顯示對方是否線上和正在輸入。這個做法讓不同功能能放在一起使用,也讓其他學生和開發者能透過公開的 GitHub 原始碼學習它的架構。
把 osu! 皮膚打包成 .osk 時,如果多包了一層資料夾,遊戲可能會匯入空白皮膚或顯示奇怪的名稱。作者說明,.osk 本質上是 ZIP 壓縮檔,皮膚檔案要直接放在壓縮檔最外層,並讓檔名和 skin.ini 裡的名稱一致。打包前也可移除編輯用的原始檔、重複圖片和沒用到的動畫影格,並用文中的小指令碼檢查位置與雜檔。完成後可雙擊檔案,或拖進 osu! 視窗匯入。
玩 Gravity Forge 時,玩家不用直接碰從天空落下的星核,而是放置引力節點,改變周圍的空間,讓星核轉彎掉進下方的收集器。每一波星核都更難引導,收集到的星塵則能用來購買這一局的升級和永久契約。遊戲用單一程式碼打造,能在瀏覽器和手機上免費玩,不必註冊,介面有 14 種語言。
這款霓虹風格的街機生存遊戲裡,最難纏的對手就是自己留下的飛行軌跡。每隔幾秒,先前飛過的路線會在場上重現;只要你又走回同一條線,就會被撞上。玩家可以加速、開護盾、放脈衝或擊退敵人,也能用收集到的火花升級機身、引擎和反應爐。遊戲用簡單的 2D 畫布製作,不靠遊戲引擎,整個遊戲放在單一資料夾裡,也能在不同平臺執行。遊戲免費、不用註冊,可以用手機玩,介面提供 14 種語言。
AI 助理若能直接執行指令,可能讀取雲端憑證,或連到原本不該碰的內網服務;不同網路共用相同網段,也可能讓連線出問題。作者推出開源工具 StarHub Kit 1.3.0,把一份網路設定轉成 Linux、macOS 和 Tailscale 可用的防火牆與連線規則,封鎖雲端資料入口和未允許的內網連線,也能隔開各沙箱的 Tailscale 狀態。使用者可先用預覽和風險檢查檢視設定,再決定是否套用;工具也能只針對部分 Apple 和 Gmail 連線限制 UDP/443,保留 YouTube 的 HTTP/3。
AquaSort 是一款用瀏覽器玩的倒水遊戲:把不同顏色的液體倒進試管,讓每種顏色最後各自集中在同一個容器裡。玩法很快就能上手,關卡會自己增加難度,還有每日挑戰、成就、外觀造型和雲端存檔。遊戲免費、不用註冊,手機也能玩,介面有 14 種語言;開發者用同一份遊戲檔案,透過 Playgama Bridge SDK 上架到 12 個遊戲平臺。
監控資料分散在不同工具時,要放在一起檢視和管理並不方便。Perses 是一套開源儀錶板工具,可呈現 Prometheus 指標、Tempo 追蹤、Loki 日誌和 Pyroscope 效能分析資料,也能把面板或整個儀錶板嵌進自己的介面。團隊可用程式碼管理儀錶板,透過命令列工具 percli 在 CI/CD 流程中執行操作,或用 Kubernetes 資源管理部署與儀錶板。它也支援匯入 Grafana 儀錶板,但轉換結果以盡力對應為準。
在 4 GB 筆電顯示卡上執行大型語言模型,傳統工具可能佔用不少記憶體,也讓啟動和回應變慢。作者推出開源工具 Swizzle Runtime v0.1.0,使用 Rust 編寫,並在同一臺電腦上和 llama.cpp 比較。測試中,Qwen3-0.6B 在顯示卡上的生成速度是 209.70 tok/s,首次回應時間是 43.37 ms;CPU 上的編輯測試則快了 37.7%。這些結果只適用於文中列出的測試裝置和設定。
用 AI 助理組出下拉選單看起來不難,但漏掉鍵盤操作時,使用者可能會卡在選單裡。作者親自試用 Vercel 的 UI SDK,發現它提供彈出視窗、選取和鍵盤操作等互動行為,AI 助理可以把這些行為組成介面,也能用同一套定義支援多種前端框架。不過,行為可以自由組合,也可能被漏掉;作者第一次做選人清單時,焦點就困在彈出視窗裡,後來用測試工具檢查鍵盤、焦點和 ARIA 才抓到問題。文章也提醒,SDK 的效能比較只測了一個畫面,不能據此推論所有情況都會更快。
多個 AI 助理一起做專案時,工作容易撞在一起,也很難確認修改是否一致。Timon 是一套在本機執行的工作站,能把任務分派給不同角色,讓寫程式的工作各自在分開的 Git 工作樹中進行,再由另一個模型檢查修改,通過檢查後才合併;重要步驟仍要由人明確核准。它支援 Claude Code、Codex 等程式設計工具,也能記住進行中的任務,讓使用者稍後接著做。Timon 已公開原始碼,核心採 AGPL-3.0 授權,SDK 和外掛範本則採 MIT 授權。
llama.cpp 的 mtmd 新增自訂影片解碼器,也調整了 wllama 的需求並清理程式碼。這次更新讓使用者能搭配自訂的影片解碼方式;發布資訊也列出 macOS、iOS、Linux、Android、Windows 和 openEuler 等平臺的建置專案。
PCB 自動繞線常會卡住,但問題可能出在零件擺放太擠,不一定是繞線工具不好。PCBEditor 會依照電路板的規則安排銅線,遇到接不完的線路時,會列出沒接上的名稱;如果還有線沒接好,也不會讓你把半成品輸出成 Gerber 檔。文中的 RP2040 開發板有 33 個零件、4 層銅線,最後仍有 9 組線路沒接完,系統建議加大板子或重新擺放零件。這提醒我們,自動繞線不是按一下就能解決所有問題;接線重要的部分可以先手動處理,再讓工具接著完成。
如果網站壞了,常常是客人先發現;只看首頁有沒有開啟,也可能漏掉結帳失敗或憑證過期。這篇指南提供一支 bash 和 curl 指令碼,檢查網站回應、重新導向後的位置、載入速度、指定文字和憑證期限,也示範怎麼用 cron 定時執行並在失敗時寄信。單一地點的一次失敗可能只是網路短暫出問題,作者建議重試,或從第二個地點確認;監測時也要避免警報太多,並替備份等定時工作設定心跳檢查。文章提到,個人網站可用自架工具或簡單指令碼,若需要多地點確認或保留紀錄,可考慮代管服務。
熱門開源專案常有程式檔案主要由一人維護的情況,但這不一定代表風險很高。作者分析 195 個熱門開源專案,發現每個專案中位數有 60% 的正式程式檔案,至少 80% 的提交來自同一人;但常常修改的檔案中,這種情況少得多。作者建議先找出近期改動頻繁、又主要由一人維護的檔案,安排第二位成員參與審查,並留下簡短說明,讓其他人知道程式為什麼這樣寫。
美國開放模型生態仍在摸索商業模式,黃仁勳離開輝達,可能讓原本的資金與倡議支援減少。Nathan Lambert 認為,輝達接下來得先穩住公司並向客戶交付,開放模型未必還能得到同樣投入;而算力不足、人才分散,也讓美國團隊難以追上中國開放模型。文章也提醒,監管風險可能升高,並認為要讓這個生態長久發展,美國需要培養真正具前沿實力的開放模型團隊。
推薦理由:文章從算力、人才與監管風險分析美國開放模型生態的脆弱處,也說明輝達的支援為何可能影響這個生態的發展。
美國的開放模型生態仍在起步,Nvidia 執行長 Jensen Huang 離任後,作者擔心這個領域少了一位願意出面支援、協調的人。開放模型能否形成穩定市場,還受算力供應、人才集中和監管影響;算力不足時,開放模型也未必能靠低價服務和封閉模型競爭。作者認為,美國需要培養有能力推出前沿開放模型的團隊,也需要產業聯盟面對監管與資安風險。文中提到,目前尚未看到熱門中國開放權重模型引發重大駭客攻擊,相關風險是作者的擔憂,並非已發生的事件。
挑螢幕時,光看解析度或更新率,常常看不出實際用起來有什麼差別;而 OLED 雖然畫面好,生產成本和能不能穩定量產也很重要。TCL華星一邊發展印刷 OLED,一邊把 AI 用在螢幕設計和工廠製程:像是用 AI 找出螢幕缺陷、協助修補,讓材料研發效率提升 20% 至 30%。印刷 OLED 則是用噴印方式把發光材料放到指定位置,材料利用率超過 90%。如果能穩定大量生產,成本有望降低。AI 也讓螢幕朝更適合多工使用的方向發展。這些技術能不能讓更多人買得到、用得好,還要看後續量產與產品合作。
同一套 Kubernetes 應用要在開發和正式環境使用不同設定,還得安全處理密碼並安排服務安裝順序,常讓維護工作變複雜。作者用 Helmfile 和 Kapitan 管理相同的 podinfo 與 Valkey 設定,並用檢查程式確認兩邊產生的檔案一致。比較結果顯示,Helmfile 能安排安裝順序、處理 Helm 發布紀錄,設定也較精簡;Kapitan 能一次產生多個環境的檔案,並用參照值保護輸出中的密碼。Kapitan 不會安排資源套用順序,這個例子裡 podinfo 能等 Valkey 啟動後再連線;若應用一開始就需要資料庫,就要由部署工具安排順序。
檔案越多,全部塞進大型語言模型的上下文就越慢;只找相似段落,也可能漏掉有用線索。Stanford 研究團隊開源 Memorilla,先把檔案整理成記憶,再讓凍結的 Qwen3-8B 每次讀取 16 個記憶 token。在 FactKG 測試中,它得到 84.33%,高於把全部檔案放進上下文的 80.43%,使用的檔案 token 少了 108 倍。研究團隊公佈的 8 項基準測試平均分是 49.68;但在 PubMedQA,Memorilla 得分 59.00%,低於 LLMLingua-2 的 69.00%。快速開始需要一張 80 GB GPU。
網頁上的連結常會多一個往右上方的箭頭(↗),但它有時也出現在只會帶你到同一個網站其他頁面的連結旁。作者檢視約 4,000 個 GitHub 公開專案,發現新建網頁專案裡有箭頭的比例,從年初約二十分之一升到 9 月以來接近六分之一。再看有 AI 標記的程式碼修改,Claude 加箭頭的比例曾在 Opus 4.8 時達 9.7%;Codex 在 GPT-6 Astra 推出後的那段期間,則有 26.1% 的介面相關修改加了箭頭。小樣本也顯示,Codex 加的箭頭更常指向同一網站內的連結。這些數字來自公開資料和有限樣本,作者也還不知道這種習慣從哪裡來。
AI 程式助理可能因為沒讀到專案規則,或只讀到部分內容,而和其他助理採用不同做法。作者檢查了 3,905 份 GitHub 上的 CLAUDE.md 和 AGENTS.md,發現兩份檔案並存時,約 16% 的 CLAUDE.md 沒有提到 AGENTS.md,因此 Claude Code 不會載入它;另有一些檔案要求助理自行去讀,或是複製後內容已經不同。作者建議在 CLAUDE.md 開頭單獨加上 @AGENTS.md,讓 Claude Code 匯入共用規則。研究也指出,超過 Codex 預設讀取大小的 AGENTS.md,後段內容不會送進模型;檢查只涵蓋公開 GitHub 專案,衡量的是規則有沒有傳到助理,不代表助理一定會遵守。
推薦理由:這份 GitHub 檢查整理了指令檔未載入、內容分歧與長度超限的情況,並說明如何讓 Claude Code 讀取 AGENTS.md。
用平價模型操作 AI 助理時,常會遇到它做多步任務容易出錯,還可能一路朝錯的方向做下去。Mocu 的開發者讀到一篇研究後,想替 AI 助理加上會累積經驗的「世界模型」:動手前先從過去的行動結果和目前狀況,猜猜接下來會怎樣;如果猜錯,就把教訓寫成規則,留給下次參考;沒把握時則不採用預測。 這些經驗會以文字存下來,使用者也能檢視和修改,不必重新訓練模型。不過,多做一次預測會增加成本,錯誤的規則也可能越積越多。開發者還沒驗證這個做法能不能讓平價模型更會完成任務,打算拿它測試目前常失敗的工作,再公佈結果。
公開的安全漏洞愈來愈多,維護系統的團隊得更快判斷該先修哪一個。文章轉述 VulnCheck 的統計,截至 11 月 13 日,2026 年已公佈 100,222 件 CVE,超過 2025 年全年的 49,972 件;其中 1,363 件已有實際攻擊紀錄。VulnCheck 資料顯示,漏洞公佈到遭利用的平均時間,從 2025 年的 120 天縮短到 2026 年上半年的 80 天。美國 CISA 也在 6 月改變修補排序方式,要求依系統是否連上網路、漏洞是否已遭利用,以及攻擊能否自動化來判斷風險。
推薦理由:CVE 數量快速增加,讓維護團隊更難排定修補順序;文章也呈現公開漏洞後,攻擊者開始利用的時間正在縮短。
網站上線前,光靠感覺很難知道它能不能應付多人同時使用。這篇教學用 k6 和 JavaScript 寫一個簡單測試,讓 10 個虛擬使用者連到測試網站,執行 30 秒,並檢查回應是否正常。測試結束後,可以看請求花多久、失敗比例和檢查結果;也能設定規則,要求 95% 的請求在 500 毫秒內完成、錯誤率低於 1%,超過就讓測試失敗,方便放進 CI/CD 流程。
GitLab 自架版的管理員可以設定自己的觀測服務,但 GitLab 原本把這些網址當成 GitLab.com 的服務網址,可能因此組出錯誤的連線位置;如果必要設定沒填好,快速入門畫面也可能出錯。作者修改程式,先確認網址是不是 GitLab 託管的服務,再決定要不要自動產生連線位置;缺少必要設定時,畫面會改成提醒管理員補上。這項修正也更新了檔案、測試和翻譯,最後通過審查與 CI,作者因此升上 GitLab Level 3 Community Contributor。
把 React Three Fiber 和 8th Wall 接在一起時,如果各自建立畫布和 WebGLRenderer,畫面更新、尺寸和點選就可能互相干擾。作者開源了一套入門範例和可選的 npm 套件,讓兩者共用一個畫布和 WebGLRenderer:XR8 負責相機畫面與每一幀的更新,React Three Fiber 負責場景內容。這樣開發者仍能用熟悉的 JSX 元件寫 AR 場景,也可把同一個場景放進一般的 React Three Fiber 畫布中測試。用手機測試時,頁面需要透過 HTTPS 開啟,才能使用相機。
用 AI 助理協助資安檢測時,工具可能把掃描範圍擴大,也可能把自己寫出的說法誤當成證據。這份指南帶新手設定 KaliGPT、Ollama、OpenCode 和 Kali MCP,先確認書面授權與目標範圍,再由人逐次核准 Nmap 和 Nikto 掃描,並保留工具產生的原始報告。它也說明如何透過 ZAP 檢視登入後的流量、比對疑似誤報,以及確認掃描是否逾時。文中強調,模型的說明不能取代掃描結果,報告也不代表已涵蓋所有漏洞。
安裝 GE-Proton 只要把壓縮檔解開到 Steam 會找的資料夾,再重新開啟 Steam;但 Steam、Bottles、Lutris 和 Heroic 各自存放檔案的位置不同,一不小心放錯,Steam 的版本選單就可能空空的。ProtonUp-Qt 用選單挑安裝位置和 GE-Proton 版本,幫忙省掉找資料夾、記版本的麻煩;不過要先完全關閉 Steam,否則它可能看不到新版本,或在關閉時把設定寫回去。GE-Proton 也不是裝了就能讓遊戲變快:先用一般 Proton,遇到遊戲打不開、動畫變黑畫面等問題時,再替那款遊戲換成需要的 GE-Proton 版本就好。
累計下載量容易讓較早推出的模型一直排在前面,不容易看出最近哪些公開 LLM 正被下載。Vidraft_lab 做了一份每天更新的 Hugging Face 排行榜,列出全球前 300 名和韓國前 30 名,並同時顯示近 30 天與累計下載量。榜單按模型家族判斷訓練來源,也排除自動化測試用模型、嵌入模型和重排序模型。2026 年 11 月 14 日的全球榜單中,gpt2 近 30 天下載量居首;韓國榜前兩名則是 POCKET-Darwin-180B-GGUF 和 POCKET-35B-GGUF。
替 AI 助理設計介面時,開發者常得處理鍵盤操作、焦點和選取等細節。Vercel Labs 推出開源測試版 UI SDK,把這些介面行為整理成可組合的零件,AI 助理可以用它們組成選單、日期選擇器等元件,並支援 React、Vue、Svelte、Solid 和 Web Components。SDK 也提供操作橋接,讓 AI 助理讀取介面狀態並執行動作;Vercel 的一項設定任務測試中,完成時間從 41 秒降到 16 秒。不過測試只有 1 項任務、跑了 3 次,結果僅供參考,而且這仍是可能變動的測試版。
在 iOS 和 macOS App 裡使用資料庫時,開發者常得在簡單易用和進階 SQL 功能之間取捨。SwiftStream 創辦人推出 Duck,讓 Swift 程式可以在 App 內使用 DuckDB,並用 Swift 的資料模型和寫法建立查詢、管理資料表更新,以及觀察查詢結果的變化。DuckDB 原本偏向分析資料,作者提醒,若工作主要是大量小筆更新,應先用自己的情境測試;加入 Duck 也會讓 App 體積增加。Duck 1.0 支援 iOS 15 以上和 macOS 12 以上。
LLM 很會寫字,卻可能給出現實中做不到的建議。像是遇到叫車司機正在開車,AI 卻叫乘客把翻譯好的手機畫面拿給司機看。GoChinaTrip / SSAP 用一套規則要求 AI 先弄清楚人在哪裡、卡住的問題是什麼,以及當下能用什麼方式溝通,再檢查建議能不能真的做到,例如下雨時能否拖著重行李完成。測試者也會親自走一遍路線。這種做法能讓建議更貼近現場,但文章沒有提供足以證明 AI 幻覺已完全消失的結果。