OpenRouter 實測 MCP、CLI 與技能在 GitHub 任務中的上下文 token 成本
OpenRouter 比較 MCP、CLI 與技能完成同一個 GitHub 任務的 token 成本,並測試縮小工具範圍、精簡結果與 Tool Search 的影響。
推薦理由:同一 GitHub 任務的實測比較呈現 CLI、技能與 MCP 的 token 成本差異,也整理工具範圍、結果欄位與延遲載入對成本和答題表現的影響。
拿來就能用的實操內容:提示詞技巧、工作流搭建、工具用法與踩坑經驗。
OpenRouter 比較 MCP、CLI 與技能完成同一個 GitHub 任務的 token 成本,並測試縮小工具範圍、精簡結果與 Tool Search 的影響。
推薦理由:同一 GitHub 任務的實測比較呈現 CLI、技能與 MCP 的 token 成本差異,也整理工具範圍、結果欄位與延遲載入對成本和答題表現的影響。
文章提出一套股票 API 驗收方法,將重新連線、訂閱恢復與資料可用性分開測量,避免只以串流速度判斷恢復狀況。 - 兩種恢復契約:狀態契約確認必要商品與欄位是否恢復、資料是否夠新;歷史契約確認中斷期間的事件能否補回,以及如何處理重複事件與無法重建的區間。
推薦理由:文章以斷線情境拆解狀態恢復與事件連續性的差異,並提供可重複的驗收契約與故障注入方法,協助依應用需求比較 API。
AWS 說明如何在 Amazon Bedrock AgentCore Evaluations 中,依代理的業務成果選擇內建、DeepEval 與 AutoEval 評估器,檢查任務完成、工具使用、對話品質與安全等行為。
推薦理由:文章以客服、研究與專業領域代理為例,說明如何從業務成果拆解可觀察行為,再選擇追蹤或工作階段層級的評估器。
Google DeepMind 說明 AlphaProof Code 如何為特定 Signal 編譯實作建立機器檢查的安全證明,並由獨立檢查器比對經人工核准的規格與其相依定義。
推薦理由:文章拆解形式化驗證的信任邊界,說明規格、編譯產物與密碼學假設如何共同限制安全結論的適用範圍。
Modelplane 推出一份面向平臺工程師的開放式推論工程指南,從模型與 GPU 記憶體配置談到正式環境部署、效能調校和職涯發展。 - 部署與維運:說明推論引擎、控制平面與閘道的分工,並整理 GPU 配置、身分驗證、逾時、監控、自動擴縮及版本發布等實務。
推薦理由:內容以平臺工程師熟悉的 Kubernetes、SRE 與容量規劃為起點,串連 GPU 記憶體、引擎調校及正式環境維運,呈現推論服務的實務脈絡。
OpenRouter 教學比較三種從 LLM 取得結構化輸出的方式,並說明如何依端點支援情況選擇 JSON Schema、強制工具呼叫或決策模型。 - 測試結果:使用 24 條客服訊息測試多款模型;九款支援結構化輸出的模型共 216 次回覆中有 209 次符合嚴格 schema,七次失敗都來自同一個未遵循 schema 的服務商。
推薦理由:文章以 24 條客服訊息比較 JSON Schema、強制工具呼叫與決策模型,並整理端點支援差異及校驗失敗案例,提供可直接套用的選擇依據。
Wiz Research 說明如何設計 Cyber Model Arena v3.9,評估 AI 助理執行真實網路安全任務的能力。 - 基準規模:涵蓋 26 個模型、59 個AI 助理與 327 道挑戰,分為程式碼漏洞、API 安全、網頁安全與雲端安全四類。
推薦理由:文章說明如何以真實任務、確定性程式評分與環境隔離設計基準,並呈現不同任務類別的測試結果差異。
GPU 硬體進步很快,但工程師常得在容易寫的程式工具和能細部控制硬體的寫法之間取捨。Meta 打造 TLX,讓工程師沿用 Triton 寫運算,再安排不同工作群組如何搬資料、計算和同步,讓資料搬移與運算能重疊進行。Meta 分享的案例包括推薦系統訓練、推論,以及大型語言模型訓練;其中一項推薦系統推論最佳化,讓特定模型的計算延遲最多降低三分之二。這些案例呈現 TLX 如何把新款 GPU 的功能用在實際工作中。
推薦理由:TLX 的實際案例說明,讓工程師直接安排 GPU 工作與資料搬移,如何改善推薦系統推論和大型語言模型訓練。
TCS 說明如何運用 Amazon Bedrock AgentCore 建構多租戶測試協調平臺,將需求轉為可執行測試,並串接執行、修正與報告流程。
推薦理由:文章拆解需求建構、分租戶隔離、專用執行環境與受控修正流程,並以約 100 個測試情境的內部比較呈現人工作業變化。
Wiz 說明如何設計資安AI 助理基準,評估AI 助理在真實資安任務中的表現,並提出任務設計、評分與測試環境的原則。 - 基準規模:Wiz Cyber Model Arena v3.9 涵蓋 26 個模型、4 種通用 harness、59 個AI 助理與 327 項挑戰;每項挑戰提供 3 次嘗試,時限為 1,000 秒。
推薦理由:文章以 Wiz Cyber Model Arena v3.9 說明如何設計貼近實務的資安AI 助理基準,涵蓋任務取樣、程式評分、隔離環境與成本衡量。
OpenRouter 比較 JSON Schema、工具呼叫與決策模型三種結構化輸出方法,說明如何依模型端點支援情況取得可供程式處理的結果。
推薦理由:文章以多模型測試比較 JSON Schema、工具呼叫與決策模型,並整理端點不遵守 Schema 時的驗證與路由處理方式。
OpenRouter 示範如何用 Python 建置餐廳訂位語音AI 助理,串接語音轉文字、LLM 工具呼叫與文字轉語音,並逐句產生語音回覆。
推薦理由:文章以餐廳訂位流程示範語音AI 助理的建置,並比較延遲、成本與轉錄表現,呈現串接工具時的實作取捨。
GitHub運用 GitHub Copilot app、Copilot CLI 與 AI agents,將 Copilot runtime 從 TypeScript 移植至 Rust,約 430K 行正式環境程式碼經歷遷移,主要工作由一名工程師在數個月內完成。
推薦理由:以 GitHub 將 Copilot runtime 從 TypeScript 移植至 Rust 為例,說明分階段替換、測試與多代理協作如何支援大型程式碼遷移。
Hugging Face 介紹決策模型如何接收狀態與問題,直接輸出帶有機率的結構化決策,並說明其與分類模型及零樣本分類的差異。 - 三種決策原語:choice 從選項中擇一,score 對有序尺度評分,noul 估計是非命題為真的機率。
推薦理由:文章比較傳統分類、零樣本分類與決策模型,並以 choice、score、noul 三種輸出說明其如何將選項機率整合為可供軟體使用的統一介面。
Bannerproof Team 掃描 23,367 個小型企業網站,發現 6,680 個網站(28.6%)在訪客選擇同意前載入廣告畫素。 - 缺少同意橫幅:這 6,680 個網站中,有 4,063 個(60.8%)完全沒有 Cookie 橫幅;其餘雖有橫幅,畫素仍可能因硬編碼、平臺整合或標籤管理工具觸發設定而提早載入。
推薦理由:掃描資料指出,未經同意載入廣告畫素常源自未設定同意流程或標籤未連動,文中也提供檢查與修正步驟。
Martin Fowler 以庫存補貨AI 助理為例,說明長時程AI 助理如何透過持久執行,在數天或數週的等待與故障後恢復工作並持續完成目標。 - 持久執行:執行環境記錄每個外部操作的輸入與結果;程式故障後重播工作流程,略過已完成步驟並重建狀態。
推薦理由:文章以庫存補貨案例拆解長時程AI 助理的持久執行,說明如何用步驟紀錄、重播與冪等鍵處理等待、故障和重複呼叫。
Kazu 說明如何辨別 MySQL 未使用索引的三種原因,並利用 EXPLAIN、SHOW WARNINGS 與慢查詢紀錄判斷問題所在。 - 三種原因:在欄位上套用函式、比較欄位與未加引號的數字,以及 JOIN 欄位的字元集不同。
推薦理由:文章以 EXPLAIN 的 possible_keys 與警告 1739 區分三種索引失效原因,並對照各自的修正方式,提供可直接用於慢查詢診斷的步驟。
Astro 結合 Typst,可在網站建置時依文章標題產生 Open Graph 分享圖片,並透過動態路由提供 PNG 檔案。 - 產生流程:Astro 從 Content Collection 取得文章 ID 與標題,呼叫 Typst 編譯範本,再以 image/png 回傳圖片。
推薦理由:文章示範如何串接 Astro 的建置流程與 Typst 範本,依文章標題產生 Open Graph 圖片,並用內容雜湊處理快取更新。
JetBrains 以 Graham scan 的凸包排序錯誤示範 Rust 除錯,介紹列印除錯、終端除錯器、RustRover 圖形介面,以及透過 MCP 讓AI 助理操作除錯器的流程。
推薦理由:文章以 Graham scan 的排序錯誤示範 Rust 除錯流程,並比較列印除錯、終端除錯器、RustRover 與 MCP AI 助理操作的實際差異。
ClickHouse 磁碟空間耗盡後,寫入資料庫日誌失敗的訊息改送至 stderr,再由 Docker 無上限的 json-file 日誌寫入同一磁碟,形成持續增長的故障迴圈。
推薦理由:文章以 ClickHouse 故障案例說明,追蹤磁碟佔用檔案的成長速率,能辨別清除錯誤後仍持續的根因。