Amazon AI 復興:AWS 與 Anthropic 的多吉瓦特 Trainium 擴張
Amazon 正在面臨雲端危機,但預期透過與 Anthropic 的合作及多吉瓦特 Trainium 擴張帶來復甦。 - AWS 雖佔亞馬遜 60% 營利,但在 GPU/XPU 雲端市場落後於 Azure、Google。
推薦理由:文章闡述 AWS 與 Anthropic 合作推動 Trainium 擴張,說明硬體與軟體共設計如何影響 AI 產業競爭
Google 與 DeepMind 的 AI 動態:Gemini 系列、Veo 影片模型、研究成果與產品生態的持續追蹤。
Amazon 正在面臨雲端危機,但預期透過與 Anthropic 的合作及多吉瓦特 Trainium 擴張帶來復甦。 - AWS 雖佔亞馬遜 60% 營利,但在 GPU/XPU 雲端市場落後於 Azure、Google。
推薦理由:文章闡述 AWS 與 Anthropic 合作推動 Trainium 擴張,說明硬體與軟體共設計如何影響 AI 產業競爭
直接使用 Chrome DevTools Protocol,作者展示 AI 瀏覽器代理如何大幅提升元素抽取速度、截圖效率及跨域 iframe 支援。 - 速度提升:切換至原始 CDP 後,元素抽取與截圖速度顯著加快。
推薦理由:直接使用 Chrome DevTools Protocol,作者展示 AI 瀏覽器代理如何大幅提升元素抽取速度、截圖效率及跨域 iframe 支援。
Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊,該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍:所有使用 Gemini 模型的應用,包括 Google Jules 及其內部服務。
推薦理由:此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷,可能導致後門植入,提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。
此研究揭示 Jules 可被 Prompt Injection 迫使下載惡意程式並加入遠端指揮與控制伺服器,進而被遠端操控。 - 攻擊鏈:Prompt Injection → Confused Deputy → Automatic Tool Invocation。
推薦理由:此研究揭示 AI 代理在未受限網路與 shell 執行下易被遠端操控,提示企業須加強輸入驗證與外部連線控制,並應落實監控與防禦機制。
本文揭示 Google Jules 在多種資料外洩向量上存在安全缺口,攻擊者可利用 Prompt Injection 直接將機器資料傳送至第三方伺服器。 - 攻擊向量:Markdown 影像渲染、view_text_website 工具呼叫、GitHub Issue 指令注入。
推薦理由:本文揭示 Google Jules 存在多種資料外洩漏洞,並說明攻擊路徑與防禦建議,為 AI 代理安全提供實務警示。
本倡議將於 2025 年 8 月舉行「AI 漏洞月」,聚焦代理式 AI 系統中的 Prompt Injection 漏洞,並透過每日博文揭露實際攻擊案例與緩解建議。
推薦理由:本倡議聚焦代理式 AI 的 prompt injection 漏洞,透過實際案例與緩解建議,協助開發者與安全人員快速辨識並防範新興攻擊,提升整體防護水平;同時也促進廠商快速回應與修補,為 AI 開發生態帶來更安全的基礎。
Secure Minions 是一個開源研究專案,結合本地 Ollama 模型與雲端前沿模型,透過 NVIDIA Hopper H100 的安全模組實現端到端加密協作。
推薦理由:本研究展示了利用 NVIDIA Hopper H100 安全模組,實現本地 LLM 與雲端 LLM 的端到端加密協作,既降低雲端成本又保障隱私,延遲增幅不到 1%。
Sneaky Bits 是一個可將任何 Unicode 字元或位元組序列編碼為兩個隱形字元的工具,讓 LLM 能夠進行資料隱匿與指令注入。 - 核心功能:利用兩個隱形 Unicode 字元(U+2062、U+2064)將任何字元轉換為二進位碼,支援 ASCII、Unicode、Emoji 等。
推薦理由:掌握 Sneaky Bits 兩隱形 Unicode 字元的資料隱匿方式,協助安全工程師評估 LLM 輸入驗證風險。
LLM 測試時計算量與模型規模擴充套件曲線研究 - 核心發現 在多種推理策略(並行多樣本、迭代修正、加權投票、波束搜尋、前瞻搜尋)下,測試時計算量的增加能顯著提升輸出品質,對於簡單問題可用較小模型加多次推理取代更大模型。
推薦理由:此研究揭示在多樣推理策略下,測試時計算量可替代引數增長,為 LLM 部署與成本最佳化提供實證基礎
生成式 AI 平臺 的建構流程被分為多個階段,從簡單的模型呼叫到完整的觀測與安全機制,內容涵蓋 RAG、代理、路由、快取與寫入動作。 - 核心元件 包括 模型 API、上下文構建、Guardrails、Model Router、Gateway、Cache、複雜邏輯、寫入動作、觀測。
推薦理由:此篇深入拆解生成式 AI 平臺的核心元件與設計模式,對想打造可擴充、可觀測的系統的工程師極具參考價值。
Gemma 2 是 Google 推出的新一代大語言模型,提供 2B、9B、27B 三種規模。 - 核心特性:27B 版本在多項基準測試中,效能超越同類規模兩倍以上,展現出高效能與最佳化架構。
推薦理由:Gemma 2 以三種規模提供,27B 版本效能超越同類兩倍規模模型,讀者可評估其高效架構對開發效能的影響。
核心導語:文章分析 2011‑12 年 FTC 對 Google 反壟斷調查的決策過程,指出調查團隊對技術市場的誤判與資料解讀偏差,並探討若當時採取行動可能對 Google、Microsoft 及垂直競爭者的影響。
推薦理由:文章揭示FTC在2011‑12年對Google反壟斷調查失誤,提醒投資者與產業決策者注意監管判斷的技術盲點。
Google 在 IO 2024 發布 Firebase Genkit,並加入對 Ollama 的支援,可在本機執行 Gemma 模型。 - 核心功能:Firebase Genkit 作為開源框架,支援在 MacOS、Windows、Linux 以及 Docker 容器中使用 Ollama 執行 Google 的 Gemma 模型。
推薦理由:Firebase Genkit 讓開發者能在本機使用 Gemma,降低部署門檻,提升 AI 應用開發效率。
本文由工程師 Dan Luu 實測並分析現代網頁與論壇平臺在低階裝置上的效能表現,探討網路頻寬增長如何被 CPU 運算需求超越。
推薦理由:文章實測低階裝置上的網頁效能,讀者可藉此瞭解過度臃腫的現代網頁設計對資源有限使用者造成的實際影響。
導語:作者 透過對 845 個星數達 500 的開源 AI 工具進行梳理,呈現了 AI 堆疊演進、產業趨勢與中國生態差異。
推薦理由:作者透過對 845 個受星星門檻的開源 AI 工具的梳理,呈現了 AI 堆疊演進與中國生態差異,幫助讀者快速掌握趨勢與關鍵工具。