跳到正文

Google / Gemini

Google 與 DeepMind 的 AI 動態:Gemini 系列、Veo 影片模型、研究成果與產品生態的持續追蹤。

最新精選

第 301–315 條 · 共 315 條
9月4日週四
  1. SemiAnalysis (Dylan Patel)67

    Amazon AI 復興:AWS 與 Anthropic 的多吉瓦特 Trainium 擴張

    Amazon 正在面臨雲端危機,但預期透過與 Anthropic 的合作及多吉瓦特 Trainium 擴張帶來復甦。 - AWS 雖佔亞馬遜 60% 營利,但在 GPU/XPU 雲端市場落後於 Azure、Google。

    推薦理由:文章闡述 AWS 與 Anthropic 合作推動 Trainium 擴張,說明硬體與軟體共設計如何影響 AI 產業競爭

8月20日週三
  1. Browser Use65

    離開 Playwright,直接使用 Chrome DevTools Protocol 提升 AI 瀏覽器自動化效能

    直接使用 Chrome DevTools Protocol,作者展示 AI 瀏覽器代理如何大幅提升元素抽取速度、截圖效率及跨域 iframe 支援。 - 速度提升:切換至原始 CDP 後,元素抽取與截圖速度顯著加快。

    推薦理由:直接使用 Chrome DevTools Protocol,作者展示 AI 瀏覽器代理如何大幅提升元素抽取速度、截圖效率及跨域 iframe 支援。

8月15日週五
  1. Embrace The Red (AI Security)85

    Google Jules 易受隱藏 Prompt 注入攻擊

    Google Jules 近期被發現易受隱藏 Unicode 標籤 Prompt 注入攻擊,該漏洞源於 Gemini 模型將隱藏字元解讀為指令。 - 影響範圍:所有使用 Gemini 模型的應用,包括 Google Jules 及其內部服務。

    推薦理由:此漏洞揭示 Gemini 模型對隱藏 Unicode 標籤的解讀缺陷,可能導致後門植入,提醒開發者在使用 Google Jules 時須審慎審核程式碼與任務來源。

8月14日週四
  1. Embrace The Red (AI Security)69

    Jules Zombie Agent:從 Prompt Injection 到遠端控制

    此研究揭示 Jules 可被 Prompt Injection 迫使下載惡意程式並加入遠端指揮與控制伺服器,進而被遠端操控。 - 攻擊鏈:Prompt Injection → Confused Deputy → Automatic Tool Invocation。

    推薦理由:此研究揭示 AI 代理在未受限網路與 shell 執行下易被遠端操控,提示企業須加強輸入驗證與外部連線控制,並應落實監控與防禦機制。

  2. Embrace The Red (AI Security)68

    Google Jules:易受多項資料外洩問題影響

    本文揭示 Google Jules 在多種資料外洩向量上存在安全缺口,攻擊者可利用 Prompt Injection 直接將機器資料傳送至第三方伺服器。 - 攻擊向量:Markdown 影像渲染、view_text_website 工具呼叫、GitHub Issue 指令注入。

    推薦理由:本文揭示 Google Jules 存在多種資料外洩漏洞,並說明攻擊路徑與防禦建議,為 AI 代理安全提供實務警示。

7月29日週二
  1. Embrace The Red (AI Security)62

    2025 年 AI 漏洞月:聚焦代理式 AI 的 Prompt Injection 漏洞

    本倡議將於 2025 年 8 月舉行「AI 漏洞月」,聚焦代理式 AI 系統中的 Prompt Injection 漏洞,並透過每日博文揭露實際攻擊案例與緩解建議。

    推薦理由:本倡議聚焦代理式 AI 的 prompt injection 漏洞,透過實際案例與緩解建議,協助開發者與安全人員快速辨識並防範新興攻擊,提升整體防護水平;同時也促進廠商快速回應與修補,為 AI 開發生態帶來更安全的基礎。

6月3日週二
  1. Ollama Blog71

    Secure Minions:Ollama 與前沿模型的私密協作

    Secure Minions 是一個開源研究專案,結合本地 Ollama 模型與雲端前沿模型,透過 NVIDIA Hopper H100 的安全模組實現端到端加密協作。

    推薦理由:本研究展示了利用 NVIDIA Hopper H100 安全模組,實現本地 LLM 與雲端 LLM 的端到端加密協作,既降低雲端成本又保障隱私,延遲增幅不到 1%。

3月13日週四
  1. Embrace The Red (AI Security)71

    Sneaky Bits:進階資料隱匿技術(ASCII Smuggler 更新)

    Sneaky Bits 是一個可將任何 Unicode 字元或位元組序列編碼為兩個隱形字元的工具,讓 LLM 能夠進行資料隱匿與指令注入。 - 核心功能:利用兩個隱形 Unicode 字元(U+2062、U+2064)將任何字元轉換為二進位碼,支援 ASCII、Unicode、Emoji 等。

    推薦理由:掌握 Sneaky Bits 兩隱形 Unicode 字元的資料隱匿方式,協助安全工程師評估 LLM 輸入驗證風險。

8月26日週一
  1. Davis Summarizes Papers71

    2024-8-25:LLM 測試時計算量與模型規模擴充套件曲線研究

    LLM 測試時計算量與模型規模擴充套件曲線研究 - 核心發現 在多種推理策略(並行多樣本、迭代修正、加權投票、波束搜尋、前瞻搜尋)下,測試時計算量的增加能顯著提升輸出品質,對於簡單問題可用較小模型加多次推理取代更大模型。

    推薦理由:此研究揭示在多樣推理策略下,測試時計算量可替代引數增長,為 LLM 部署與成本最佳化提供實證基礎

7月25日週四
  1. Chip Huyen (AI Engineering)74

    打造生成式 AI 平臺:核心元件與設計模式

    生成式 AI 平臺 的建構流程被分為多個階段,從簡單的模型呼叫到完整的觀測與安全機制,內容涵蓋 RAG、代理、路由、快取與寫入動作。 - 核心元件 包括 模型 API、上下文構建、Guardrails、Model Router、Gateway、Cache、複雜邏輯、寫入動作、觀測。

    推薦理由:此篇深入拆解生成式 AI 平臺的核心元件與設計模式,對想打造可擴充、可觀測的系統的工程師極具參考價值。

6月27日週四
  1. Ollama Blog72

    Google Gemma 2 以三種規模發布,27B 版效能超越同類兩倍規模模型

    Gemma 2 是 Google 推出的新一代大語言模型,提供 2B、9B、27B 三種規模。 - 核心特性:27B 版本在多項基準測試中,效能超越同類規模兩倍以上,展現出高效能與最佳化架構。

    推薦理由:Gemma 2 以三種規模提供,27B 版本效能超越同類兩倍規模模型,讀者可評估其高效架構對開發效能的影響。

5月26日週日
  1. Dan Luu Blog73

    FTC在Google反壟斷調查中的錯誤

    核心導語:文章分析 2011‑12 年 FTC 對 Google 反壟斷調查的決策過程,指出調查團隊對技術市場的誤判與資料解讀偏差,並探討若當時採取行動可能對 Google、Microsoft 及垂直競爭者的影響。

    推薦理由:文章揭示FTC在2011‑12年對Google反壟斷調查失誤,提醒投資者與產業決策者注意監管判斷的技術盲點。

5月20日週一
  1. Ollama Blog69

    Firebase Genkit 推出 Ollama 支援,讓開發者可本機執行 Gemma 模型

    Google 在 IO 2024 發布 Firebase Genkit,並加入對 Ollama 的支援,可在本機執行 Gemma 模型。 - 核心功能:Firebase Genkit 作為開源框架,支援在 MacOS、Windows、Linux 以及 Docker 容器中使用 Ollama 執行 Google 的 Gemma 模型。

    推薦理由:Firebase Genkit 讓開發者能在本機使用 Gemma,降低部署門檻,提升 AI 應用開發效率。

3月16日週六
3月14日週四