跳到正文

#GitHub

RSS
今日 0 則
8月6日週三
  1. Embrace The Red (AI Security)76

    我花 500 美元測試 Devin AI 的 Prompt Injection 漏洞,為你節省風險

    Devin AI 是 Cognition 推出的首款 AI 軟體工程師。作者以 30 天試用期、$500 進行實驗,發現可透過 GitHub Issue 注入 Prompt,令 Devin 下載並執行惡意程式,進而完成全系統遠端控制。

    推薦理由:本研究揭示 Devin AI 的 Prompt Injection 漏洞,提示企業須加強代理程式安全防護,並可作為其他代理程式安全測試的參考範例。

8月4日週一
8月2日週六
  1. Embrace The Red (AI Security)79

    將 ChatGPT Codex 變為 ZombAI 助理

    ChatGPT Codex 在 2025 年被證明可被利用 prompt injection 透過 Common Dependencies Allowlist 進行遠端控制,形成 ZombAI Botnet。

    推薦理由:此研究揭示 Codex 允許網路存取的 allowlist 可被利用進行遠端控制,提醒使用者須嚴格限制網路許可權以防止惡意利用。

6月9日週一
6月3日週二
5月21日週三
  1. Mistral AI83

    Mistral AI 釋出 Devstral

    Devstral 是 Mistral AI 與 All Hands AI 合作推出的面向軟體工程的AI 助理 LLM,已在 SWE-Bench Verified 上取得 46.8% 的得分。

    推薦理由:Devstral 在 SWE-Bench Verified 上顯著領先開源模型,並可在單張 RTX 4090 上本地部署,適合企業私有程式碼庫。

5月3日週六
4月9日週三
2月25日週二
  1. Ollama Blog80

    Minions:本地與雲端 LLM 協同的實驗研究

    Minions 是一套將小型本地 LLM 與雲端大模型協同運算的框架,能在保持高品質的同時大幅降低雲端使用成本。 - 協同方式:Minion 讓雲端模型與單一本地模型對話;MinionS 將任務拆分為子任務並行處理。

    推薦理由:本研究提出將大模型拆分至本地裝置與雲端協同,能大幅降低雲端成本,對資源受限環境具有實際應用價值。

2月17日週一
5月31日週五
2月8日週四
  1. Ollama Blog73

    Ollama 釋出 OpenAI API 相容功能

    Ollama 於 2024 年 2 月 8 日發布了 OpenAI API 相容功能,允許使用者在本地端呼叫 Llama 2、Mistral 等模型。 - 相容範圍:支援 OpenAI Chat Completions、Embeddings、Function calling 等 API,未來將加入 Vision、Logprobs 等功能。

    推薦理由:Ollama 相容 OpenAI API,使用者可在本地即時呼叫 Llama 2 等模型,輕鬆整合多款工具。

10月13日週五
  1. Ollama Blog72

    利用瀏覽器端技術打造 LLM 驅動的網頁應用

    Mistral 7B 透過 Ollama 在瀏覽器端實現本地 LLM,搭配 LangChain、Voy 與 Transformers.js 完成 RAG 網頁應用。

    推薦理由:本文示範如何利用瀏覽器端本地模型構建 RAG 應用,提供可直接套用於前端開發的實作範例,並說明如何透過 Ollama 與 LangChain 連結本地 LLM,降低成本與提升隱私。

9月8日週四