跳到正文

#教學/實務

RSS
今日 0 則
4月15日週三
  1. Modal Engineering Blog74

    使用 Modal 與 OpenAI Agents SDK 建置可並行 GPU 子代理的代理系統

    本文示範如何使用 OpenAI Agents SDK 與 Modal 的 Sandbox 擴充,從零開始打造可並行執行 GPU 子代理、記憶會話與檔案快照的代理機制。

    推薦理由:本文示範如何結合 OpenAI Agents SDK 與 Modal Sandbox,打造可並行執行 GPU 子代理、記憶會話與檔案快照的自訂代理機制,為實務開發提供可直接套用的組合範例。

4月8日週三
  1. Supabase Blog77

    Supabase Auth 新增自訂 OIDC 提供者功能

    Supabase Auth 近期推出「自訂 OIDC 提供者」功能,讓開發者能將任何符合 OpenID Connect 標準的身份驗證服務整合進專案,並保持與內建社群登入相同的使用者流程與 RLS 控制。

    推薦理由:Supabase 透過自訂 OIDC 提供者,讓企業能以任何符合 OpenID Connect 標準的身份驗證服務整合進同一套認證流程,降低開發成本並保留相同許可權控制。

4月3日週五
4月1日週三
3月26日週四
3月25日週三
2月23日週一
1月22日週四
  1. Mistral AI66

    Mistral AI:排查 vLLM 中的記憶體洩漏

    Mistral AI 團隊詳細復盤了在 vLLM 分離部署測試中發現並解決隱蔽記憶體洩漏的完整過程。通過結合 pmap、BPFtrace 與 GDB 自動化指令碼,團隊最終定位到根源在於 UCX 記憶體管理模組的 mmap 鉤子機制與註冊快取佇列。通過設定環境變數 UCX_MEM_MMAP_HOOK_MODE=none 或限制未釋放區域數量,成功解決了該記憶體洩漏問題。

1月15日週四
  1. Embrace The Red (AI Security)79

    Next.js 認證 Cookie 生成工具與 React2Shell 漏洞驗證

    導語:本文說明如何利用 React2Shell 漏洞,使用 Next.js 的 next-auth 產生偽造 Cookie,並提供可執行的 Cookie 生成與解碼工具,協助安全人員驗證並加強防禦。

    推薦理由:本文提供可重現的 Next.js Cookie 生成工具,協助安全人員驗證 React2Shell 風險,並示範實際解碼流程,讓讀者能快速部署防禦機制。

8月1日週五
6月9日週一
5月5日週一
4月9日週三
5月31日週五
4月8日週一
10月13日週五
  1. Ollama Blog72

    利用瀏覽器端技術打造 LLM 驅動的網頁應用

    Mistral 7B 透過 Ollama 在瀏覽器端實現本地 LLM,搭配 LangChain、Voy 與 Transformers.js 完成 RAG 網頁應用。

    推薦理由:本文示範如何利用瀏覽器端本地模型構建 RAG 應用,提供可直接套用於前端開發的實作範例,並說明如何透過 Ollama 與 LangChain 連結本地 LLM,降低成本與提升隱私。