跳到正文

#開源專案

RSS
今日 16 則
11月6日週五
11月5日週四
  1. Dev.to Top Tech40

    **title_zh:**

    Tutorial:在每個 AI 草稿旁顯示服務層級 summary_zh: 本教程示範如何在每個 AI 草稿旁顯示服務層級,藉此確保審核者知道使用的是哪一層級服務。

  2. Dev.to Top Tech36

    **title_zh:**

    vLLM 0.33 加入失真式推測驗證器:單次準確度表格無法證明其安全性 summary_zh: - vLLM 0.33.0(PyPI 2026‑11‑02)推出 FLy,一種可選的失真式推測驗證器,允許接受部分目標模型會拒絕的草稿 token。

  3. Dev.to Top Tech51

    實作 AI 安全:藍隊測試與安全閘道構建

    導語 本文示範如何以 Flask 搭建安全閘道,將安全邊界從 LLM 上下文視窗拆離,並實作進出流量的規則檢查與資料洩漏防護。 1. 架構 安全閘道作為反向代理,位於使用者瀏覽器與 Ollama 推理引擎之間,透過 secure_gateway.py 與 filter_rules.py 進行進出規則檢查。