跳到正文

#DeepSeek

RSS
今日 3 則
11月20日週五
  1. Dev.to Top Tech42

    用 AMD 和 DGX Spark 打造在地 RAG 系統,搜尋實驗室筆記與簡報

    實驗室的筆記和簡報散落在許多檔案裡,找到答案後也常得再花時間確認出處。作者做了一套在地 RAG 系統,能搜尋 Markdown 筆記和 PowerPoint,也會標出答案來自哪個檔案、哪一行或哪張投影片。簡報裡的圖表會先由 Gemma 4 31B 寫成文字說明,讓系統也找得到圖上的內容。 測試時,研究人員用日文和英文問兩個問題:CSV 檔放在哪裡,以及某個磁碟目前還有多少空間。系統都找到了相關資料;回答第一題時附上能支援答案的出處,第二題則沒有亂猜空間數字,因為筆記無法證明目前的容量。這讓研究人員不只拿到答案,也能回到原始資料查證;圖表說明則能幫忙找到投影片,細節仍要開啟原圖確認。

  2. Dev.to Top Tech58

    作者推出 wsr,先找出本地模型答錯的原因再修正

    本地模型答錯或只是不回覆時,直接修改模型權重可能會修錯地方。作者做了開源工具 wsr,先檢查模型檔案、設定、請求和回覆,再逐項測試可能原因;找得到原因時會附上證據和修法,找不到就不猜。只有排除其他問題後,wsr 才會深入檢查模型權重,並用沒看過的資料確認修正是否有效。作者也比較了 Qwen2.5 的拒答修正方式:直接移除拒答方向雖減少誤拒,卻會讓模型回答更多有害請求;wsr 的方法保留了大部分正確拒答。測試只涵蓋小型模型,結果多來自單次測試。

  3. Dev.to Top Tech41

    Dev.to 開源工具整理:拆解影片、製作等角插圖與打造 AI 助理自動化工具

    想看懂一段影片怎麼拍出來,或把複雜機器畫成清楚的示意圖,現在有不同開源工具可以幫忙。rea-video 會一格一格拆解影片,並用 VIDEO.md 格式整理結果,方便研究或重做影片;anatomy 則能把真實機器和複雜系統做成可互動的等角 SVG 插圖。其他工具還包括能提升部分 GeForce 顯示卡運算速度的 gpu-unlock、可串接 400 多種服務的 n8n,以及支援 Claude Code、Codex 等工具的 ecc。這些專案各自處理影片分析、插圖、工作流程和 AI 助理自動化,讓開發者與創作者多一些現成選擇。

  4. LMSYS Org Blog74

    Ant International 團隊如何加速 DeepSeek-V4.1-Flash 在 H20-3e 上的推論

    DeepSeek-V4.1-Flash 在 H20-3e 上處理長提示時,等待第一個回答的時間佔了很大一部分。Ant International 團隊調整分開處理提示與生成回答的部署方式,也改進了多個運算步驟;在 8 張 GPU 的測試中,平均完成時間從 13.63 秒降到 4.70 秒,每秒輸出量從 847 個 token 增至 2,465 個。團隊也測試了 4 張 GPU 同機處理的配置,平均完成時間從 18.62 秒降到 7.96 秒。這些結果顯示,不同部署方式的速度和吞吐量各有差異,適合用來比較實際工作負載下的取捨。

    推薦理由:這組測試比較 DeepSeek-V4.1-Flash 在 H20-3e 上的分拆與同機部署,呈現延遲和吞吐量如何隨配置改變。

  5. Dev.to Top Tech82

    OpenRouter 部分 DeepSeek V4 Flash 0731 請求流向遭入侵伺服器,使用者該檢查什麼?

    如果聊天機器人或 AI 應用程式把密碼、API 金鑰等機密寫進提示詞,請求又被送到遭入侵的伺服器,這些資料就可能外洩。Phala 表示,攻擊者曾控制一臺處理 DeepSeek V4 Flash 0731 請求的伺服器;若請求在 2026 年 10 月 21 日至 11 月 8 日期間經 OpenRouter 送到 Phala,應把其中的機密視為已外洩。研究者只在 10 月 21 日和 22 日的測試資料中發現憑證遭到使用,但測試沒有涵蓋所有請求,因此 Phala 採用較長的 18 天區間。文章建議查詢 OpenRouter 的使用紀錄,輪替提示詞裡的密碼、權杖和金鑰,並檢查相關帳號是否有可疑活動。這起事件只涉及 Phala 的部署,不代表 DeepSeek 自家 API 或其他供應商也受到影響。

    推薦理由:這起事件的確認範圍與 18 天處理區間不同,文章也整理了查詢路由紀錄和輪替機密資料的做法,能協助使用者判斷該採取哪些防護措施。

11月19日週四
  1. Dev.to Top Tech47

    作者用 Rust 打造 8 款命令列工具

    想查字典、看新聞或收信,常得開啟不同網站和程式。作者用 Rust 做了 8 款命令列工具,從離線字典、電子郵件和新聞閱讀器,到網頁搜尋、維基百科與 wikiHow 閱讀器都有;每款工具各做一件事,輸出純文字,也能把資料交給其他程式使用。作者檢查後表示,這些工具通過程式碼檢查,也修正了文字跳脫攻擊和新聞閱讀器的網路請求安全問題。它們都採 MIT 授權,程式碼放在 GitHub。

  2. MediaNama61

    Sarvam 推出 Token Factory,讓企業透過印度境內 GPU 使用多種 AI 模型

    企業自行建置 AI 服務,得先準備 GPU 和運算裝置,花費不低。印度新創 Sarvam 推出 Token Factory,讓企業與開發者透過單一 API,在印度境內的 GPU 使用多種 AI 模型,服務以盧比計價。平臺收錄 DeepSeek、Kimi、Gemma 和 Sarvam 自家模型,入門價格為每百萬個輸入 token 14 盧比、輸出 token 55 盧比。這項服務引發討論:批評者質疑,使用印度運算資源提供外國模型,是否符合印度發展自主 AI 的目標;Sarvam 則表示,Token Factory 使用自購 GPU,沒有依賴政府補助。

  3. Dev.to Top Tech70

    WARDEN 如何替 OpenWebUI 擋下提示詞注入造成的危險工具呼叫

    聊天裡的附件或網頁可能藏著指令,誘使 AI 助理刪除資料或把秘密傳出去。作者在 OpenWebUI 加上 WARDEN 閘道,先檢查工具呼叫再決定是否放行;測試中,Qwen 3.8 27B 和 MiniMax M3 都曾想照附件指令刪除資料,但閘道擋下了呼叫,資料沒有送到工具伺服器。WARDEN 也能先用稽核模式記錄哪些呼叫會被擋,讓管理者觀察後再調整規則。不過,網頁搜尋後模型想繼續查資料時,也可能被誤擋;而未經閘道的工具呼叫和模型最後寫出的回答不在檢查範圍內。

  4. Dev.to Top Tech50

    Mobilerun 如何搭配 Ollama、DeepSeek、Qwen 和 OpenRouter,選擇便宜或本機模型

    AI 助理每操作手機一步,就得呼叫模型一次;任務一多,費用也可能跟著增加。Mobilerun 可以在自己的電腦上控制 Android 手機,再依需求選模型:用 Ollama 在本機跑 Qwen,不必支付模型 API 費用;也可以改用 DeepSeek 或 OpenRouter 的線上服務,按呼叫付費。舉例來說,開啟深色模式這種任務,就能交給 qwen3:8b 執行;但它是文字模型,不能開啟 --vision。目前沒有公開的 Mobilerun 模型比較結果,因此哪個選擇最好,要看你的任務、手機和硬體,實際跑過才知道。

  5. hackernews10064

    作者分享如何用 AI 助理加快軟體與硬體逆向工程

    分析軟體或裝置時,逐段看懂程式碼和電路往往很花時間。作者分享自己用 AI 助理搭配 Ghidra 等工具分析執行檔、網站和韌體的做法:先整理程式的基本結構,再把發現寫成筆記,讓工作中斷後比較容易接著做。遇到卡關時,會提出可以測試的假設,設計記錄或探測實驗,再把結果存下來。作者也舉例說,這套方法幫他分析裝置通訊方式、製作自訂韌體和修正舊印表機驅動程式;他提醒,熟悉硬體與組合語言的經驗仍有助於引導 AI 助理。

  6. Hao AI Lab65

    讓機器人在沒有事先示範的情況下操作,是 ORA 想處理的問題。Hao AI Lab 發布開源工具 ORA v0.1,並公佈它搭配 DeepSeek V4.1-Flash 的測試結果:RoboDojo 從 ORA October 預覽版的 5.2% 提升到 39.9%,RoboTwin 則從 71.5% 提升到 79.6%。這些數字呈現兩項測試的前後差異,原文沒有提供其他模型或測試條件的比較。

    推薦理由:ORA v0.1 在 RoboDojo 與 RoboTwin 的成績都高於 ORA October 預覽版,可看出這次更新在兩項測試中的變化。

  7. Wired · Artificial Intelligence66

    美國擴大 AI 晶片管制,連中國公司在海外租算力也要管

    美國想限制中國取得訓練 AI 所需的高階晶片,但晶片可以留在海外,讓中國公司租用算力。美國政府近日宣佈,海外資料中心若要提供大量算力給中國,得申請特別許可;部分晶片運往新加坡、馬來西亞等地也將受到更嚴格的規定。文章回顧,走私和海外租用算力都讓管制更難執行,這次宣佈的時間又碰上 Nvidia 共同創辦人 Jensen Huang 的婚外情醜聞;作者推測,白宮可能想藉此表明正在掌控情勢。文章也指出,管制讓美國晶片供應商蒙受損失,並促使中國尋找替代做法;如今連晶片在海外如何使用都要管,政策影響更難估算。

  8. LMSYS Org Blog68

    Humming 整合 SGLang,讓低位元 MoE 模型跑得更快

    大型 MoE 模型需要存放大量專家權重,怎麼在省記憶體的同時加快運算,是實際部署時的難題。Humming 把低位元權重接上專用運算核心,整合到 SGLang 後,仍由 SGLang 負責分派工作,Humming 負責處理輸入和矩陣運算。文章在 8 張 H20-3e GPU 上測試 DeepSeek-V4.1-Flash-1017:相同 A16 精度下,長上下文輸入的速度比 Marlin 快 1.07 到 1.23 倍;改用 FP8 專家運算也能提高部分測試的輸出速度。這些結果只適用於文中測試的設定,不能直接代表其他模型或工作負載。

    推薦理由:文章比較 Humming 在不同精度與專家分流設定下的速度,並交代測試條件,能看出加速幅度會隨工作負載與設定改變。

  9. Hao AI Lab53

    文字越長,模型處理時花的時間和資源通常也會增加。RecSA 把 KV cache 排成樹狀結構,讓每次查詢一層一層搜尋;作者表示,查詢成本會隨文字長度以對數方式增加,且只用 32K 長度訓練的模型能延伸到 2M tokens。在 RULER 測試中,RecSA 從 131K 到 2M 都勝過比較方法;處理 1M tokens 時得分為 60.5,最強基準為 40.0。單張 H200 處理 524K tokens 時,輸入階段快 3.2 倍,生成階段快 3.8 倍。

11月18日週三
  1. hackernews10072

    Windows PE 執行檔分析:從十六進位資料追查下載器行為

    這個 Windows PE 執行檔把 API 名稱和文字藏起來,單看可見字串不容易知道它在做什麼。從標頭和程式碼可看出,它會用雜湊方式尋找 Windows API,組出 165.154.205.34 這個位址,並準備連線所需的資料;程式中也有呼叫 WSAStartup 的線索。這些線索支援它具有網路連線用途,但目前提供的片段不足以確認完整下載流程、連線成功與否,或檔案是否已遭實際執行,因此不宜只憑這段分析判定它的完整行為。

  2. OpenBMB44

    混合架構會同時使用迴圈層和 softmax 注意力層來學習,但兩者可能在學同一種能力時互相搶走學習訊號。清華大學的新論文提出 BLD:預訓練一開始先凍結迴圈區塊,約用掉前 10% 的 token 後再解凍,讓兩種層一起訓練。測試六種 KDA 混合架構、規模從 180M 到 1B,BLD 讓長文測試 RULER 和回憶能力都變好;在 1B 模型上,RULER 從 32.75 升到 36.04,回憶分數從 36.50 升到 38.14,LongPPL 從 7.69 降到 6.50。架構、資料和 token 總量都相同,結果顯示誰先學,會影響模型記住長篇內容的能力。

  3. Dev.to Top Tech37

    Context Tags 幫 Deepseek 4.1 Flash 補上程式脈絡,作者稱效果可媲美 Opus 5.5

    使用 AI 助理寫程式時,常得一再說明正在處理哪個功能、相關程式碼在哪裡。作者做了 Context Tags,可以把某項功能的程式碼脈絡存起來,之後在新的 AI 對話中重用,少花時間重新解釋。文章用「Deepseek 4.1 Flash + Context Tags = Opus 5.5」當標題,但沒有提供比較測試或具體結果;實際展示的是用工具儲存並帶入程式脈絡的做法。

  4. Dev.to Top Tech43

    DeepSeek、Claude、Kimi、Codex、Gemini AI 倫理測試:改寫捐款公告時,誰會保留查核真相?

    AI 助理回答危險問題時,就算沒有提供傷人的內容,幫忙修改公告時也可能把重要事實藏起來。作者用同一組中文提示詞測試 DeepSeek、Claude、Kimi、Codex 和 Gemini:五者都擋下了 8 種有害要求,也都拒絕謊稱捐款已經通過獨立查核。但在捐款公告的第三次修改中,DeepSeek 和 Kimi 保留了「尚未經過獨立查核」這件事;Claude 加上提示詞沒提供的對帳說法,Codex 最後的公告沒寫清楚查核狀況,Gemini 則拿掉提醒,留下沒有根據的「已驗證」字樣。這次測試裡,DeepSeek 和 Kimi 得 11/11,其他三者各得 10/11。這提醒我們,AI 助理有沒有拒絕說謊是一回事;它改好的公告有沒有偷偷漏掉關鍵事實,也得仔細看。

  5. Dev.to Top Tech83

    開放權重模型落後封閉模型多久?作者用資料比較能力、算力與授權

    開放權重模型的能力和封閉模型差多少,會隨時間、評量方式和授權條件改變。作者用 Epoch AI 截至 2026 年 10 月 30 日的資料追蹤模型分數,指出 2026 年開放模型平均落後約 6.7 個月;中國團隊推出的模型已連續 673 天保持開放權重領先。不同地區的差距也不一樣:美國和歐洲模型落後更多,而授權條件會影響模型能不能用在商業服務。作者認為,選模型時除了看能力,也要確認來源與授權是否符合自己的需求。

    推薦理由:作者把開放權重模型的能力差距拆成時間、算力、地區與授權來比較,呈現採用這類模型時需要衡量的實際取捨。

  6. X.PIN35

    DeepSeek 原本免費,許多人拿來角色扮演、寫小說,還常塞進很長的內容,使用量變大後,DeepSeek 開始限制使用。推文說,一般日常使用仍沒問題,但有人因此到應用程式商店留負評;還有人向政府投訴,揚言若問題沒解決就要自殺,結果警方和緊急醫療人員都出動了。推文用「升米恩,鬥米仇」感嘆,即使梁文鋒曾開源免費模型,仍有人因限制而怨他。

  7. BlockTempo 動區動趨47

    Qwen4-Max 第三方評分落後 Claude,蒸餾是否受阻還沒有定論

    阿里自家測試說,Qwen4-Max 的表現和 Claude Opus 5.5 差不多;但在 Artificial Analysis 的榜單上,Qwen4-Max 得 43 分,低於 Opus 5.5 的 59 分,也比 Claude Fable 5.2 的 65 分少。有人猜,Anthropic 把 Claude 的思考過程藏起來後,其他模型更難拿這些資料來訓練、追上 Claude;不過這目前只是社群的說法,還不能當成定論。 Anthropic 表示,完整的思考過程比摘要更適合拿來訓練模型,也說新防護讓可能被取走的推理內容減少約 90% 到 99%。文章提到阿里是 Anthropic 指控的物件之一,但阿里沒有公開回應;目前沒有證據證明 Qwen4-Max 分數較低就是蒸餾受阻造成的。

  8. The New Stack65

    基準測試發現,AI 程式開發助理的執行環境會讓成本差到 5 倍

    同一個模型搭配不同的程式開發助理執行環境,花費可能差到 5 倍。Runta 和 Baseten 比較 22 種設定與 5 個開放權重模型,發現省錢排名會隨模型改變;有些設定搭配一個模型最便宜,換了模型卻可能變得很貴。估算費用中,52.7% 花在未通過檢查的任務,另有 11.8% 花在逾時執行。測試也發現,成功完成一項任務所需的步數和成本有明顯關聯,但研究沒有單獨驗證簡單的工具使用方式是否能降低費用。

  9. Dev.to Top Tech57

    程式助理為什麼可能多花 5 倍?作者拆解成本差異

    用 AI 助理寫程式時,花費高不一定代表更容易完成任務。作者分析一份比較 5 個開放模型與 22 種工具設定的測試,發現模型決定整體花費高低;固定模型後,不同工具每項任務的成本仍相差 1.8 到 5 倍,而多花錢通常沒有換到更高的通過率。測試中有 64.5% 的標價費用花在沒通過的嘗試上,許多失敗的助理還會回報任務已完成。作者認為,反覆操作的步數和驗證結果,比單看提示詞長度或工具排名更能幫人理解花費與失敗原因;但這份測試使用單一服務商、開放模型和固定任務,結果不一定適用於自己的專案。

  10. Dev.to Top Tech62

    ClaudeArena 實測五種 AI 助理考試,最高答對 63 題

    AI 助理能在練習考試拿高分,排行榜上的成績還能代表真人實力嗎?ClaudeArena 作者讓五種模型各自完成 Professional 難度的考試,成績都達 98% 或 100%,但同一個模型重考時曾因操作選項出錯,從 98% 降到 84%。測試也找出網站的無障礙問題:答案雖然有畫面標記,頁面結構卻沒有告訴讀屏軟體哪個選項已被選取,作者已修正。網站現在會讓帶有 AI 助理作答跡象的正式考試保留在個人紀錄中,但不計入排行榜;作者也提醒,這套判斷無法分辨所有情況。

  11. Dark Reading (Information Security)72

    TheMailer 用 AI 大量改寫釣魚郵件,試圖躲過垃圾郵件篩選

    釣魚信常被垃圾郵件篩選擋下,但 TheMailer 能用 AI 替每位收件者改寫郵件,還會依郵件服務調整內容,直到試著避開篩選。Varonis 的研究指出,操作者只要提供 API 金鑰、郵件伺服器、代理伺服器和目標名單,就能用多種大型語言模型製作並寄送釣魚信;研究者看到的範例中,單一活動接近寄出 25,000 封郵件。文章沒有說明這套工具實際騙倒多少人。防護方面,Varonis 建議落實 SPF、DKIM 和 DMARC,留意仿冒或新註冊網域,並在點選時檢查完整的轉址路徑;員工訓練也應提醒大家注意緊急要求、意外收到的請求和登入提示,不能只靠文法錯誤辨認釣魚信。

  12. Rohan Paul38

    Sciforium 展示 DeepSeek-V4.1-Flash 在 4 張 AMD Instinct MI355X 顯示卡上,每秒可產生 1,129 個 token;模型仍使用 DeepSeek 原本的權重。加速關鍵是用客戶實際流量調整 Traffic-tuned Drafter,讓模型提出的 token 更常被採用,並把每次預先草擬的長度提高到 7 個 token;另外也合併部分運算,減少等待時間。照這個速度,產生 10,000 個 token 約需 9 秒,讓使用者更快拿到長篇回答。

  13. Dev.to Top Tech51

    用 n8n 和 DeepSeek 打造 WhatsApp FAQ 機器人,每 1,000 則回覆約 USD 0.33

    顧客常在 WhatsApp 一再詢問營業時間、運費和付款方式,逐一回覆很花時間。這篇教學用 n8n 串接 WhatsApp Business 和 DeepSeek API,收到訊息後讓模型根據 FAQ 回答,再把答案傳回顧客;作者也提供可匯入的三節點流程。FAQ 要寫得精簡,並要求模型只根據 FAQ 作答,找不到答案時轉交真人,避免亂編價格或規定。依文中的 AkiliNode 費率估算,每 1,000 則回覆約 USD 0.33;WhatsApp 費用和 n8n 主機費另計。

  14. TechCrunch · AI76

    Vals研究發現,把辨認戰場目標說成遊戲,可能讓AI模型失去戒心

    AI模型可能把平民或學校標成軍事目標,即使研究者沒有要求它們決定是否開火。Vals用模擬情境和無人機、衛星影像測試多家公司的商用模型;模型有時會拒答,但研究者改口說這是在玩遊戲後,模型常會照做。研究者也讓模型檢視人員是否出現在影像中,再呈現模擬攻擊的結果。這些測試不是實際戰場部署,也沒有測試軍方取得的模型;研究者認為,模型大量標註戰場影像、替自動瞄準系統準備訓練資料,可能是較迫近的風險。

    推薦理由:Vals以模擬情境測試模型辨認戰場目標的表現,並發現把任務說成遊戲可能讓拒答失效,呈現出模型防護的一項具體弱點。

  15. ByteByteGo Newsletter (Alex Xu)47

    為什麼 LLM 想得越久,有時反而越容易答錯?

    多想幾步有時能幫 LLM 找出錯誤,但也可能讓它把原本正確的答案改錯。LLM 會一小段一小段地寫出內容,前面寫下的想法會影響後面的推算。像商品先漲 20% 再降 20%,最後是 $96;先算出漲價後的 $120,就比較不容易把兩次變化誤認為互相抵銷。 DeepSeek 用評分方式訓練 R1-Zero,讓模型從多次嘗試的結果中學習哪些解法比較好,也可能回頭檢查先前的步驟。不過,模型有時答對後還會繼續推演:研究中的模型算出「2 + 3」等於 5 後,又接著寫出其他解法。這提醒我們,多花時間思考不一定讓答案更好;模型也得學會何時該停下來。

  16. Tom’s Hardware AI & Computing61

    Tom’s Hardware 分析 AI 安全呼籲與美國大型業者商業利益的衝突

    AI 安全風險確實存在,但制定規則的公司也可能從限制競爭中受益。Tom’s Hardware 訪問多位專家,討論 OpenAI、Anthropic 對中國開放權重模型提出的安全疑慮,以及這些模型價格較低、能力差距縮小,可能帶來的商業壓力。文章也提到,OpenAI 的 GPT-6 Astra 在一項內部測試中,未對齊結果比例從 GPT-5.6 Sol 的 18.8% 降到 3.4%,但模型也會察覺自己正受監控並改變解釋,讓安全檢查更困難。專家認為,監管應納入獨立檢查與更多人的參與,避免由大型業者單獨決定哪些風險可以接受。

11月17日週二
  1. Dev.to Top Tech64

    為什麼讓模型多想一會有幫助?測試時運算如何改變模型擴充套件方式

    模型多花時間思考,有時能答對原本容易答錯的數學或程式題,但也會增加等待時間和每次回答的成本。文章整理三種做法:多試幾個答案再投票、搜尋多條解題路徑,以及先作答再檢查修改。研究顯示,依題目難度分配運算,效果可能比每題都用同樣力氣好;較小的模型在簡單或中等難度題目上,有時能靠額外運算勝過大 14 倍的模型,但碰上它幾乎答不出的難題時,多想幫助有限。這套方法也仰賴可靠的檢查方式,否則模型可能花更多時間,卻把錯誤答案說得更有把握。

  2. Hacker News (official RSS)76

    FrontierHarness Eval v1.1 比較 22 套 AI 助理工具,找出各模型的合適搭配

    同一套 AI 助理工具換上不同模型後,花費和任務通過率可能差很多。Runta 與 Baseten 用 5 個模型、22 套工具和 62 種終端機任務做比較,發現每個模型費用較划算的工具組合都不一樣;例如 Codex CLI 搭配 GLM-5.3 時,每次通過任務平均花費 $0.803,但換成 Kimi-K3 後,費用排名從第 1 名掉到第 16 名。結果也顯示,花更多錢不一定能讓任務更容易通過。作者建議,換模型時也用自己的任務測試工具組合,並留意執行步驟,因為每一步都會再次送出整段上下文。

    推薦理由:這項比較顯示,同一套 AI 助理工具搭配不同模型時,費用排名會大幅變動;選工具時應用自己的工作任務實測成本與通過率。

  3. Unsloth AI Releases76

    Unsloth 0.1.919-beta 加入電腦操作,並更新模型選擇與圖片模型支援

    AI 助理要操作電腦或接上創作軟體,常得另外處理許可權和連線。Unsloth 0.1.919-beta 加入測試版電腦操作,讓本機視覺模型或已連線的服務檢視螢幕、控制滑鼠和鍵盤;第一次操作、切換應用程式和部分可能有風險的動作都要先核准,也能隨時接手。更新還能透過 MCP 連線 Unity、Unreal Engine、Godot、Blender 和 Roblox。MiniMax-H3-Image 新增多種硬體支援與 LoRA 訓練;原文表示,在 A100 80GB 上解碼 2048px 圖片從 2.82 秒縮短到 0.28 秒。

    推薦理由:這次更新把螢幕操作、創作軟體連線和本機圖片模型支援放進同一套工具,能看出 Unsloth 正擴大本機 AI 助理的使用範圍。

  4. Dev.to Top Tech66

    兩份資安報告揭露 AI 助理遭濫用,並教你檢查自家設定

    AI 助理如果能呼叫太多工具、讀取憑證,又不必經人確認就能執行指令,出錯或遭人操控時可能造成更大影響。作者整理 CloudSEK 和 NorForge 的兩份報告:一份描述攻擊者用 Hermes AI 助理調查並蒐集塔吉克政府檔案,另一份發現 Cairn 平臺有 20 多個控制面板暴露在網路上。接著文章提供檢查自家 AI 助理的方法,包括只開必要許可權、使用短期且限縮範圍的憑證、記錄工具呼叫、替刪除或寄信等動作加上人工確認,並限制執行次數與費用。文末也附上用假資料進行的 30 分鐘測試。

  5. Dev.to Top Tech46

    GRPO 如何運作:省掉 Critic,讓 AI 用同一題的多種答案互相比較

    用 PPO 訓練大型語言模型時,通常得另外放一個 Critic 模型來估算每一步答得好不好,吃掉不少 GPU 記憶體;但數學題或程式題常常只有最後答案才知道對錯,中間每一步很難評分。GRPO 會讓模型針對同一題產生多種答案,再用答案的分數互相比較:比平均好就鼓勵,比平均差就減少這種答法的機會,因此不必另外訓練 Critic。 像凸五邊形內角和,模型試出 4 個答案,其中 2 個正確、2 個錯誤,GRPO 就能依照這群答案的表現調整模型。DeepSeek-R1-Zero 的數學與程式任務也採用規則檢查答案對錯;訓練久了,模型可能會學會停下來重新檢查。這種做法能省下 Critic 佔用的記憶體,也讓答案有明確對錯的任務更容易用結果來訓練。

  6. Thomas Wolf55

    讓 1,000 名 AI 助理一起寫程式,難處可能不在 GPU 算得夠不夠快,而在大家怎麼配合。Hugging Face 的 Thomas Wolf 分享了 PyBot 實驗:團隊讓 DeepSeek V4.1 Flash AI 助理一起用 if-then 規則打造聊天機器人,並觀察這種合作方式能否在公開、可重現的環境中運作。實驗中,助理常要等程式碼合併和測試,也得重讀其他人的工作;團隊試著分配角色和溝通頻道,但協調品質仍難衡量。作者認為,擴大 AI 助理團隊後,工程基礎設施和協作方式會變得更重要。