作者測試一句提示詞能否阻止 AI 助理把錯誤資料當真
API 有時回傳空白、資料不完整或一堆零,卻仍顯示呼叫成功,AI 助理可能因此把錯誤資料當真,甚至做出不對的操作。作者用四種 AI 助理框架和模擬 API,比較在指示中加上一句提醒,或讓工具附上資料缺漏註記,能不能減少這種問題。測試中,那句提醒讓助理在回答問題時不再編造資料,也能避免對看起來明顯有問題的資料採取行動;但空清單、截短清單和被歸零的數字看起來很正常,提醒仍擋不住錯誤判斷。作者也說明,測試只用了單一模型、單一服務和少量模擬任務。
API 有時回傳空白、資料不完整或一堆零,卻仍顯示呼叫成功,AI 助理可能因此把錯誤資料當真,甚至做出不對的操作。作者用四種 AI 助理框架和模擬 API,比較在指示中加上一句提醒,或讓工具附上資料缺漏註記,能不能減少這種問題。測試中,那句提醒讓助理在回答問題時不再編造資料,也能避免對看起來明顯有問題的資料採取行動;但空清單、截短清單和被歸零的數字看起來很正常,提醒仍擋不住錯誤判斷。作者也說明,測試只用了單一模型、單一服務和少量模擬任務。
Meta 的廣告排序模型種類很多,逐一套用新方法既耗時,也容易在不同模型上出現問題。Meta 用標準模型模板整理出一小組可重複使用的模型設計,先在有代表性的模型上測試新方法,再把通過檢查的改動加入模板,推廣給使用這些模板的模型。Meta 表示,這套做法讓每個模型所需的工程時間減少 92%,兩年來推出超過 5000 種技術與模型組合,離線模型品質平均提升 0.63%,線上成效累計提升 0.86%。模板也讓 AI 助理有較明確的設計範圍,可協助提出想法、進行實驗和找出問題。
推薦理由:Meta 說明標準模型模板如何把逐一調整模型的工作,改成在代表性模型上驗證後推廣,並分享兩年來的工程時間與模型成效變化。
這個 Windows PE 執行檔把 API 名稱和文字藏起來,單看可見字串不容易知道它在做什麼。從標頭和程式碼可看出,它會用雜湊方式尋找 Windows API,組出 165.154.205.34 這個位址,並準備連線所需的資料;程式中也有呼叫 WSAStartup 的線索。這些線索支援它具有網路連線用途,但目前提供的片段不足以確認完整下載流程、連線成功與否,或檔案是否已遭實際執行,因此不宜只憑這段分析判定它的完整行為。
貨車故障或貨物延誤時,物流人員得趕快查清狀況、安排補救,還要通知相關的人;但資料散在不同系統,處理經驗也可能跟著熟手離職而消失。CodeNinja Atoms 的參考設計把這些資料連起來,讓 AI 助理整理情況並草擬處理方式,再由物流人員核准訊息和預約異動。每次確認的處理結果都會留下來,供下一次參考;模型本身不必重新訓練。設計也讓資料和推論留在業者自己的場所,減少貨運資料外傳。
AI 能不能讀懂人的心思?Brain-IT 研究的是更有限的問題:在受控實驗中,能否從人觀看影像時記錄的 fMRI 資料,重建出類似的畫面。模型會把腦部掃描資料轉成場景佈局和內容線索,再用生成模型重建影像。文中的棒球例子保留了相似的人物和球場,但紅色衣服變成紫色,表示重建只能找回部分資訊,並非完整記錄人的視覺經驗;這項實驗也沒有測試秘密、記憶或夢境。
AI 助理如果能動用預算,光靠付款系統攔截不合規交易,可能會讓錯誤決定進入人工審查。作者用 CohereLabs/aya-expanse-8b 測試模型能否先判斷哪些支出可以放行、拒絕或交由人確認,並用規則程式核對答案。經過調整訓練後,模型在 165 個測試情境中的正確率從 55.2% 升到 95.8%,不該放行的支出也大幅減少。不過,支出是模擬的,測試也不是讓模型實際操作付款工具;訓練資料若只著重算術,還可能讓其他判斷變得更寬鬆。
模型回答可能被人直接改進權重裡,即使沒有動提示詞,改變也會跟著模型檔案留存。研究人員用 ChatGPT 6.1-Sol 修改 Qwen2.5-1.5B-Instruct,讓它在 100 次測試中都把 2000 年奧運主辦城市答成布宜諾斯艾利斯;原模型有 91 次答對雪梨。不過修改也影響了一項無關測試,而且研究是在受控環境中用小型模型完成,沒有證明攻擊已在實際部署中發生。文章建議,使用別人提供的模型權重前,先用已知答案的問題檢查修改前後的行為,並在測試環境中確認安全。
想從《Palworld》畫面上的能力值反推出帕魯的隱藏天賦,常見的簡化公式會算錯。作者拆解遊戲計算時的浮點數誤差和三次取整順序,推匯出 HP、攻擊與防禦的公式,再用事先寫下並鎖定的預測和遊戲畫面比對。公式符合 2,310 筆已檢查的數值;作者也說明其中只有部分數值是在檢視遊戲結果前先凍結預測。文章另整理食物、飢餓、被動技能和等級同步等修正方式,並提供計算器、公式論文與資料集,讓玩家查詢帕魯可能的天賦值。
天文學家在 Vera C. Rubin Observatory 的觀測資料中發現矮行星候選天體 2026 ED138,它距離太陽約為地球的 46 倍,繞日一週需 281.1 年。
SpaghettiLens-AI 將四道範圍限定的驗證門與 AST 靜態呼叫清單加入儲存庫,並比較本機 4B NPU 設定與 gemini-3.8-flash 的工具呼叫流程。
Google DeepMind 使用 AlphaProof Code,為 Signal 參考實作 libsignal 的編譯程式碼產生機器檢查的形式化證明,涵蓋一對一訊息的握手與金鑰輪替。
推薦理由:這項驗證涵蓋 libsignal 編譯後的程式碼,並以兩個已修補漏洞測試工具能否辨識不安全版本,呈現形式化驗證的實際範圍與檢查方式。
一項涵蓋 320 次執行的研究發現,當 CLAUDE.md 或 AGENTS.md 與現有程式碼慣例衝突時,Claude Code 和 Codex CLI 有 90.1% 的選擇遵循過時指令檔。
Google DeepMind 說明 AlphaProof Code 如何為特定 Signal 編譯實作建立機器檢查的安全證明,並由獨立檢查器比對經人工核准的規格與其相依定義。
推薦理由:文章拆解形式化驗證的信任邊界,說明規格、編譯產物與密碼學假設如何共同限制安全結論的適用範圍。
Formalizing CPython 專案以 Lean 逐行建模 CPython 3.15.2,透過測試、機器證明與獨立審查驗證模型,並據此提交了 418 項錯誤報告。
推薦理由:文章呈現以逐行建模、差異測試、機器證明與獨立審查檢查大型程式碼庫的流程,並以 CPython 案例說明各環節如何協助找出錯誤。
Anthropic 在 2026 年測試其四層 Agent 記憶架構,並以 100 行 Python 展示完整實作。 - 四層結構:transcripts、notes、wiki representations、injected context。
Wild Dolphin Project 正與 Georgia Tech 和 Google DeepMind 合作,運用 AI 從海豚影音資料中尋找溝通模式,並嘗試以水下穿戴式電腦播放聲音與海豚互動。
本篇提供從程式重構到演運算元驗證的完整教學流程,適合想深入 Erlang 及 actor 模型的講師與學生。 - 重構階段:將傳統 if 控制流改為模式匹配與函式組合,消除命令式風格。
影片在 8 MB 或 10 MB 內可長多久(三次測試編碼) - 實際可用時長:約 1 分鐘 720p30 8/10 MB。 - 測試結果: - 10 MB 15 s 720p30 無音訊:9,253,520 B,140 s,7,399,220 bps。
本文說明 LFORLA 招聘團隊基準如何確保 LLM 評估可比性,並展示實際分數與評分機制。 - 評分機制:同一提示、同一固定評分者、按軸別評分與二元門檻,並公開完整回答。