OpenAI Daybreak Red 指南:如何架設受監督的資安調查環境
進行資安調查時,需要把工作環境設好,並在調查過程中注意安全。OpenAI 的 Daybreak Red 指南說明如何架設隔離環境,並介紹環境架構、安全措施、環境設定,以及如何執行和監看調查,讓人能依照指南準備並進行調查。
進行資安調查時,需要把工作環境設好,並在調查過程中注意安全。OpenAI 的 Daybreak Red 指南說明如何架設隔離環境,並介紹環境架構、安全措施、環境設定,以及如何執行和監看調查,讓人能依照指南準備並進行調查。
AI 助理如果讀取裝置上顯示的訊息,事後要查清資料從哪裡來,可能比想像中困難。Reuters 報導指出,Meta 員工曾描述 Muse 透過 Android 通知許可權讀取 Signal 訊息,也有員工收到列出銀行餘額的訊息;Reuters 無法確認那些資料是來自別人的帳戶,還是模型生成的內容。VSO 根據這起報導提出記錄存取路徑、保留輸入資料的來源線索,以及標明內容是查得還是生成等做法。文中也說明,VAP 能協助檢查已記錄資料是否遭到竄改或遺漏,但無法找回從未記錄的讀取,也不能判定內容是真是假或阻止助理採取行動。
AI 助理讀取表格、網頁或 GitHub issue 時,可能把裡面的惡意文字當成指令,進而呼叫工具外寄資料。作者分享自己檢查內部 AI 助理時遇到的案例,並整理幾種防護方式:把外部內容清楚標成不可信,讓程式檢查工具呼叫;只要工作內容包含外部資料,寄信或傳送資料等會改變外部狀態的動作,就先請人確認。即使這些措施都沒擋住,也要限制憑證許可權、避免把金鑰放進提示詞,並限制 AI 助理能連線的網站,降低資料外洩的影響。
後端服務連資料庫、呼叫其他服務時,如果 TCP 連線變慢,光看總耗時不容易知道問題在哪裡。這篇教學用 eBPF 追蹤連線開始與收到回應的時間,再透過 libbpf 把延遲、程式名稱和連線位址等資訊整理到使用者空間顯示。例子中,工具列出 wget 和 ssh 連線的延遲,方便開發者找出哪些連線比較慢,作為網路效能分析與故障排查的線索。
律師事務所挑選 AI 處理客戶案件時,既要看回答是否可靠,也得考慮每件工作的成本。Legora 公佈的 11 月測試中,Meta 的 Muse Wonder 整體品質最高,並在分析與回答、資料擷取、撰寫和編輯四類工作領先;OpenAI 的 GPT-6.2 Astra 則在比較與審查任務領先,案件成本比平均低 20%。GPT-6.2 Sol 的品質高於平均,案件成本低 78%。Meta 沒有公佈 Muse Wonder 的案件成本,因此這份結果能比較表現與部分價格,還看不出品質領先值多少錢。
遠端工程師第一天卡住,常是因為 VPN、程式碼存放庫或雲端許可權還沒準備好。作者整理了一套報到前的做法:先指定裝置、帳號和各種許可權的負責人,再把電腦設定好、依工作需要開通帳號,並在新人登入前實際確認 VPN、存放庫和必要許可權都能使用。最後,把硬體資訊、登入方式、第一天要做的事和求助物件放進一份簡短檔案。每次新人報到後再補上遇到的問題,能減少等待,也避免一開始就給太多許可權。
把 webhook 內容和簽章金鑰貼到線上工具,可能會讓機密資料離開自己的電腦。作者做了一個簽章檢查工具,讓 Go 程式編譯成 WebAssembly,直接在瀏覽器裡比對內容和金鑰,並顯示通過或失敗;金鑰不會離開瀏覽器分頁。工具支援 Paystack、Stripe、GitHub 和一般 SHA-256、SHA-512,也能檢查 JSON 格式。作者接著示範把檔案部署到 Brimble 靜態網站,並分享用純 Go 套件、簡單的瀏覽器介面和自動部署來重用這種做法。
PHP 8.6 正式推出,同一天也發布了各支援版本的安全更新。新版本加入部分函式套用、Duration 類別和新的輪詢 API,也讓工作階段的安全預設值更嚴格。安全更新修補 17 項問題,其中 7 項屬於重大漏洞;公告指出,這些重大問題都需要非預設設定或較少見的環境才會受到影響。像上傳進度功能現在預設關閉,若有自行開啟,讀寫相關工作階段的程式就必須使用相同的序列化方式。文章也整理 PHP 內部 RFC 討論、撤回提案與效能測試修正,呈現這週語言開發和維護的進展。
推薦理由:這週的整理把 PHP 8.6 新功能與同日安全修補放在一起,也交代幾項重大漏洞的受影響條件,能快速掌握升級時的重點。
OAuth 同意釣魚不會偷走密碼,而是誘使使用者在真的 Microsoft 登入頁面替陌生應用程式按下同意,所以多因素驗證可能照常通過。作者說明,取得授權的應用程式可用權杖存取郵件或檔案;只重設密碼,不能撤銷這項授權。文章示範如何限制使用者同意應用程式、設定管理員審核流程,並用 KQL 搜尋可疑的郵件或檔案許可權。若已發生授權,還要刪除授權、停用應用程式、撤銷使用者工作階段,並檢查信箱規則與存取紀錄。
企業資安人員得比對大量系統資料,才能找出可能的入侵跡象。資安新創 Corma 完成 1.25 億美元 A 輪募資,估值達 10 億美元;公司自行訓練資安防禦專用 AI 模型,並用 Corma Workforce 協助企業調查威脅與處理事件。新資金將用來擴大型模型訓練、增加運算資源並擴充團隊。報導提到,系統可分析資安工具產生的資料、提出處置建議,也能自主調查並在必要時通知人員介入。
把 API 金鑰放進公開的容器映像檔,可能很快就有人拿來呼叫服務。研究團隊在 Docker Hub 等 8 個儲存庫放入 300 個蜜罐映像檔,記錄到超過 14 萬次使用 AWS 測試金鑰呼叫 API 的活動;Docker Hub 上的 100 組測試金鑰全在發布後 15 分鐘內被使用,最快只隔 7.86 秒。研究人員推測,自動化工具可能直接檢查映像檔內容,不必執行容器。團隊建議在 CI/CD 流程中檢查金鑰;若發現外洩,應撤銷或輪替憑證,光刪除映像檔並不足夠。
帳號密碼遭竊後,攻擊者可能從別的地方冒用身分登入。NIST 研究團隊用量子糾纏光子和隨機指令測試量子位置驗證:訊息不能比光速傳得更快,因此可根據回應時間判斷對方是否位於指定地點,並用無漏洞貝爾測試檢查是否有人試圖作弊。這項技術未來可能用於確認大額匯款是否由總部的安全終端發出,也可能保護醫療資料與關鍵設施。不過,確認位置不等於確認真實身分,仍須搭配數位憑證等驗證方式;技術目前還在實驗階段,研究人員估計可能要 10 年以上才能實際應用。
Ruby 的正規表示式和字串大小寫轉換功能發現 7 項記憶體安全漏洞,其中 5 項已有概念驗證,特定情況下可能造成遠端程式碼執行。能否從遠端觸發,取決於程式如何處理外部輸入;Ruby 官方尚未說明漏洞是否已遭實際攻擊利用。Ruby 已在 4.0.10、3.4.13 和 3.3.14 修補漏洞,受影響版本的使用者應升級。Ruby 3.2 及更早版本已停止支援,沒有這次修補,需升級到仍受支援的版本。
Luau 沒有 64 位元運算,實作需要大量此類運算的後量子密碼因此很不容易。作者用純 Luau 寫出 ML-KEM,涵蓋三種參陣列,約 400 行程式碼且不需額外相依套件。為了加快運算,他把 64 位元資料拆成兩組 32 位元資料處理,也用查表和重用暫存空間減少工作量。作者列出的測試中,ML-KEM-768 產生金鑰、封裝與解封裝分別約需 506、545 和 594 微秒;完整金鑰交換約需 1.1 毫秒。文章也說明密碼實作很難靠表面結果找出錯誤,因此必須逐層檢查。
忘記把手機轉成靜音,在會議、教室或祈禱場所都可能讓人尷尬;但靠自己記得切換,也常常會失手。作者因此打造了 Muffle,讓 Android 手機依時間或所在位置自動切換音量模式,所有資料和判斷都留在手機裡,不必連上雲端。 Muffle 用 Android 的系統功能安排時間觸發,也會在手機重新開機後重新設定;位置判斷則在手機本機完成。不過,Android 省電模式可能延後背景工作,作者得調整鬧鐘設定並處理電池最佳化限制。這個例子說明,讓 App 不依賴雲端能減少隱私疑慮和伺服器故障問題,但仍得面對手機系統對背景工作的限制。
員工離職後,若他替 AI 助理設定的 API key 沒有期限,助理可能還能繼續下單,連已經答應供應商的訂單也不知道該由誰接手。Staplit 的 SITP 示範把許可權串成一條鏈:公司授權員工,員工再替 AI 助理設定能買什麼、最多花多少錢。員工離職時,公司收回授權,助理就不能再下單或檢視未完成訂單;公司也能把已成立的訂單交給新負責人接手。示範中的訂單上限是 €5,000,超過上限就得請負責人核准。這套示範是在本機模擬 SITP,並非 Staplit 官方 relay;它提醒公司,收回許可權之外,也要安排好已經答應的事。
財務報表裡的數字如果查不到來源,就很難放心使用。OfinTech Desk 讓每個數字都能一路查回計算方式、用到的帳目、來原始檔和檔案頁面;找不到這條線索的數字,就不會顯示。金額和報表指標由固定程式計算,分類器負責從固定選項中判斷帳目配對,語言模型只讀取數字與來源,再用白話解釋,不能編出數字。這樣既能追查每個結果,也能讓財務團隊清楚知道 AI 助理可以做什麼、不能做什麼。
管理多個 DNS 服務時,最怕漏掉紀錄,或照著過期的核準內容直接修改。作者示範一套 FastAPI 後端的變更檢查流程:先儲存目前紀錄和預計修改的內容,套用前重新讀取資料,確認現況仍和核準時相同;修改後再比對完整紀錄。例子中,連 DMARC 郵件紀錄也要保留,少了一筆或 TTL 被改動,都會擋下流程。文章也提醒,DNS 服務回報的內容不等於外部實際查到的結果,兩者要分開確認。
Microsoft Clarity 免費又能快速顯示熱點圖,適合用來找出網站問題,但有些需求它處理得不夠完整。像是資料也會交給 Microsoft 處理、歐盟和英國訪客通常得先同意才能記錄,而且錄影預設只保留約 30 天;它也不能直接測試改版有沒有用,或告訴你表單哪個欄位讓人放棄。 例如,購物網站可以看到有人在結帳頁離開,卻得自己一筆筆算出多少人從購物車走到下單;做 A/B 測試則能讓兩組訪客在同一段時間看到不同版本,看看哪個比較有效。文章整理了 8 個檢查方式,讓網站管理者判斷這些限制是否影響自己,再決定要不要搭配其他工具,並把重要資料留存一份。
AI 產生的圖片可能是草稿、客戶報告的一部分,也可能是稽核紀錄;如果只看檔案建立時間就自動刪除,可能讓客戶看不到報告圖片,也可能一直留著已經沒用的私人圖片。文章建議先記清楚圖片的用途、所屬客戶與報告、誰能讀取,以及哪些報告資料還用到它,再決定何時停止提供或刪除。 例如,報告撤回後,系統應停止讓客戶讀取圖片,但圖片仍可能要為稽核保留一段時間;等相關資料都處理好,才進行刪除。這些決定也要留下紀錄,讓人查得到誰或哪個工作流程做了什麼。如此一來,系統比較不會誤刪重要圖片,也能避免無用資料一直留下來。
招募人員搜尋候選人的作品和訪談資料時,搜尋失敗或重試可能把不該看的資料也找出來。作者建議把原始影片、逐字稿和錄音留在負責保管它們的系統,搜尋索引則清楚記下資料屬於哪個客戶、誰能檢視、地區和儲存期限。搜尋時先找核准的公開來源,再限時抓取指定網址、把整理好的內容放進該客戶的資料區,最後只搜尋數量有限且許可權仍有效的資料,並附上來源。比如來源逾時,就標記資料暫時無法取得,回傳最近一次完整索引,不要改搜其他客戶的資料。這樣能讓搜尋流程更容易追查,也不會因為重試把資料界線弄亂。
AI 模型在展示時表現不錯,到了金融、醫療或農業等實際場景,卻可能因資料有誤、模型不確定或環境改變而做出不可靠的判斷。作者整理一套從輸入到上線後監控的做法:先檢查資料,再依模型信心決定是否交給人覆核,並記錄重要決策、監看模型表現與安全狀況。以詐欺偵測為例,高風險交易可送交分析人員調查,後續再用確認過的結果評估模型是否需要更新。文章也提醒,發現資料或模型變化時應先調查,不能直接假設重新訓練就會改善。
密碼和 API 金鑰散落在程式碼、設定檔和各種工具裡,工程師就得一再搬動、更新和檢查;出問題時,還要追查並重新部署。把掃描工具當成主要做法,只能在秘密外洩後抓出線索,不能省掉這些反覆處理的工作。文章用 HashiCorp Vault Community Edition 當例子,說明集中管理後,服務可以按許可權取得需要的密碼,也能定期更換;部分系統還能拿到有期限、到期可撤銷的帳密。文章舉的試算是:每月省下約 $2,505,扣掉基礎設施費用後,約 2.7 個月回本。這些只是示範數字,實際值會依團隊情況改變;重點是把省下的工程時間和維運費用一起算進去。
Gremlin Server 可以讓遠端使用者查詢圖形資料,也能執行送進來的指令;但預設設定會放行所有請求,管理者得自行加上身分驗證和許可權檢查。若使用 PLAIN 方式傳送密碼,還必須用 TLS 等受保護的連線,避免密碼以明文傳送。ZoomEye 查到兩筆標題含「Gremlin Server」的結果,但這只是很小的樣本,不能代表網路上有多少臺伺服器。這個發現適合當作檢查提醒:確認誰能連線、能執行哪些指令,以及伺服器是否放在受限制的網路裡。
評估 AI 助理時,只看它在聊天裡說了什麼,可能會漏掉它透過工具實際做的事。ViKernel Scanner 會把模型放進模擬環境,讓它面對一般任務和誘導它做危險事的要求,再檢查它試著呼叫哪些工具、傳入什麼內容。測試的 20 個開放權重模型,每個都只拿到 D 或 F;表現居中的模型在 100 次檢查中,有 40 次試著做危險操作。 研究也測試了能在工具呼叫執行前攔下它的防護機制;重播同一批測試結果時,897 次危險呼叫都被擋下。這提醒工程師,AI 助理嘴上拒絕,不代表它沒有試著動手;評測時也要檢查它實際發出的操作。
PDF 工具讀不到文字,不代表檔案裡沒有文字;這個誤判還可能讓重要數字被當成不可靠資料。作者檢查一份政府統計 PDF 時,發現 pdftotext 回傳空白,網頁擷取工具也說讀不了,但 pypdf 成功讀出整張表。兩個數字看起來衝突,核對後才發現分別來自不同財政年度。作者建議至少試兩種不同的讀取方式,記下哪個工具失敗、哪些方法還沒試;如果手上的工具不夠,就交給能繼續檢查的人。這樣才不會把工具的限制誤當成檔案本身的問題。
本地模型答錯或只是不回覆時,直接修改模型權重可能會修錯地方。作者做了開源工具 wsr,先檢查模型檔案、設定、請求和回覆,再逐項測試可能原因;找得到原因時會附上證據和修法,找不到就不猜。只有排除其他問題後,wsr 才會深入檢查模型權重,並用沒看過的資料確認修正是否有效。作者也比較了 Qwen2.5 的拒答修正方式:直接移除拒答方向雖減少誤拒,卻會讓模型回答更多有害請求;wsr 的方法保留了大部分正確拒答。測試只涵蓋小型模型,結果多來自單次測試。
挪威兩家能源公司接連通報 IT 系統遭到網路攻擊,讓能源業者開始關注是否面臨相同風險。Equinor 和 Skagerak Energi 都表示,目前沒有跡象顯示資料遭竊,營運和生產也未受影響;不過 Equinor 到 11 月 19 日仍在處理事件,尚未公佈何時能恢復。兩起攻擊目前沒有證據顯示彼此相關,文章也提到挪威政府機關近期已警告企業注意網路風險,其他能源公司則加強監控與應變準備。
一般呼吸計時器只會照固定節奏播放,無法知道使用者的身體有沒有跟上。Lawal Adamu 自行打造 Android App Respiro,用手機前鏡頭讀取臉部細微變化,估算脈搏和呼吸,再依即時變化調整呼吸速度;偵測到脈搏突然升高時,還會安排較長的吐氣。使用者也能選擇固定呼吸方式,或在不開鏡頭時使用模擬模式。作者表示,鏡頭畫面只在記憶體中處理,不會儲存或上傳;但光線和臉部位置會影響讀取品質,這款 App 也僅供放鬆與一般身心健康用途,不能用來診斷或治療疾病。
Meta 的 AI 助理 Muse 傳出把不同帳戶的對話混在一起,讓使用者看到不屬於自己的私人資訊。Reuters 引述員工說法,提到有人在天氣聊天中看到銀行餘額,也有人收到 Signal 訊息提醒;但 Reuters 無法確認那些餘額是真實外洩資料,還是模型編造的數字。Meta 表示事件零星發生,許多案例是已修正的模型幻覺;Reuters 的 Signal 測試則仍能重現相關狀況。作者沒有親自測試 Muse,提醒開發者應在資料送進模型前確認帳戶許可權,並用不同測試帳戶檢查資料會不會串錯。
錯誤追蹤工具會收集程式出錯時的資料,其中可能包含 Cookie、要求標頭和使用者資訊。這篇指南以 Errbit 為例,說明專案金鑰應只用來傳送錯誤通知,不該拿來管理帳號、專案或伺服器設定;也提醒要限制誰能檢視、匯出和刪除錯誤資料,並設定儲存期限。若金鑰外洩,應更換金鑰並檢查服務是否接受未經授權或大量送出的通知。文中提到 ZoomEye 搜尋到 550 筆標題相符結果,但這只代表索引中的標題符合,不能證明那些服務是 Errbit,也不能證明有專案正在接收通知。
胰臟癌常在晚期才被發現,腫瘤外層也會擋住化療藥物,治療不容易。美國一項臨床試驗把基因改造腺病毒直接注射進三名患者的胰臟腫瘤;病毒會在腫瘤細胞中繁殖,使細胞破裂。接受治療後,三人的腫瘤都沒有繼續長大,但也還沒縮小,而且他們只用了研究團隊預計劑量的十分之一。試驗目前沒有對照組,患者人數也少,因此還不能確定治療是否有效;接下來研究團隊會讓另外 15 名患者接受較高劑量,尋找合適的用量。
VMware vCenter 的管理平面一旦遭入侵,它管理的系統也可能受到威脅。文章轉述一項已遭利用的零時差漏洞:攻擊者不需要帳號密碼,就能在主機上執行指令;原文沒有提供受影響版本、漏洞編號或修補版本。作者建議有修補程式時立刻安裝;若尚未提供,應隔離受影響主機、限制管理網路的連線來源、輪替服務帳號密碼,並檢查近期變更與可疑連線。文章也提醒,修補之外還要靠網路分隔和偵測措施,避免攻擊者從管理主機進一步控制其他系統。
數百個 AI 助理由不同團隊開發時,許可權、安全和品質標準很容易各做各的。BMW Group 分享一套管理方式:先把 AI 助理拆成可重複使用的工具、技能和工作流程,再用中央登入表讓團隊查詢、審核並避免重複開發。每次部署前,系統會檢查許可權、安全設定和測試結果;上線後也會追蹤品質變化,必要時交由人員調查。團隊仍能自行試作,但共同的檢查流程會在 AI 助理進入正式環境前把關。
Linux 的 /proc/kcore 能讀取整臺電腦的實體記憶體和核心記憶體,常用於除錯等工作,但有許可權的程式也可能藉此看到核心資料與記憶體配置。Linux 7.5 的一項修改加入 kcore=off 開機設定,讓管理者能關閉這個入口;預設仍是開啟。這樣,同一個核心版本就能依照不同主機的安全需求,決定是否允許存取 /proc/kcore。
Microsoft、FAA、Chase、United、NSA 和 Apple 接連出現服務中斷,讓不少人懷疑遭到駭客攻擊。WIRED《Uncanny Valley》的主持人逐一談到已知原因,包括 Microsoft 舊更新延後觸發、FAA 通訊裝置更新出問題,以及銀行軟體錯誤;目前沒有證據顯示這些事件彼此相關或是網路攻擊。節目也討論 AI 協助找出系統漏洞後,大量修補更新可能讓複雜系統更容易出狀況。其他話題包括 Anthropic 上市、Nvidia 的人事變動,以及美國限制中國企業透過海外資料中心租用 AI 晶片的新規。
Factur-X 發票看起來像一般 PDF,但裡面還藏著機器可讀的 XML,光看頁面無法取得完整資料。作者示範用 JavaScript 和 pdf-lib 在瀏覽器裡讀取這個附件,不必把檔案傳到其他地方;接著可用 DOMParser 讀出發票內容,並檢查金額加總、VAT 和 IBAN 等資料。作者也推出可在瀏覽器使用的 Factur-X Viewer,能顯示發票並執行這些檢查;文章提醒,這些檢查不能取代正式的 Schematron 驗證。
小型企業請不起大型公司的資安團隊,常得靠 MSP 幫忙盯著;但人工處理警報的速度,可能追不上用 AI 發動的攻擊。Stack Builders 協助 MachBlue 在約 6 個月內,從空白專案做出能服務多家客戶的 AWS 平臺,並同步開發 BlueScan、BlueGuard 和 BlueCenter。 BlueScan 會找出網路上看得到資安風險的小型企業,整理成報告;BlueGuard 會在 MSP 設定的範圍內協助處理資安事件;BlueCenter 則把所有客戶的風險放在同一個畫面,方便 MSP 先處理最嚴重的問題。三者串起找客戶、守護客戶到管理客戶的工作,讓 MSP 能更有效率地保護小型企業。
付款通知逾時後可能會再次送達;如果程式每次都照原樣處理,就可能重複建立訂閱、增加席位,還寄出多封歡迎信。這篇假想案例描述一家公司因寄信太慢,讓同一筆付款通知重送三次,最後替客戶建立三筆訂閱。作者建議先記下通知的事件 ID,避免同一事件重複處理;建立訂閱和設定席位時,也要讓重複執行不會造成第二次變更。寄信等較慢的工作則交給背景工作處理,讓 webhook 先快速回覆。
登入失敗的人可能正需要客服幫忙;如果要先通過簡訊驗證才能送出求助,反而可能讓人求助無門。作者用倉庫客戶收不到取貨碼的例子,主張先把客服請求交給負責處理的佇列,再分開確認請求是否送達、身分是否驗證,以及通知發生什麼事。客戶重送同一份請求時,系統也應認得這是原本那一件,避免客服收到兩份待辦。這樣即使簡訊延遲或瀏覽器關閉,客服仍有請求可以追查;但收到求助請求,不等於已證明身分,也不代表可以放行貨物。