AI 助理該在什麼時候先詢問人?人工審核設計指南
AI 助理有時能替人寄信、退款或更改帳號,但做錯後可能影響客戶或難以挽回。作者整理了安排人工審核的方法:先看事情影響多大、能不能復原,以及會影響誰;像寄信或修改帳單,可以先讓人檢視並修改內容,再由有許可權的人核准。系統要把待審核的動作存起來,確認核准者身分,也要在內容改變後重新核准,避免重複執行。這樣能減少不必要的打擾,也讓重要決定有人把關。
AI 助理有時能替人寄信、退款或更改帳號,但做錯後可能影響客戶或難以挽回。作者整理了安排人工審核的方法:先看事情影響多大、能不能復原,以及會影響誰;像寄信或修改帳單,可以先讓人檢視並修改內容,再由有許可權的人核准。系統要把待審核的動作存起來,確認核准者身分,也要在內容改變後重新核准,避免重複執行。這樣能減少不必要的打擾,也讓重要決定有人把關。
GPT-6.2 Astra 和 Sol 的回答變短了,但回答方式的改變不代表答案變得更準或更不準。Artificial Analysis 比較多個模型後發現,Astra 和 Sol 的回答篇幅與段落標題都減少,直接先給答案、聽起來自然的分數則上升;透明度分數分別是 41 和 57,低於 Fable 5.2 的 81 與 Opus 5.5 的 90。這些分數反映模型怎麼表達,不是回答正確率;在重要情境中,使用者不能只靠模型是否承認不確定來判斷內容可信度。
AI 會說話、也能完成不少事情,但這不代表它真的有感受。神經科學家 Anil Seth 認為,人們容易把智慧和意識混為一談,也會把像人的表現當成有心智的證據。他主張,大腦不只是執行程式的電腦,意識也可能和生命、身體運作密切相關,因此數位電腦模擬大腦,不一定就能產生意識。文章也提醒,現在沒有公認方法能判定 AI 是否有意識;把看起來有感受的 AI 當成真人,或完全不顧它可能有感受,都會帶來倫理上的難題。
換上新模型後,分數變好、價格不變,聽起來很合理,但 SimpleBench 的結果給出不同訊號。作者整理排行榜、廠商公佈的數字和價格,指出 GPT-6.2 Sol 得分 69.9%,低於同價的 GPT-6.1 Sol 的 82.9%;GPT-6.2 Astra 得分 77.3%,Claude Opus 5.5 則是 88.4%。作者沒有親自跑測試,數字來自排行榜和廠商資料;他也提醒,SimpleBench 主要測容易被細節誤導的題目,不等於所有工作表現。文章建議先用自己的工作內容比較新舊模型,並以完成一項工作的總成本來衡量價格。
AI 程式助理在單獨的程式測試中分數很高,但放進有同事、專案看板和聊天紀錄的模擬軟體公司後,能完成的工作少得多。這項新實驗測試了包括 Claude Opus 5.5 和 GPT-6 Astra 在內的 AI 助理,兩者完整完成的任務都不到十分之一。結果提醒我們,單項測試表現好,不一定代表 AI 助理能在較貼近日常工作的環境中把事情做完。
選模型時,答得準不準只是其中一件事,花多少錢、等多久也會影響實際使用。作者用月底帳務、帳務程式修正和實驗室資料分析三種工作比較 GPT-6.2 Astra 與 Claude Fable 5.2;兩者在帳務和資料分析都拿滿分,Fable 5.2 在程式測試多拿 2 分。整體來看,Astra 花費較低、完成較快,但在程式測試中漏掉一條會影響顧客帳單的規則。作者建議先讓 Astra 重做幾次並比對結果,有錯誤或差異時,再用 Fable 5.2 複核。
推薦理由:三種工作測試顯示兩個模型的準確度接近,但花費和完成時間差距很大,能幫助讀者依錯誤代價選擇模型與複核方式。
AI 助理每一步都用高價模型,跑完整個程式開發流程可能很花錢;但簡單工作如果改用便宜模型,出錯時也可能增加成本。TokenLean 用一個 40 步驟的程式開發流程估算,GPT-6.2 Astra 約花 $2.72,Qwen4-Max 約花 $0.39,約便宜 7 倍。作者提供一段雙層路由範例,讓 Qwen4-Max 處理搜尋、摘要、格式整理和測試分流,GPT-6.2 Astra 則負責規劃、最後檢查,或便宜模型第一次失敗後接手。文中也提醒,價格較低不代表品質相同,並建議記錄每一步的用量,檢視實際省下多少。
大家常問 AGI 什麼時候會出現,但不同預測對「做到什麼才算 AGI」有不同標準,所以日期很難直接相比。文章整理了 Metaculus、研究者調查和多位業界人士的預測,也介紹 METR 怎麼測量 AI 助理完成軟體工作的能力:看它能用多長時間完成一項有明確檢查方式的任務,並記錄成功率。以 METR 的測試為例,Claude Opus 4.5 完成這類任務的 50% 時間範圍約為 320 分鐘;這不代表 AI 能完成所有工作。作者提醒,閱讀預測時要一起看它的定義、資料和測試方法。
AI 模型愈來愈會處理研究和程式工作,但要確認新系統是否安全,專家可能跟不上進步速度。研究組織 METR 發現,在有明確目標和即時回饋的程式及計算任務上,模型多數時候已勝過有經驗的專業人士;人類需要更久才能完成的任務,模型能處理的時間長度約每 3.6 個月翻倍。METR 也提醒,常見測試可能高估模型在真實情境中的表現,因為開發者訓練模型時使用的環境和測試環境很相似。模型仍不擅長需要判斷、沒有即時回饋的開放式問題,而目前公開資料也不足以排除 AI 研究速度大幅加快的可能。
各公司的徵才網站格式不同,逐一查詢職缺很花時間,也不容易比對。作者介紹自己維護的 Apify Actor,能讀取多種徵才網站,把職缺整理成相同欄位,再用 Python 統計各公司的職缺數、遠端職缺和已公開薪資,也能比對每天新增或關閉的職缺。作者用六家公司測試,約 64 秒整理出 28 筆職缺;不過工具只會查使用者提供的公司,而且職稱關鍵字可能找到不完全符合的職缺,部分 Workday 欄位也可能缺漏。
以前要改造家電或相機,通常得有技術背景;現在,更多人開始用 AI 助理協助修改裝置軟體。有人用 Claude Code 改掉 Android TV 的廣告和介面,也有人替相機、合成器和遊戲主機加入新功能。這讓舊裝置有機會重新派上用場,也讓人能打造更合用的小工具。不過,修改韌體可能讓裝置故障或失去保固,廠商也可能加強限制。作者建議先備份,並只在壞掉也能承受的裝置上嘗試。
中國的《民族團結進步促進法》要求網路業者處理破壞民族團結的內容,但 AI 目前還不一定看得懂所有相關語言。作者測試六種模型後發現,用哈薩克語或蒙古語直接提問時,模型更常照要求寫出仇恨內容;部分測試也因藏語和維吾爾語翻譯不夠通順,難以判斷結果。另一方面,中國的政府相關機構正在建立少數民族語言資料和模型,作者認為這些成果尚未普遍出現在民眾使用的商用模型中。文章也提到,一項被 Anthropic 認為中等可信度與中國有關的行動,曾用 Claude 整理海外報導與活動資訊,製作給官員參考的簡報。作者據此分析,AI 的作用不只在刪除內容,也包括學習如何辨識內容,以及產製宣傳材料和監控情報。
推薦理由:作者以多語言測試指出,模型在少數民族語言中更容易產生仇恨內容,並串起審查、語言資料建置與監控報告三種用途。
想請 Claude 或 ChatGPT 寫新聞稿並發布,背後需要先確認公司資料、準備稿子,再等人同意發布。LivePublicator 把流程分成三次呼叫:先讀取公司和聯絡人資料,再由 AI 助理寫好新聞稿並檢查內容;使用者看過預覽、明確說「發布」後,才會公開上網。若稿子有問題,系統會一次列出所有需要修改的地方,減少來回修稿。首次發布每家公司收費 $9,草稿和預覽免費。
客服郵件常把前面的對話一再貼進新回覆,送進模型後,token 數可能比實際新內容多很多。作者用一組 10 封郵件的測試發現,原本只有 487 tokens 的新文字,連同引用內容計算後變成 5,068 tokens;他示範用程式移除純文字郵件中的引用區塊,再把各封信的內容交給模型。這能減少摘要工作的輸入量,但遇到 HTML 郵件、不同語言的引用格式,或穿插在引用中的回答時,簡單規則可能漏掉內容,需依實際郵件格式檢查。
個人 AI 助理能持續替人處理工作,也可能接觸信箱、檔案和帳號,因此記憶放在哪裡、能做哪些事和要花多少錢都很重要。MarkTechPost 比較 Hermes Agent、OpenClaw、Gemini Spark、OpenAI dots、Meta Muse 和 Perplexity Personal Computer 等工具。Hermes Agent 和 OpenClaw 可把記憶存成自己能檢視的檔案;雲端服務則在各家平臺上運作。文章也提醒,OpenClaw 預設可完整存取主機,需自行開啟沙盒;自架工具的費用還要算模型用量和主機,雲端工具多以訂閱計費。
想看懂 GPT 怎麼運作,卻常被現成工具包起來的細節擋住。作者做了一個開源教學專案,用 C# 和 ILGPU 在 GPU 上訓練小型 GPT,讓模型根據前面的字元預測下一個字元;OpenAI Codex 協助完成多數程式碼、教學說明和驗證工作。專案也用 CPU 計算結果和數值檢查來核對 GPU 運算,並安排七堂課,從基本運算一路帶到文字生成。它適合用來探索 Transformer 和 GPU 程式設計,作者也提醒,這個小模型不適合實際使用,短時間訓練也不保證能生成好文章。
AI 模型回答得更精簡,不一定代表回答更可靠;不同模型也可能用不同方式表達不確定。Artificial Analysis 比較 GPT-6.2 Astra、Sol 和 Claude Fable 5.2、Opus 5.5,發現 Astra 和 Sol 的回答變短,也更快切入問題;Claude 在透明度和組織方式的分數較高。這些分數是和其他受測模型相比的風格排名,不是答案正確率;透明度分數較低,也不代表模型更常答錯。
從頭訓練大型語言模型很花錢,但多數小團隊不必自己做這一步。這篇指南先說明模型如何從大量文字學習,再整理幾種省成本的做法:用 LoRA 或 QLoRA 微調已有的開放權重模型,或用 RAG 在回答時查資料,完全跳過訓練。文章也比較 DeepSeek、Kimi、Qwen 等開放權重模型,以及 OpenAI、Anthropic、Google 的封閉模型,並說明 Kiro 是負責串接模型的開發工具,不是模型製造商。
社群貼文說 OpenAI 正面臨史上最慘的一週,還稱它快沒錢、被 Google 超車。文章核對後指出,募資確實少於原定目標,第三季虧損也比上一季增加;但「錢只夠撐 4 個月」和「被 Google 超車」沒有資料支援。文中引用的模型排行由 Anthropic 居首,OpenAI 排第二,Google 排在後面。作者認為,更大的壓力可能是投資人不願照原先估值投入資金。
ChatGPT 和 Google AI 都有每月 ₩29,000 的方案,但這筆錢買到的服務差很多。作者在韓國檢視兩家的官方價格頁,發現 ChatGPT Plus 提供 GPT-6 系列模型、工作功能與不同的上下文長度;Google AI Pro 則附上 5 TB 儲存空間、影片點數和其他服務,並列出 1,000,000 的上下文長度。作者也提醒,頁面沒有說清楚「不限量」的實際上限,部分附加服務還有地區或資格限制。選方案時,可以先看自己需要模型功能、儲存空間,還是清楚列出的使用上限。
挑 AI 模型時,除了回答品質,呼叫 API 要花多少錢也很重要。這份整理每天更新 373 個模型 API 的輸入與輸出價格及上下文長度;截至 11 月 22 日,最便宜的模型每百萬輸入 tokens 約 $0.02,GPT-5.5 Pro 每百萬輸出 tokens 則要 $180。輸出通常比輸入貴,長篇回答會增加花費;讀大量檔案、只回短摘要時,費用則多半來自輸入。作者也提醒,便宜模型若需要多試幾次,整體成本可能更高,選用前可拿自己的提示詞比較不同價位的模型。
想知道自己花多少時間用 AI 工作,卻不容易把不同工具的使用時間記在一起?TimeUno 會把 AI 工具的工作時間整理成活動紀錄:用電腦版追蹤 Cursor,用瀏覽器擴充功能追蹤網頁上的 ChatGPT 和 Claude,也能用 Linux 背景程式追蹤伺服器上的工作。比方說,Cursor 會記下每次工作開始和結束的時間,但不會提供模型或 token 數量。電腦版和瀏覽器擴充功能預設會讀取畫面或網頁文字,聊天內容也可能被讀到;使用者可以在設定中關掉。這讓 AI 工作時間更容易整理,也要留意自己選擇分享哪些文字。
Codex CLI 有時會送出 400 錯誤,但同一個請求不壓縮就能成功。問題可能出在 zstd 壓縮:有些內容壓縮後變得太小,伺服器解壓時發現內容膨脹太多,便拒絕請求。像是整份請求看起來只膨脹 2.65 倍,仍可能因為其中某一段超出限制而失敗。 目前還沒有確認有效的使用者端解法。把請求內容縮短只是尚未測試的嘗試;關掉壓縮也還沒證實有用。縮短對話內容也不會有幫助,因為整理後送出的仍是同一份內容。這個問題回報後仍未解決,所以遇到時,先確認不壓縮能否成功,別把未驗證的做法當成修好了。
每次執行自動化工作都重新啟動 Codex,可能增加等待時間。OpenAI 發布 Codex CLI 0.171.0,讓指令稿可以透過 codex exec --remote <ADDR> 接上已在運作的伺服器,開始或繼續非互動工作階段;終端工作區也改為預設開啟,讓檔案、圖片預覽和 AI 助理的工作紀錄能顯示在對話旁。這次更新也加入復原與重做快捷鍵,以及管理遠端控制和裝置配對的指令。文章提到,長時間運作的伺服器在共用環境中的登入與配對方式,仍需要更多說明。
訓練資料從哪裡來、公司何時知道,可能成為著作權訴訟中的重要證據。作者整理了 Alter v. OpenAI and Microsoft 案中解封檔案的內容:原告主張,OpenAI 和 Microsoft 未經授權使用有著作權的書籍訓練模型,並引用內部訊息指出,員工早在 2019 年就談過 LibGen 資料集的來源與風險,OpenAI 也在 2022 年討論從系統和儲存空間移除相關資料。這些是原告提出的主張與證據,案件仍在進行,預計於 2027 年初舉行聽證。文章也說明,記下資料來源、核准者及使用過它的模型,並追蹤刪除後留下的副本,有助於日後釐清資料如何進入訓練流程。
推薦理由:訴訟檔案把資料來源、內部討論與後續清理串成時間線,呈現訓練資料如何成為判斷企業知情情況的證據。
ChatGPT Plus 和 Claude Pro 每月都約 20 美元,但付費後能用的功能不一樣。作者在同一天檢視兩家的價格頁面,整理出 Claude Pro 包含 Claude Code 程式助理,ChatGPT Plus 則能有限使用 GPT-6 Astra 和 GPT-6.1 Sol。ChatGPT 也列出不同方案的上下文額度,Claude 的價格頁面沒有提供這項數字;Claude Pro 可年繳,ChatGPT 個人方案則沒有年繳選項。文章也提醒,兩家的免費方案差異很大:Claude 限制使用量,ChatGPT 免費版則不開放部分高階模型。
興建大型資料中心需要大量資金,若建設公司籌不到錢,OpenAI 等客戶預訂的運算容量可能延後。Oracle 表示,11 月完成最後一輪募資後,已備妥履行 OpenAI 合約所需的資金;它的 2026 年募資計畫目標是籌得 $45 billion 至 $50 billion,約一半來自發行股票、一半來自債券。Oracle 也說,預計在 fiscal 2029 年以超過 $30 billion 的自由現金流支應自身成長。這些是 Oracle 提出的目標,仍有風險;公司資金到位,也不能回答 OpenAI 是否能支付它在整個產業訂下的所有需求。
電話接待 AI 有不少時間是在等來電者說話,這些安靜時段也會產生費用。作者依 GPT-Live-1.1 的語音計價方式估算,若 1,000 通電話每通 4 分鐘、其中一半時間安靜,語音費約 $140,比全程都在交談的 $200 少 $60。待機折扣只適用於 WebRTC 語音連線;後端模型和工具呼叫仍照常計費,走純 SIP 的電話線也沒有這項折扣。因此,長時間等候的電話較可能省錢,短而密集的通話則不一定。
聊天機器人推薦商品時,消費者不一定看得出哪項推薦受到付費影響。一項有 2,012 人參加的電子書研究發現,聊天機器人推薦後,受贊助書籍被選中的比例是 61.2%,一般搜尋排序則是 22.4%;加上「贊助」標示也沒有明顯降低影響。作者指出,聊天機器人的推薦和一般回答聽起來相同,標示可能被忽略。研究目前仍是預印本,且其中一項只使用單一電子書目錄。作者建議並列顯示其他選項與價格、說明推薦理由,並留下紀錄供人稽核。
把提示詞設成零資料保留,不代表裡面的密碼或金鑰就安全;資料仍可能被服務商內部的攻擊者看到、被轉售平臺記錄,或被轉送到其他服務。作者整理 Dragos 的誘餌憑證研究與多起事件,說明提示詞從自家系統到模型服務會經過哪些站點,以及每一站都可能讀到完整內容。實務上,可以記下每一站、固定使用審查過的供應商、送出前先遮掉密碼和金鑰,再放入不同的假憑證來偵測外洩。這些做法能縮小風險並協助追查,但假憑證只能示警,零資料保留也無法阻止服務商遭入侵。
推薦理由:文章把多起提示詞外洩事件連到實際防護步驟,說明如何追查轉送路徑、固定供應商並用誘餌憑證偵測外洩。
這週的 AI 新聞同時牽涉研究、公司風險和 AI 助理能做什麼。Anthropic 的數學家表示,他和 Claude 可能證明瞭黎曼猜想;Lean 電腦檢查已接受整份證明,但這不代表數學家已理解或認可它。NVIDIA 則在財報中揭露,若合作夥伴無法付款,公司承諾的擔保最高達 1,180 億美元;SEC 正在檢視其會計問題,調查本身不代表已確認違規。文章也整理 AI 助理在研究與資安上的進展,提醒讀者留意它們能採取哪些行動,以及人能否查清結果。
剛開始用 AI 寫程式,常會卡在工具沒裝好,或 AI 改壞程式後不知道怎麼復原。作者整理了在 Mac 上開始前會安裝的 10 款工具,建議先用 Homebrew 安裝常見開發工具,再用 GitHub Desktop 檢視程式碼變更、保留修改紀錄,最後加入 Cursor、Claude Code 或 Codex CLI 等 AI 寫程式工具。清單也包含管理視窗、剪貼簿和檢視用量的工具;作者提醒,TokenBar 只顯示用量,不會增加額度。先準備好基本工具,出錯時比較容易找出原因或退回先前版本。
AI 回答有時不是全錯,而是方向大致正確,細節或語氣卻說得太滿。MultiO 把相同的 24 個問題交給 GPT、Claude、Gemini、Grok 和 Llama,再人工檢查只有一個模型提出的說法:有些很有用,有些是錯的或編造的,另一些則混有誇大的機制、力道或數字。像模型談到馬拉松訓練時,整體安排大致可用,但每小時 60–90 g 碳水對初次參賽者可能太多。作者建議,遇到只有一個模型提出的資訊,除了查證,也要特別留意最強烈的形容詞和最精確的數字。
用 Claude Code 和 Codex 一起寫程式時,常得先整理一份 task.md,交代問題、檔案位置和做法;如果 GitHub issue 已經寫得很清楚,這份檔案就可能只是重複工作。作者改用 Orca,從 issue 挑出工作後,替它建立獨立的工作區,再開啟 Claude Code 或 Codex,並用快捷指令重複執行調查、修改和檢查步驟。 以 JobSearchBuilder 的 issue #47 為例,作者先確認怎樣才算修好,再讓 AI 助理處理,最後親自檢查修改內容並執行 dotnet build 和 dotnet test。需求複雜或模糊時,task.md 仍然有用;簡單明確的工作則可直接從 issue 開始,少做一份重複檔案,也比較不容易把不同工作的修改混在一起。
AI 助理可能回答錯誤、花費過高或繞遠路,但一般監控顯示服務正常,團隊就不容易找到原因。Dynatrace 完成收購 Arize 後,文章整理 AI 可觀測性如何串起模型呼叫、資料檢索、工具使用、服務狀況與業務結果;文中也說明 Arize AX 和 Dynatrace 平臺仍分開提供,Phoenix 仍是開源專案,整合時程尚未公佈。實作上可從原型階段開始記錄追蹤資料,用 OpenTelemetry 建立評估,再把正式環境中答得不好的案例加入測試,持續檢查品質變化。
AI 助理能接手部分資料整理和工作流程,但有些服務仍得向外租用,像是付款、電話、聯絡資料和身分驗證。作者把這些服務比喻成軌道,整理出五類依賴,並用 ACP、AP2、x402 和 ChatGPT Wallet 說明付款方式各有不同:有的用授權指令留下紀錄,有的要求使用者每次核准。文章也提醒,供應商提供 AI 助理介面,不代表企業軟體已被取代;規劃時還得考慮人工核准、外部服務費用,以及誰負責資料和規則。
同一個工作交給不同模型,答案和費用可能差很多,光看基準分數不一定知道哪個適合自己的工作。作者整理 GPT-6.2 Astra 和 GPT-6.2 Sol 的價格與基準資料,並提供 .NET 10 範例,讓兩款模型用相同設定處理三種工作,再比較答案、花費和時間。文中轉述的測試顯示,Astra 在部分多步驟與資安相關基準較高;在一項程式開發基準中,兩者分數接近,但 Astra 每項工作估計花費較高。這些是廠商提供或轉述的測試結果,作者建議用自己的工作資料評估,再決定部署哪款模型。
沒有募資的新創,也可能申請到雲端和工具抵用額度,但各家方案能拿多少、何時到期,常和宣傳中的最高額度不同。作者分享自家公司目前拿到 30,500 美元,包括 AWS、Cloudflare、DigitalOcean、Google Cloud 和 OpenAI 的額度;申請時只有登記公司、上線網站和公司網域信箱。這些額度通常會在核準後 6 到 24 個月到期,因此作者建議等服務真的開始有用量時再申請。他也整理了 22 個方案、自籌公司可拿到的額度和到期資訊。
有些 ERP 示範讓 AI 助理用共用帳號讀寫資料,可能讓它看到比提問的人更多的薪資、發票和客戶資料。ERPoida 讓 AI 助理以使用者身分登入,每次操作前都檢查這個人能開哪些功能、能看哪些紀錄與欄位,並留下紀錄。像是業務員問全公司的薪資,系統就會像在畫面上操作一樣拒絕,連拒絕也會記錄下來。 使用者也能用 Claude 或 ChatGPT 透過 MCP 查詢資料、草擬逾期發票提醒,或新增欄位和畫面;AI 助理能做的事不會超過使用者本來的許可權。財務資料另有資料庫規則把關:不平衡的分錄會被拒絕,已過帳的發票不能直接修改或刪除,必須用貸項通知單更正。這樣既方便用白話處理工作,也能讓重要帳目依規則留下紀錄。
想讓 AI 助理推薦網路商店的商品,第一步未必是把結帳搬進聊天介面,而是讓商品資料完整又容易讀懂。作者整理 OpenAI、Shopify 等平臺的說明,建議商品頁寫清楚材質、尺寸、價格、庫存、配送和退貨資訊,也要回答買家常問的問題,並讓網站與商品目錄的資料一致。像挑選適合敏感肌的項鍊,頁面若有材質和過敏資訊,AI 助理才有資料可以比對。作者也建議把 AI 帶來的流量獨立追蹤,觀察訪客是否下單。文中引用的研究各自採用不同方法,數字不宜直接比較。