AI 助理寫程式後,工程師如何用測試和檢查守住軟體品質
AI 助理能快速寫出程式,但大家還不一定知道怎麼確認它真的能在正式環境正常運作。作者整理兩篇工程師的討論,認為測試、架構決策紀錄和交付檢查可以替團隊留下程式為何這樣寫的線索。Thoughtworks 有個團隊試了一週不由人寫程式,改讓 AI 助理完成工作;大部分時間花在釐清需求和準備檢查方式,讓 AI 助理下次照著做。作者也提醒,如果錯誤訊息常常出現,大家可能會忽略真正的問題,因此測試和檢查必須可靠,團隊也要留時間回頭閱讀、整理程式。
AI 助理能快速寫出程式,但大家還不一定知道怎麼確認它真的能在正式環境正常運作。作者整理兩篇工程師的討論,認為測試、架構決策紀錄和交付檢查可以替團隊留下程式為何這樣寫的線索。Thoughtworks 有個團隊試了一週不由人寫程式,改讓 AI 助理完成工作;大部分時間花在釐清需求和準備檢查方式,讓 AI 助理下次照著做。作者也提醒,如果錯誤訊息常常出現,大家可能會忽略真正的問題,因此測試和檢查必須可靠,團隊也要留時間回頭閱讀、整理程式。
開發環境工具常被放在一起比較,但它們處理的問題其實不同。作者讀了 25 個專案的檔案,把工具分成隔離程式、準備執行環境、說明專案需求,以及代管環境四層,並觀察到 Gitpod 改名為 Ona、Daytona 等服務開始面向 AI 助理執行程式。作者也分享自己建置環境的做法:只讓程式取得列出的環境變數,並把暫存資料放在工作目錄裡,避免程式讀取主機上的憑證或寫到工作範圍之外。
如果 AI 產品只是在畫面上包一層,再接上大型模型 API,別人也能很快做出差不多的東西;模型變便宜、變強時,這種產品的優勢也可能跟著消失。作者建議檢查每個功能:如果它只靠模型進步就會變好,那是大家都能享有的好處,不算自己的長期優勢。 真正能累積的,是用得越久越有價值的東西,例如測試 AI 答得好不好的題目、使用者採納建議後的結果資料,以及能在企業流程中執行工作並留下清楚紀錄的能力。舉例來說,有了自己的測試題目,團隊就能更快確認便宜的新模型是否夠用;沒有測試,換模型可能只是猜。文章提醒,與其只租用越來越便宜的模型,不如建立會隨使用持續進步的產品。
同一個工作交給不同模型,答案和費用可能差很多,光看基準分數不一定知道哪個適合自己的工作。作者整理 GPT-6.2 Astra 和 GPT-6.2 Sol 的價格與基準資料,並提供 .NET 10 範例,讓兩款模型用相同設定處理三種工作,再比較答案、花費和時間。文中轉述的測試顯示,Astra 在部分多步驟與資安相關基準較高;在一項程式開發基準中,兩者分數接近,但 Astra 每項工作估計花費較高。這些是廠商提供或轉述的測試結果,作者建議用自己的工作資料評估,再決定部署哪款模型。
高密度資料中心需要大量電力與散熱裝置,電力轉換和冷卻系統也會佔用空間。作者根據 SemiAnalysis 走訪內蒙古 Galaxy 園區的報告,說明一座 5 MW 機房如何把電網的 10 kV 交流電直接轉成機櫃使用的 800 V 直流電,省去傳統機房中的低壓變壓器、不斷電系統和整流裝置。冷卻方面,液冷與氣冷伺服器共用一套水路,沒有中央冰水主機。這些設計已在當地實際運作,但能否用在其他地方,仍取決於氣候、備援需求和服務承諾;文章也提醒,內蒙古公佈的 25 GW 計畫容量不等於已建成容量。
語言模型的上下文視窗就像工作時能攤開來看的資料,近年變得越來越大,現在有模型一次能處理約 100 萬個 token,足以放進《戰爭與和平》這本小說。NVIDIA 研究團隊認為,視窗做得這麼大,常常既用不完又很花錢;在不少測試中,定期整理摘要、需要時再找相關資料,效果差不多。這表示模型要記住很多內容時,不一定得把所有資料一次塞進去。
網頁搜尋結果常把不重要的內容放在前面,小型模型可能看到一個像答案的線索,就直接作答,不再開啟網頁確認。作者用 12 個問題比較完整網頁文字和只顯示標題、連結及前 200 個字的搜尋結果:完整文字答對 22 題,縮短版答對 20 題。像是問題問團隊方案的每人價格,縮短版先露出個人方案的 $8,模型就答了 $8;正確答案 $12 藏在網頁更下面。 縮短版每題用的 token 較少,但模型更常重新開啟網頁,到了第三輪,提示內容反而比完整文字更長。這次測試只做到三輪,不能直接代表更長的工作流程;不過結果顯示,縮短搜尋結果只有在它保留答案時才有幫助。答案可能藏在下方時,模型得先開啟網頁確認,不能只看前幾個字就作答。
企業把檔案切成一小段一小段,再讓 AI 助理搜尋,常常找得到相關文字,卻不一定能回答需要多種資料的問題。文章認為,問題在於文字片段不等於知識;像「ABC Pro 何時上市、售價多少、何時新增 RAW 影片功能」,其實是幾種彼此相關的資訊。 作者以 LLMWiki 為例,提出先把資料整理成能互相連結、持續更新的知識頁面,讓 AI 助理依問題查產品、政策、訂單狀態和資料來源。穩定的企業知識可讓模型學習,會變動的價格、政策和即時狀態則交給 Wiki、資料庫或 API;RAG 仍可用來找原始檔案作為證據。這樣一來,企業 AI 助理就不只是在檔案裡找相似句子,也能根據整理好的知識回答問題。
很多團隊一加上 AI,就先把資料送到雲端,之後才想到能不能在手機或電腦上處理。Xybrid 主張把順序反過來:先用裝置裡的模型,真的不夠用再交給雲端。文中的例子顯示,iPhone 15 在 5 種工作裡有 4 種比雲端快,像圖片分類約 2 毫秒,語音轉文字約 200 毫秒;在裝置上處理也不用付每次呼叫雲端的費用,資料不必離開裝置。 這不代表所有 AI 都能放進手機:太大的模型仍得靠雲端。但 Whisper Tiny、Kokoro 和 Gemma 4 E2B 等模型已能在手機上處理語音、文字或多種媒體。文章建議先讓裝置上的模型試著完成工作,只有遇到複雜問題或模型放不下時才升級到雲端,讓使用者少等一點,也少傳出敏感資料。
AI 助理可能呼叫了不合適的 API,卻收到正常回應,讓儀錶板仍顯示一切正常。OpenSearch Software Foundation 的 Bianca Lewis 說,團隊可以搭配 OpenTelemetry 追蹤 AI 助理呼叫了哪些服務和 API,再加上成本資料,檢視哪一步走偏、哪裡花費較高。這些線索能幫開發者找出答案看似合理、實際上卻不符合使用者要求的原因。她也提到,團隊可用同一套 OpenSearch 技術處理搜尋和觀測,並把轉換平臺的成本納入整體考量。
超級電腦跑得快,不一定代表研究者能更快得到答案;資料搬移、排隊和分析也會拖慢整個研究流程。作者根據 SC26 的案例,主張衡量從提出想法到拿到結果一天能完成幾輪,而不只看單次運算速度。文章也談到 CPU、GPU 和量子處理器如何由排程工具協調,以及網路延遲和本機小型模型對研究工作的影響。文中的硬體效能數字多來自廠商,作者提醒研究團隊應用自己的程式實測。
Sandscale 和 E2B 都用隔離性高的 Firecracker 虛擬機器來執行 AI 助理寫的程式,挑選時更大的差別在計費和管理功能。E2B 按沙盒運作時使用的 CPU 和記憶體逐秒收費,暫停後就停止計費;Sandscale 則只計算沙盒醒著工作的時間,等待模型或人回覆時不收費。例如,文中假設一個工作只忙 10 分鐘、等了 50 分鐘,Sandscale 不會把那 50 分鐘算進費用。 Sandscale 每個方案都有機密資料保管、提示詞檢查、人工核准和修改紀錄;E2B 公開的資料則列出 SOC 2 Type II 報告、可申請的 HIPAA 合作夥伴協議,以及較多地區、雲端和沙盒功能。兩邊各有適合的情況:常常等待、又想要內建管理工具,可考慮 Sandscale;需要合規證明或大量同時運作的沙盒,E2B 公開的支援較完整。
AI 助理做事時常得等模型或人回覆;如果工作環境一直開著,等待時間也可能要付費。Sandscale 和 Daytona 都提供能透過 SDK 或 API 使用、用完就能丟掉的電腦環境,但兩家的隔離方式和計費不同:Sandscale 每個環境都是有自己核心的 Firecracker microVM,等待或暫停時不計費;Daytona 預設使用 Linux 容器,環境啟動時會依保留的 CPU、記憶體和硬碟空間計費。 假設 AI 助理用 2 個 vCPU 工作 10 分鐘,接著等 50 分鐘:Sandscale 只算實際清醒運作的時間;Daytona 若一直開著,文章估算每次要 $0.1656,若 10 分鐘後手動停止,則是 $0.0276,兩者都未計硬碟費。怎麼選要看環境需求和等待時間;例如需要 GPU、Windows 或 macOS 時,Daytona 有提供這些環境,Sandscale 則沒有。
付款廠商每兩百筆結帳大約失敗一筆,大家知道怎麼重試,也熟悉客服教的處理方法。另一家廠商比較便宜,API 也更好,但沒人知道它會失敗幾次,所以開會時大家選擇留下舊廠商。這種心態也會出現在工程工作裡:熟悉的舊程式庫、偶爾出錯的測試,甚至得重開機的伺服器,雖然麻煩,卻讓人覺得比較能掌握。 要做決定,可以先想辦法量出新選項的表現,例如讓少量流量跑一週、問問兩位曾離開舊廠商的客戶,或用測試帳號和程式刻意製造失敗。量過之後,舊廠商還是可能比較好;只是選它的理由應該是實際表現,而不是因為我們不知道另一家的狀況。
網站出問題時,狀態頁如果要等人發現、登入再更新,可能慢了好一會兒;但監控偶爾也會誤報,太常自動公告又會讓大家不再相信它。作者建議兩種做法搭配:多個地點的監控連續幾分鐘都發現問題,而且檢查的是使用者真的會做的事,例如登入或結帳,才自動把狀態頁改成黃色,表示團隊正在檢視。單次檢查失敗只通知工程師,重大故障則由人決定是否公告。這樣能更快讓客戶知道出了狀況,也能減少小問題或誤報被當成大故障。
過去,程式寫得好,系統比較穩,也能用較小的團隊快速做事;程式欠下太多「技術債」,公司就得花更多人力收拾。作者曾獨自維護一家航空公司的整套系統將近 20 年,後來發現 Opus 5.5 比他用過的其他 AI 模型更能理解程式原本的做法,開始相信 AI 助理也許能在亂糟糟的程式裡做出新功能,減少公司補救舊程式的成本。 但 AI 還是會犯危險的錯,沒有檢查工具和完整測試,可能讓程式更難懂、漏洞更多。作者認為,程式品質或許不再能讓公司特別佔優勢,卻仍是減少錯誤的關鍵;與其只追求寫出更多程式碼,不如用 AI 一步步整理系統,並確保人看得懂、查得到問題。
AI 助理除了呼叫模型,也可能使用工具或交辦工作給其他 AI 助理;團隊因此需要管理它們能呼叫什麼、代表誰執行,以及流量要經過哪裡。這篇文章比較 13 種閘道工具的模型、MCP 工具和 A2A 支援情況,也整理身分許可權、部署方式與價格。Kong、Bifrost、Gravitee 和 Prisma AIRS 都原生涵蓋這三種流量;其他產品的 A2A 支援則可能有限,或仍在預覽階段。文章建議先確認 AI 助理會用哪些工具、是否要交辦工作,再檢查許可權管理和部署需求。
AI 工作常要反覆讀取大量資料,把資料搬到有 GPU 的地方,可能增加傳輸費用,也讓工作變慢。文章舉例,若以每 GB $0.02 計算,搬一次 300 TB 資料就要 $6,000;這只是試算,實際費用會依搬運方式而變。與其每次搬資料,不如讓工作跑到資料所在的地方,再一起比較運算、搬資料、儲存和排隊的總成本,也要確認地點符合資料規定、裝置和軟體能支援工作。沒有一種地方適合所有工作:有些工作適合在雲端處理,有些留在公司自己的裝置附近更划算。資料位置或價格改變時,也要重新評估。
SaaS 工具可能突然限制某些地區使用,還會跳出廣告或推銷;自己架設工具,就能少受這些打擾,也比較能掌握資料放在哪裡、由誰決定怎麼使用。像 GitLab、Sentry、Hopscotch、Portainer 和本機大型語言模型,都能留在公司內部使用,讓個人資料留在自己選定的地方。不過,自己架設也得負責更新、備份和修補安全問題,遇上故障時還得自己處理。它不能消除所有風險,但能讓使用工具和保管資料的決定更靠近自己。
存大量時間資料時,常得在「寫入和查詢要快」與「修改資料、和其他資料表一起查要方便」之間取捨。這篇比較 TimescaleDB 和 ClickHouse:測試中,ClickHouse 每秒寫入約 4.7M 筆資料,查詢近 30 天資料約 44 毫秒;TimescaleDB 寫入約 1.14M 筆,查詢約 412 毫秒,但更新最新狀態只要 6.8 毫秒,而 ClickHouse 約要 260 毫秒。 如果資料大多隻新增、不太修改,而且常要做大量統計,ClickHouse 會比較合適;如果常需要更新資料、和其他業務資料表一起查,TimescaleDB 比較方便。文章也提醒,ClickHouse 一次塞進太多小批資料可能讓寫入停擺;TimescaleDB 若修改已壓縮的資料,也可能卡住,所以選擇時要看資料平常怎麼寫入和修改。
把 AI 助理交給多人共用時,使用者的資料和助理寫出的程式可能碰到不同的安全風險。這篇比較 Amazon Bedrock AgentCore、Microsoft Foundry 和 Google 的 AI 助理平臺:AgentCore 和 Foundry 預設讓每位使用者的整個工作階段各自在獨立環境執行;Google 則把助理寫出的程式放進另一個不帶助理憑證的沙箱,但助理本身會和其他請求共用容器。作者也提醒,Google 沒有說明同一容器中的請求能否看到彼此的記憶或檔案,而前兩者若要讓程式遠離助理憑證,得另外使用程式碼沙箱。團隊可依最擔心資料互通,還是程式取得憑證,來比較預設防護。
推薦理由:文章並排比較三家雲端平臺預設隔離的位置,並指出各自仍需確認或另行設定的防護,能協助團隊依主要風險選擇架構。
企業想讓 AI 助理查詢業務資料、替同事建立後續工作,常得先處理帳號、資料和管理工具分散在不同雲端的問題。作者整理 AWS、Microsoft Azure 和 Google Cloud 的服務,並用同一個業務助理需求比較:外部帳號和資料進來後,各家會把它接到自己的身分系統、資料平臺和管理工具。像是資料放在 S3 時,Azure 可透過 OneLake 查詢,Google Cloud 則可透過 BigQuery 查詢;AI 助理的管理紀錄仍留在託管它的雲端。這份比較能幫企業看出,選雲端時也要考慮員工平常使用的平臺、資料放在哪裡,以及由哪裡管理 AI 助理。
三家雲端都能提供多種熱門模型,但同一個模型可能由雲端、合作夥伴或使用者自己負責執行,資料處理方式也會不同。文章比較 AWS、Azure 和 Google Cloud 的模型清單與服務條件:例如 Claude Fable 5.2 在 AWS 和 Google Cloud 可選美國地區,但提示詞會保留最多 30 天,Google 還要求分享提示詞與回覆給 Anthropic;Azure 上的 Fable 5.2 則由 Anthropic 執行,資料可能離開 Azure。作者建議選雲端時,也要確認模型由誰執行、提示詞會送到哪裡,以及哪些人能看到。
想讓 AI 在自己的電腦上處理檔案和應用程式,Perplexity Portable Computer 確實做得到,但需要高階顯示卡和付費訂閱。它可在 Windows 電腦上使用本機模型,也能連線 Gmail、Outlook、Slack 和 GitHub;在電腦上完成的工作不會扣雲端點數,升級到雲端處理才會用到點數。不過,官方列出的需求包括至少 24 GB VRAM 的 NVIDIA RTX 或 RTX PRO 顯示卡,而且還要訂閱 Pro 或 Max。文中的測試分數來自 Perplexity 自家的測試,尚無獨立測試確認;如果想免費在本機跑 AI,開源模型也是一種選擇,但需要自行組合工具。
AI 專案展示時看起來很成功,卻常常等不到試行或正式上線。原因不一定是模型不夠準,而是銀行、醫院、政府和一般使用者還不確定它是否可靠、安全,也不知道出了錯該由誰負責。像奈及利亞的 AI 信用評估系統,就得面對拒絕合格申請人時如何處理、能不能說明判斷理由,以及誰負責後續問題等考量。 要讓 AI 真正在生活中派上用場,團隊得從一開始就安排好資料檢查、結果監看、版本紀錄和人工複核,也要用當地資料測試不同語言、口音與網路環境。當系統遇到不確定或影響重大的情況,應能交由人檢查,並讓使用者有機會提出異議。展示只能證明 AI 在準備好的情況下能運作;建立信任,才有機會讓它在真實環境中持續使用。
一週內,Microsoft 服務大當機,Apple 兩度讓使用者登出,FAA 因換路由器出問題而停飛,Nvidia 則面臨執行長離職危機;美國幾家大銀行也改了服務條款,不準 AI 助理用帳號密碼登入。這些事看起來各不相同,卻都讓人看到同一個麻煩:很多重要服務還靠老舊裝置、單一供應商或少數關鍵人物,一齣狀況就可能讓很多人一起受影響。 例如 FAA 停飛約 4 小時,超過 14,000 個航班在兩天內取消;作者也提到,x402 付款可以在一個區塊內完成,AI 助理用自己的錢包付款,不必靠別家服務替它登入。這些故障提醒開發者,新的 AI 服務得能面對網路中斷、廠商改規則和舊系統失靈,才不會一齣問題就停擺。
挑 GitHub Actions 執行環境時,除了每分鐘多少錢,也要看支援哪些平臺,以及帳單怎麼算。Namespace 支援 Linux、Windows 和 macOS 等平臺;Celesto CI 主打 Ubuntu Linux x64,公佈的執行費率較低。以 2 vCPU、8 GB 記憶體的設定來說,跑 10,000 分鐘,Celesto 約 $6.67,Namespace 按超額費率約 $60;但 Namespace 的預付費率較低,Team 方案也包含可用的運算額度。 這些費用只是依執行時間估算,不是實際帳單:Namespace 會按 CPU 和記憶體換算運算分鐘,遠端建置也會使用同一份額度;Celesto 則會把準備和清理執行環境的時間算進費用。兩家支援的平臺和附加服務也不同,所以光看每分鐘費率,不能確定哪家跑完一個建置工作比較省。
收集和傳送紀錄資料時,多加一層服務可能會增加費用,也讓系統更難維護。Fluent Bit 能處理多數紀錄資料的收集與傳送;AWS Firehose 則能代管資料暫存和重試,適合能減少維運工作、確實帶來好處的情況。若要把紀錄、指標和追蹤資料放進同一套觀測平臺,可以評估 Grafana Alloy 或 OpenTelemetry Collector。選工具前,還要想清楚資料能不能遺失、故障後要怎麼恢復,以及團隊要花多少力氣維護。建議先用符合需求的簡單架構,確認遇到瓶頸後,再加上有明確用途的服務。
以前店員要等收銀機更新價格,再印出一批紙標籤,花一個早上換上貨架;這段時間,貨架和收銀機的價格可能對不起來。現在有兩間分店試用電子標價牌,價格會從收銀系統傳到貨架小螢幕,幾分鐘內就能更新各分店的價格。但試用第一個月就有基地臺故障,兩條走道的標價還停在上週。於是團隊把改價當成軟體更新:先在一間分店試改,確認標價和收銀金額一致;超過一小時沒回報的標價,就先貼上紙標籤。改價變快了,出錯也可能一下影響全公司;一天改好幾次價格是否合適,還得由董事會決定。
AI 讓工程團隊能更快交付更多變更,但只看合併的程式變更數,可能看不出有多少嚴重問題真的影響客戶。Octopus 重新整理工程指標,分別追蹤交付時間、修復速度、建置穩定度和每月嚴重缺陷數,也觀察合併的程式變更量。團隊把變更量當成長期趨勢,不設成績目標,並把它和交付速度、缺陷數一起看。這套做法希望在加快交付時,也能看見客戶受到的影響。
錯誤追蹤工具收到大量錯誤時,團隊得先分清哪些問題常發生、哪些真的能修。Bugsly 團隊整理自家 16 個 App 的 89,499 次錯誤,發現 12 個問題就佔了 78.7%;最常見的是上游 API 回傳錯誤、程式碼問題和 ClickHouse 限制。作者也逐一檢視最常發生的 12 個問題,其中 19.4% 的錯誤量只要改程式碼就能處理,另有 48.3% 需要調整設定、基礎設施或套用資料庫遷移,仍要人來處理。這是單一組織的案例,不代表整個產業;作者也沒有實際測試 AI 助理能修好多少錯誤。
在網路協定的演進中,QUIC 把 TLS 握手與傳輸握手合併,並在使用者空間執行,從而減少一次往返時間,並讓每個資料流獨立處理。文章透過實際的握手延遲計算、吞吐量公式與 CPU 使用量比較,說明在高延遲、丟包率高或多物件負載下 QUIC 能節省約 0.5 秒的首次載入時間,且單一丟包隻影響該資料流;相對地,TCP+TLS 1.3 的握手需要兩次往返,丟包會阻塞整條連線,且在使用者空間加密的成本更高。作者還指出 QUIC 在中繼裝置、零往返恢復與頭序阻塞等方面的限制,提醒開發者在選擇協定時需考量網路環境與 CPU 資源。
團隊想用更省成本的模型,又希望能在自己的伺服器上部署;Qwen4-Max 在這兩件事上帶來不同取捨。阿里推出的 Qwen4-Max 有 2.4 兆個引數,每個 token 啟用 710 億個引數,支援 1M-token 上下文視窗,但只能透過封閉的 QwenCloud API 使用,沒有可下載的模型權重。文章指出,它在指定測試中的 token 用量減少 48%–49%,Work360 平均任務成本從 $4.43 降到 $1.67;不過,想用自家 GPU 執行模型的團隊無法自行部署,也少了改用本地模型的退路。
Kubernetes AI Conformance 的清單列出廠商申報的專案,但營運者還得判斷證據是否足以支援自己的工作負載。作者檢視 Kubernetes v1.35 的 24 份申報,發現所有必備專案都標成「已實作」,但這不代表每一項都經過獨立測試;選填專案則有空白、不適用和未實作等不同狀態。文章建議營運者核對證據是否符合實際平臺、硬體與 Kubernetes 版本,並在升級後重新檢查,才能留下有根據的驗收紀錄。
在 Linux 伺服器裝監控代理程式,會佔用多少記憶體、CPU 和磁碟空間?作者把 11 款代理程式裝在同樣規格的伺服器上,以預設設定量測,並公開原始資料和測量工具。結果顯示,最省記憶體的 HetrixTools agent 平均只佔 9 MB,但閒置時會用掉約 17% 的單核心 CPU;node_exporter 的 CPU 用量最低,不過它只提供指標,還需要在別處執行 Prometheus。作者也說明測量工具曾漏算或算錯資料,修正後重新測量,因此比較時要看記憶體尖峰和其他資源用量,也要記得結果只適用於這次的伺服器、系統和預設設定。
旋轉 PDF、簽名或壓縮圖片這些簡單工作,有時得先把檔案傳到遠端伺服器,還要經過登入、排隊和付費流程,速度變慢,也讓人擔心資料外流。文章介紹 HandleMyFile:使用者在瀏覽器裡處理檔案,資料留在自己的裝置上,載入網站後還能離線使用;Web Workers 也能讓處理工作在背景執行,避免畫面卡住。像合併 PDF 時,瀏覽器會直接讀取檔案、合併頁面,再讓使用者下載結果,不必把檔案送上雲端。這種做法能減少等待和伺服器開銷,也讓敏感檔案少經手第三方;但實際速度仍要看使用者裝置的運算能力。
dev 和 prod 聽起來像「開發」和「生產」,但這兩個環境的差別,跟工廠裡做東西沒那麼直接。早期測試程式和公司真正要用的工作,會在同一臺大型電腦上搶時間;測試一齣錯,可能連別人的工作也受影響,後來才分開。如今,dev 像安全的沙盒,讓團隊放心試;prod 則是大家實際使用服務的地方,出了問題會直接影響使用者。文章認為,sandbox 和 live 更能說清楚兩者的用途,但 dev 和 prod 已經成了大家熟悉的名稱,知道它們為什麼存在,也就更容易理解。
挑選中國 LLM 時,只看每百萬 token 的牌價,可能會低估實際花費。作者整理同一個 API 金鑰可用的 114 款模型,發現輸出價格從每百萬 token $0.17 到 $14.50,相差 85 倍;但不同模型的計價單位也不一樣,有些按 token 收費,有些按圖片或影片等成品收費,不能直接放在一起比。實際成本還會受到重試次數、輸入快取折扣和輸出長度影響,因此作者建議用自己的工作內容比較每項任務完成的成本。這份整理沒有延遲資料,價格也以 2026-11-17 的資料為準。
很多公司試過 AI,卻卡在小規模測試,因為資料零散、難以判斷效果,也擔心安全和管理問題。SAP 和 Infosys 的主管建議,企業要先整理好能反映實際業務的資料,再挑出值得做、做得到,也能擴大的工作,例如縮短處理時間或減少成本。像是處理供應鏈或財務工作的 AI,準確度只有 80% 可能遠遠不夠;公司也得訂好誰能使用、如何監看和把關。這樣才能避免 AI 只停在展示階段,並讓真正有效的做法推廣到更多工作。
開發者平臺常把心力放在入口網站、表單和儀錶板,但開發者開始把部署、查錯等工作交給 AI 助理處理。作者主張,平臺也要讓 AI 助理能用 API 或 CLI 找到可用功能、送出操作並讀懂結果;例如 CLI 可提供 JSON 輸出,讓 AI 助理接著執行其他步驟。平臺還需要安全的非互動式驗證,並讓不同功能能串在一起。圖形介面仍有用,但平臺團隊也該評估 AI 助理能否在合適許可權下完成工作,因為這會影響開發者使用平臺的體驗。