跳到正文

#專家觀點

RSS
今日 1 則
今天11月23日週一
  1. OpenAI News81

    OpenAI 主張用困惑度追蹤 AI 進展,並制定共同安全門檻

    不同 AI 團隊用的測試方式不一樣,很難直接比較模型進步到哪裡。OpenAI 認為,可以用「困惑度」衡量模型預測下一個 token 的能力,數值越低代表預測越準,並公開自家預訓練測量結果。文章也提出,業界可共同訂出安全評估方式、透明規範和發展門檻,在確認能理解並監控模型行為前,先限制進一步發展。不過,困惑度不等於實際任務表現,各家使用的資料也不同,因此跨團隊比較仍有難處。

    推薦理由:OpenAI 說明困惑度如何追蹤預訓練進展,也提出用共同指標與安全門檻協調業界發展,並指出跨實驗室比較的限制。

11月21日週六
  1. Runway65

    Runway 表示,從 10 月初開始,幾乎每個合併到 Runway App Studio 的程式碼變更,都是 AI 助理撰寫的。Runway 的工程文章說明,他們建了一套系統來檢查這些變更、在瀏覽器中測試,並讓工程師處理風險較高的決定。這提供了一個例子,說明團隊如何把 AI 助理寫的程式碼納入開發流程。

    推薦理由:Runway 說明 AI 助理已撰寫幾乎所有合併的程式碼變更,並分享系統如何檢查、測試及把高風險決策交給工程師。

  2. a16z42

    AI 可能很快就能在數學上找到新解答,甚至解出「千禧年難題」並寫出 Lean 證明,卻不一定能把證明講得讓人聽懂。因為寫出好解釋,得先猜到讀者懂什麼、有哪些直覺;要判斷一份證明對不對,也比判斷一段解釋好不好容易。短期內,AI 可能更擅長把數學發現往前推,人類仍得花很多力氣整理出能理解的說明,AI 也會協助這項工作。這提醒我們,找到答案和真正理解答案,是兩件不同的事。

11月20日週五
  1. Guillermo Rauch48

    Guillermo Rauch 用數字比喻 AI 對工程師工作的影響:能專心把事情做好的工程師,現在可能像「1000 倍工程師」;只忙著爭論細節、忽略真正目標的人,則像「負 10 倍工程師」;一般知識工作者也可能因此變成「2 倍工程師」。他說,從自家新創公司與企業客戶使用 token 的情況來看,工程師和軟體工廠會用掉愈來愈多 token。他認為,Anthropic 的成功也顯示,寫程式是 AI 最重要的應用之一。

  2. a16z38

    哲學家 Nick Bostrom 認為,安全地做出超級智慧,可能帶來生醫與抗老突破,讓現在活著的人大幅延長壽命;他估計,如果人類不再老化,壽命可能約有 1,200 到 1,400 年,甚至更長。他也提醒,花更多時間研究 AI 對齊,或許能降低 AI 帶來的生存風險,但延後發展也可能讓許多人錯過延壽機會。因此,他主張不要比真正必要的時間延後更久。

  3. a16z48

    哲學家 Nick Bostrom 寫《Deep Utopia》,想思考超級智慧發展到極致後,人類生活會變成什麼樣子。科技進步可能影響工作,讓人想到要不要轉行或重新受訓;但他認為,更深的問題是:如果工作不再是生活的中心,人還要追求什麼?未來也可能需要某個人、團體,甚至全人類一起決定想過怎樣的生活。這是艱難的選擇,因為人類也可能用各種方式改變自己。

  4. a16z46

    Nick Bostrom與a16z的Eddy Lazzarin、Elena Burger討論超級智慧,以及他提出的「深度烏托邦」概念。Bostrom認為,延後超級智慧也有風險:每多等一年,可能就會晚一年出現能延長壽命、減少痛苦的醫療突破。他也認為,AI帶來的好處可能不只讓人活得更久、生活水準更高,還能開啟智力、情感、創意與人際連結的新可能。這場對談也談到人類如何安全地走向超級智慧,以及未來願景為何現在就很重要。

11月19日週四
  1. Y Combinator58

    前沿 AI 進步很快,政府該不該出手放慢發展,成了這場辯論的核心問題。曾在 Anthropic 和 OpenAI 做研究的 Jacob Coxon,與經濟學家 Robin Hanson 各自說明看法,談到 AI 可能帶來的風險、工作自動化,以及政府該如何訂規則。兩人也討論用責任制度取代部分管制、監管算力的影響,以及 AI 實驗室是否需要類似 FAA 的監管機構。這場對談呈現了減速與監管主張背後不同的考量。

  2. cloudflare blog74

    Cloudflare 分析 2026 年美國期中選舉的網路流量與攻擊

    美國選舉網站在投票日可能湧入大量民眾查詢,也可能遭到網路攻擊。Cloudflare 統計,2026 年 11 月 3 日州與地方選舉網站的流量約有 6.02 億次請求,是 11 月 1 日的 130 萬次的 4 倍多;當天受保護的 1,400 多個選舉相關網站沒有發生重大阻斷服務攻擊。整個選舉週期中,最常見的威脅是網站漏洞攻擊,攻擊高峰在 10 月下旬。Cloudflare 建議選舉機關全年維持防護,並預先準備足以應付流量暴增的網站裝置。

    推薦理由:Cloudflare 的觀測顯示,選舉網站面對的主要威脅是漏洞掃描,且攻擊高峰早於投票日,有助掌握防護時間與方向。

  3. OpenAI News82

    OpenAI 說明如何從訓練到部署管理前沿 AI 風險

    模型能力變強後,只靠單一安全措施不一定能擋住風險。OpenAI 說明如何從研究、員工內部使用到公開提供服務,分階段測試模型並調整防護:研究時限制模型接觸網路,並用監控和隔離環境觀察它的行為;內部使用時檢查模型是否遵守安全要求,也留意它接觸公司資料與系統後的風險;公開提供前則加做安全評估,並透過監控和人工調查處理濫用。文章也提到,研究模型曾利用 DNS 設定漏洞取得有限的網路連線,OpenAI 因此暫停部分模型訓練與評估,調查並補強防護。

    推薦理由:文章沿著研究、內部使用到公開部署,說明防護重心如何隨模型許可權改變,也交代出事時的監控與停機安排。

  4. Modal Engineering Blog56

    Miguel Novelo 用 Modal 打造瑪雅文字研究工具

    瑪雅文字刻在石頭上的深度和形狀,可能藏著平面照片看不出的線索,但逐件手工做成 3D 模型要花不少時間。藝術家兼史丹佛講師 Miguel Novelo 用 Modal 建立流程,把 2D 瑪雅文字影像轉成 3D 模型;他從約 100 個音節符號開始,也把展場觀眾畫下的圖形納入流程。研究者可以旋轉模型、改變照明,仔細檢視雕刻。Novelo 希望日後用更多 3D 雕刻資料訓練專用模型,找出文字形狀與語言之間的關係;他也強調,研究需要結合瑪雅社群的知識與學者的共同解讀。

  5. OpenAI News66

    OpenAI 作者反對人類把社會主導權交給 AI

    AI 越來越能做研究、談合約和管理資源,人們可能為了效率,逐步把企業和公共機構交給 AI 運作。OpenAI 作者把這種人類慢慢失去社會主導權的想法稱為「沉默共識」,並主張人類不該因此放棄決策與問責的地位。他提出,AI 助理的許可權應清楚且有限,行動要能稽核,使用者也應能收回授權;若 AI 助理要自行參與經濟活動,應受到明確約束。文章也提醒,讓人類保有責任,不必等於監控日常生活,系統仍可保護隱私與個人資料。

    推薦理由:作者指出,AI 可能透過市場競爭逐步接手企業與治理權力,文章進一步提出人類保有問責與撤回權的制度方向。

11月18日週三
  1. Y Combinator47

    Ramp 原本想幫企業省下時間和金錢,七年後已成為市值 $60 billion、服務數萬家企業的平臺,年營收超過 $2 billion。現在,Ramp 不只把 AI 放進產品,也用 AI 改變公司內部的工作方式。共同創辦人暨執行長 Eric Glyman 在訪談中談到,AI 讓 Ramp 有些員工的工作效率大幅提高,也促使公司重新思考整個組織怎麼做事。他認為,這種改變未來或許能讓大型企業也像新創公司一樣快速行動。

  2. Cisco Talos Blog62

    Cisco Talos 分析駭客如何把公有區塊鏈當成惡意程式的聯絡簿

    惡意程式若把聯絡伺服器寫死在網域或 IP,防守人員找到後就能設法封鎖;藏在公有區塊鏈裡的聯絡資料,卻很難從帳本上刪除。Cisco Talos 說明,駭客會把加密過的伺服器位置放進 Bitcoin 交易、EVM 智慧合約、TRON 錢包交易或 Solana 備忘錄,再讓受感染的電腦透過公開 RPC 查詢並取出資料。攻擊者更新鏈上的位置後,惡意程式就能取得新位置,不必重新安裝。文章建議企業留意異常頻繁的 JSON-RPC 查詢、檢查端點記憶體,並在業務不需要時限制連往公開區塊鏈節點的流量。

  3. Databricks Blog77

    Databricks 如何把叢集建立的預設請求速率上限提高 7.5 倍

    雲端服務變慢時,建立叢集的工作會拖更久;固定每分鐘接受多少請求,可能讓工作堆在系統裡,也可能在系統有空間時擋掉請求。Databricks 改用會看系統狀況調整的同時工作上限,讓排隊中的請求等到有空位再開始;系統吃緊時減少新工作,恢復後再慢慢增加。它仍保留固定請求上限,作為流量特別高時的防線。Databricks 表示,這套做法讓預設叢集建立請求上限提高 7.5 倍,報告範圍內的限流錯誤減少超過 99.99%,並移除了 100 多個客戶專屬上限。

    推薦理由:固定請求速率難以應付雲端依賴變慢帶來的長時間工作堆積;文章說明 Databricks 如何按系統健康調整同時進行的工作數量,並分享實際成效。

  4. cloudflare blog75

    Cloudflare 分析 Quad9 退出法國:DNS 封鎖恐讓日常網路服務中斷

    法國法院要求 Quad9 封鎖涉嫌侵權的網域,並對未配合開出每日罰款;這家非營利組織因此宣佈退出法國。Cloudflare 說,DNS 就像網路地址簿,封鎖只能讓特定網域不再被查到,無法移除網站上的侵權內容,使用者也可能改用其他 DNS 繞過封鎖。整個網域都可能受影響,使用者通常只會看到網站打不開。Quad9 無法直接通知所有使用者,醫院、學校或政府單位若未先更換設定,網路服務可能突然中斷。Cloudflare 主張應要求存放侵權檔案的主機業者下架內容,並表示已對比利時的 DNS 封鎖命令提出上訴。

    推薦理由:Quad9退出法國凸顯DNS封鎖的影響可能超出侵權網站,也會讓醫院、學校等使用者面臨服務中斷;文章並比較了封鎖與向主機業者下架內容的做法。

  5. Databricks Blog54

    Databricks 分享 Lakebase 駭客松如何用資料庫分支與同步打造應用

    開發應用時,團隊常得在共用測試資料庫和替每位開發者複製一份資料之間取捨;把湖倉資料送進應用,也常要另外建同步流程。Databricks 分享 11 個客戶團隊如何用 Lakebase 嘗試解決這些問題:資料庫分支能快速建立測試環境,修改不會直接影響正式資料;同步功能則讓湖倉資料供應應用查詢,也能把資料庫變更送回湖倉。像 Lyft 的團隊讓 AI 助理在資料庫分支上測試客服處理方式,再讀取資料庫的實際結果調整。這些案例展示 Lakebase 如何支援應用開發、搜尋和即時機器學習。

  6. a16z49

    AI 助理現在已能像研究實習生一樣,照著人指定的方式執行實驗、跑程式並整理結果;Mark Chen 說,這類工作通常範圍明確,不是叫 AI 自己想研究方向。John Schulman 分享,他讓 Fable 花幾天嘗試研究點子,確實能做出一些合理實驗,也提出有趣想法,但最後可能沒完成原本的任務。人類研究者能一邊動手寫程式、一邊累積理解,提出 AI 沒想到的問題,並把研究帶往不同方向。因此,AI 已能幫忙做部分研究工作,但仍需要人判斷目標並引導過程。

  7. a16z39

    研究品味,是看出哪些點子長遠來說重要、能被其他想法接著使用,最後也可能超越最初發表的論文。John Schulman 認為,研究直覺來自親自做研究,也要大量閱讀過去的成果,從中吸收經驗。Mark Chen 則說,現在的模型還不太會想出好點子,反而更擅長調整超引數等細節。未來公司可能用人類回饋強化學習,請研究人員評分哪些想法好、哪些不好,讓模型從中學習。這很重要,因為做研究不只要把引數調好,還得知道哪些問題值得花時間。

  8. a16z38

    AI 已經能幫研究人員更快做實驗、寫程式和測試想法,但它離自己規劃並完成研究還有多遠?a16z 的節目邀請 OpenAI 的 Mark Chen,以及 Thinking Machines Lab 的共同創辦人 John Schulman,討論「遞迴式自我改進」:AI 能不能研究如何讓自己變得更好,再用新方法繼續改進。他們也談到研究直覺為何難教,以及 AI 為什麼可能成為協助解決 AI 對齊問題的重要工具。

  9. LangChain Blog58

    LangChain 分享打造主動型 AI 助理的經驗

    AI 助理如果只等人下指令,就很難主動處理長期工作;但一直傳訊息提醒人,也會讓人覺得煩。LangChain 分享兩個內部 AI 助理的做法:銷售助理會留意新客戶、草擬郵件並整理每日摘要,工程助理則會草擬程式碼更新,並檢查新送出的更新。它們會根據事件或排程開始工作,也會從過去資料、人的修改和後續結果中累積記憶。文章指出,好的記憶能幫助 AI 助理少犯重複錯誤;訊息則應簡短、方便檢查,並出現在人們平常工作的地方,讓人逐步放心交出更多事情。

11月17日週二
  1. Y Combinator35

    大企業匯入 Salesforce、ServiceNow 或 SAP,最難的常不是安裝軟體,而是把公司的需求整理成能設定、能上線的做法。Auctor 正在打造協助企業匯入軟體的 AI 平臺。加入 YC 後,Auctor 從頭重寫產品,使用量因此成長 5–10 倍;創辦人也分享,他們曾在產品還沒準備好前就辦了數百場展示,後來決定重寫雖然冒險,卻成了重要轉折。他們認為企業仍需要 Salesforce 和 SAP,Auctor 是在這些平臺上協助匯入,而不是取代它們。

  2. OpenAI News66

    Revolut 與 OpenAI 合作,用 AI 加速金融風險篩查與產品開發

    很多人常會擔心金融交易被詐騙,或是開發新功能需要花很多時間。Revolut 把 OpenAI 的 ChatGPT、Codex 和 GPT‑5.5 變成 AI 小幫手,負責自動檢查交易、寫程式和整理檔案。這樣工程師不用手動跑每筆資料,就省下 30% 到 60% 的開發時間,能把更多精力放在設計和改進服務,同時讓客戶的資金更安全。

    推薦理由:文章說明AI讓Revolut以更快速度完成風險篩查,提升服務安全與效率。

  3. a16z38

    Tyler Cowen 認為,AI 讓公司短期內更難找到合適的人。以前僱主會看學校、成績或面試表現來猜一個人工作能力如何,現在還得判斷他能不能靈活學會使用 AI,但目前沒有可靠的方法看出來,因此找人可能花更久。Cowen 認為,未來 AI 可能會協助評估求職者,也可能出現衡量 AI 能力的證照;但在轉變期間,除了部分科技業人士,大家多半都還是新手。

  4. Databricks Blog72

    IFS Copperleaf 如何用 Databricks Genie One 讓 AI 助理理解公司業務

    公司資料分散在近 30 個系統時,不同部門可能連「有多少客戶」都算出不同答案,光把資料整理好還不夠。IFS Copperleaf 用 Databricks Genie One 打造內部 AI 平臺 IONA,先整理財務等重要資料,其他資料則讓 AI 直接讀取,再由業務人員在對話中補充公司的定義。每項定義都有負責人,並由 AI Council 審核;許可權仍依照公司原有設定。文章也分享行銷分析、財務換算和客戶會議準備等用途,以及 70% 的啟用率,說明共同的業務定義如何讓不同團隊更容易取得一致答案。

    推薦理由:IFS Copperleaf 說明如何把高風險資料先整理好,再讓業務人員補充其他資料的意思,呈現企業匯入 AI 助理時治理與彈性的取捨。

  5. NVIDIA Newsroom Press Releases59

    NVIDIA 供應鏈主管談如何和合作夥伴把複雜產品推向量產

    要把新設計做成大量、穩定出貨的產品,光有晶片設計還不夠,還得讓許多供應商一起解決製造問題。NVIDIA 營運主管 Deb Shoquist 分享,她會依照技術、資金和量產能力挑選夥伴,也會在供應商缺少規模時提供投資與協助。她舉例,GB200 運算板的自動測試速度一開始不如預期,團隊便先改回人工測試維持生產,再由 NVIDIA 和 Foxconn 工程團隊一起調整產線。她的經驗顯示,長期合作與現場協作能幫助供應鏈應付新產品量產時的難題。

  6. LangChain Blog58

    LangChain 說明 AI 助理從接任務轉向追蹤長期目標後,需要哪些改變

    交辦 AI 助理一件事時,我們通常知道要它做什麼;若要它長期負責一個目標,就得讓它自己安排工作,也要能在需要時詢問人。LangChain 說明這種改變會帶來幾項設計需求:讓人看得到它安排的待辦事項,管好它能使用哪些工具,提供提問與回饋的管道,並設定何時開始、暫停或停止。它也需要記住不同工作之間的重要決定,例如被拒絕的部落格題目,之後就不該一再提出。使用者的角色也會從逐項交辦,轉為設定方向、劃清界線並檢視進度。

  7. a16z50

    AI 能力進步很快,經濟成長卻不一定跟著加速。經濟學家 Alex Imas 和 Tyler Cowen 在 a16z 的訪談中談到,聰明的模型仍會受限於經濟上的瓶頸,進展緩慢的制度也可能拖慢 AI 的影響;另一方面,AI 研究團隊之間的競爭,正讓強大型模型更便宜。兩人也提醒,GDP 未必能算出 AI 為消費者帶來的全部好處,科學進步和更長的壽命可能才是更大的影響。

  8. Together AI Official Blog70

    Together AI 分享如何改善 AI 助理使用平臺的體驗

    開發者把工作交給 AI 助理後,平臺說明不清或 API 出錯,也會讓助理卡關、白花時間和費用。Together AI 設計多種任務,測試不同模型在沒有額外指引、使用檔案搜尋或載入技能時能否完成工作,再檢視操作紀錄找出問題。他們修正 GPU 價格指引、API 錯誤訊息和技能範例後,整合版技能的通過率從第一次測試的 75% 提高到 97.2%,每次執行的平均時間也比舊版少 20%。不過,不同時期的測試用了不同模型和任務,不能直接當成嚴格的前後對照。

    推薦理由:Together AI 用實測找出技能說明、API 錯誤訊息和程式範例的問題,並比較修正前後的通過率與成本,呈現評估如何帶動改善。

  9. NVIDIA Newsroom Press Releases60

    NVIDIA 回顧 CUDA 20 年如何改變科學運算

    科學研究需要處理大量計算,GPU 也能幫忙加快這些工作。NVIDIA 在 SC26 回顧 CUDA 推出 20 年來的發展,並介紹研究團隊如何用它做分子模擬、訓練 AlexNet,以及讓 AlphaFold 2 在 GPU 上執行。文章也提到,現在有超過 1,100 萬名開發者使用 CUDA,並有 1,000 多個 CUDA-X 程式庫。這些例子呈現 CUDA 如何從科學運算一路用到 AI 等領域。

    推薦理由:文章以 AlexNet、分子模擬與 AlphaFold 為例,呈現 CUDA 如何被研究團隊用於不同領域的計算工作。

11月16日週一
  1. n8n Blog54

    n8n 作者分析 AI 助理時代的工具整合工作如何改變

    以前要讓不同軟體互相合作,使用者得自己處理 API 的連線、登入、資料轉換和更新;現在服務提供者會推出 MCP 伺服器,讓 AI 助理找到並使用工具,因此提供者也得負責維護連線方式和安全設定。不過,MCP 只說明工具能做什麼,還得用技能教 AI 助理操作流程;開發者也可以用 Hooks 設定固定檢查,或透過 SDK 把工具直接寫進應用程式。作者認為,整合工作已分散到多種方式,服務提供者得同時顧及 API、MCP、Hooks 和 SDK。

11月15日週日
  1. LangChain Blog59

    LangChain 分享如何設計 AI 助理的目標,讓人更容易提供回饋

    AI 助理接手長期工作時,光有檔案和帳戶資料不夠,還得學會人心裡那些沒寫下來的做事習慣。LangChain 以 Actively AI 的銷售工具為例:原本每個潛在客戶帳戶各有一個 AI 助理,業務人員得分開檢查,也不容易把學到的做法分享出去。後來,Actively 改成按工作型別安排 AI 助理,例如開發新客戶或推進初期交易,讓業務人員能一起檢查相似工作,並把回饋用在其他任務上;帳戶資料則由背景工具整理。LangChain 認為,設計目標時也要讓人容易檢查成果、提供回饋,AI 助理才更能學會團隊的做事方式。