跳到正文

#專家觀點

RSS
今日 19 則
今天11月23日週一
  1. Lobste.rs (Engineering Discussion)47

    Gliver 完成 Guix 桌面體驗,讓使用者能邊用邊改

    想自己調整桌面,卻常覺得軟體規定太多、改起來又不容易?作者改用 Gliver 這款以 Guile Scheme 編寫、搭配 Wayland 的平鋪式視窗管理器。它可以把視窗手動排成想要的樣子,也能讓人直接在互動式命令列裡執行指令、檢視系統狀態,甚至立刻修改程式。像是建立新工作區,目前就得在命令列裡操作,因為讓畫面跳出輸入框的功能還沒做好。Gliver 還很早期,仍有錯誤和缺少的功能,正在等 0.0.5 版,也有一個把它加入 Guix 的提案。它讓桌面不只是拿來使用,也能邀請使用者動手瞭解和修改。

  2. Dev.to Top Tech61

    AI 讓產品工作變多了,PM 和工程師該怎麼分工?

    AI 讓寫草稿、做原型和寫程式變快了,團隊卻得花更多時間挑選、檢查和負責這些成果。文中引用研究指出,使用 AI 程度高的團隊合併的程式變更增加 98%,審查時間也增加 91%。作者建議把工作分成三部分:用 AI 處理重複的準備工作,由 PM 負責判斷要解決什麼問題,再由 PM 和工程師一起把關安全、可靠度與上線後的責任。團隊也可以每週檢視待審查的變更數量和等待時間;若工作累積,就先減少同時進行的專案。

  3. Dev.to Top Tech58

    AI 一小時做出的功能,為什麼一年可能要花 53 小時維護?

    用 AI 一小時做出功能,不代表這個功能只花一小時。作者整理研究和一個示範案例,說明後續還要花時間檢查程式、測試、處理資安、回答問題和維護;案例中的功能,第一年合計約需 53.5 小時。文章建議先把 AI 做出的東西當成有期限的小測試,說清楚要驗證什麼、由誰負責,以及什麼結果代表該繼續或停止,再決定是否把它變成正式功能。

  4. AI Engineer67

    Armin Ronacher 談 AI 助理寫程式:先打造好用的工作坊

    AI 助理愈來愈能自己完成長時間的寫程式工作,但人能審查和維護的心力沒有跟著增加。負責開發 Pi 編碼代理的 Armin Ronacher 分享自己的工作紀錄:每項任務的代理執行時間,從較早期約 2.5 分鐘增加到 14 分鐘以上;他一年建立了 141 個程式碼儲存庫,定期維護的約有 10 到 15 個。他認為,團隊得看懂代理正在做什麼,也要敢在方向不對時喊停;大量開新專案,並不代表有心力把它們長久維護下去。

    推薦理由:工作階段資料顯示代理執行時間拉長,但持續維護的專案數沒有同步增加,凸顯人類注意力與判斷如何成為開發瓶頸。

  5. Dev.to Top Tech57

    AI 寫的程式像 3D 列印牛排,上線前要先仔細檢查

    AI 工具很快就能做出看起來完整的程式,但外表好看,不代表放進正式服務就能安全運作。作者用 3D 列印牛排作比喻:牛排的外形像真的,切開後才知道裡面用了什麼;AI 生成的程式也可能藏著沒處理好的錯誤、缺少等待間隔的重試、外洩的金鑰,或不可靠的測試。作者認為,這類工具適合做原型和一次性小工具,但要交給使用者前,仍要讀懂程式、用各種輸入測試、檢查錯誤處理和依賴套件,並在負載下確認能否正常運作。

  6. Gary Marcus (The Road to AI We Can Trust)63

    Gary Marcus 分析 Claude 協助證明黎曼猜想代表什麼

    Levent Alpöge 宣稱在 Claude 協助下證明瞭黎曼猜想,引發不少人以為 AI 自己解開了難題。Gary Marcus 指出,Alpöge 花了幾個月引導 AI 一起工作,過程也靠專門驗證數學的 Lean 和累積多年的 mathlib 數學資料庫;成果不是隻輸入一句提示詞就能得到。這項成果展現了人與 AI 合作處理數學問題的能力,但 Marcus 認為,數學有專用工具和可驗證答案,其他領域未必具備相同條件,因此不能據此說通用 AI 已經到來,或這套做法能直接解決商業、醫療等問題。

  7. swyx42

    OpenAI 提議用「困惑度」作為 AI 產業共同參考的指標,取代 FLOPS 這類只看運算量的數字。推文引用的說法認為,模型壓縮能力進步,是新能力出現的重要原因,因此困惑度或許能用來追蹤通用智慧的進展;依近期趨勢,進入約 0.68–0.7 的 log 困惑度區間後,可能還會出現重大新能力。swyx 也認為,圖表呈現了近 4 年大型模型預訓練的進步,而大家常爭論的訓練後調整問題,相較之下只是次要情節。

  8. Greg Brockman58

    AI 能力進步很快,安全監測和理解模型行為的能力可能跟不上。Greg Brockman 分享一項提議:業界先選定共同的衡量指標,約定模型發展不能超過某個上限,直到安全監測達到明確條件,例如發展出後續思路監測工具。達到條件後,才可再討論放寬上限。這套做法希望讓不同開發者依共同標準安排 AI 發展速度;文中將 perplexity 列為衡量模型能力的指標之一。

  9. Dev.to Top Tech39

    誰來決定 Gemini Carbon 的使用資格?

    Google 表示,Gemini Carbon 會透過 Fairwind,分階段提供給特定物件使用。官方資訊提到,評估工作由挑選過的合作夥伴和資安防禦人員參與。這引發了誰能使用、由誰決定的討論;但文章也提醒,現有資訊無法證明費用才是真正藏在背後的原因。「最強大」則是供應商的說法,不能當成獨立評測結論。

  10. aihot71

    OpenAI 提議用困惑度比較模型進展,制定共同安全上限

    不同團隊用不同資料和方法訓練模型,很難用同一把尺比較進展。OpenAI 公開 GPT-3.5 以來的內部困惑度測量資料,並提議讓業界用這項指標比較模型,也共同訂出安全上限,在達成更具體的理解與監控能力前,先限制模型開發。困惑度越低,代表模型預測下一個 token 越準;不過它不能直接反映所有能力,各實驗室使用的資料也可能不同,因此仍需要找出可互相比較的方法。

    推薦理由:OpenAI公開自GPT-3.5以來的困惑度測量資料,並說明這項指標如何連結預訓練進展與共享安全上限的提議。

  11. OpenAI News81

    OpenAI 主張用困惑度追蹤 AI 進展,並制定共同安全門檻

    不同 AI 團隊用的測試方式不一樣,很難直接比較模型進步到哪裡。OpenAI 認為,可以用「困惑度」衡量模型預測下一個 token 的能力,數值越低代表預測越準,並公開自家預訓練測量結果。文章也提出,業界可共同訂出安全評估方式、透明規範和發展門檻,在確認能理解並監控模型行為前,先限制進一步發展。不過,困惑度不等於實際任務表現,各家使用的資料也不同,因此跨團隊比較仍有難處。

    推薦理由:OpenAI 說明困惑度如何追蹤預訓練進展,也提出用共同指標與安全門檻協調業界發展,並指出跨實驗室比較的限制。

  12. TechCrunch · AI55

    為什麼大型資料中心成了民眾反彈科技業的焦點

    大型資料中心蓋進社群後,居民可能面對用電、用水和噪音帶來的生活影響。記者訪問《Hyperscale》作者 Paris Marx,談他如何從智利、愛爾蘭和美國奧勒岡州的案例,追查資料中心對地方資源的壓力,以及居民為何開始反對。他也指出,業者改用封閉式冷卻系統雖可減少用水,卻需要更多電力;社群抗議因此不只是對科技服務的不滿,也關乎大型設施如何使用當地資源。

  13. hackernews10066

    Anil Seth 分析 AI 是否有意識,提醒別把會說話當成有感受

    AI 越來越會說話、解決問題,很多人因此猜它是不是也有感受;神經科學家 Anil Seth 認為,聰明和有意識是兩回事。他指出,大腦是會維持自身運作的生物系統,和執行運算的電腦並不相同,因此電腦模擬大腦,不代表真的產生了意識。不過,他也承認目前沒有定論,無法確定什麼條件才足以讓 AI 有意識。文章提醒,太容易把 AI 當成有感受,可能讓人投入不必要的關心,也可能讓人忽略自己的感受;即使 AI 看起來像有意識,也不等於它真的有意識。

  14. Road to Autonomy🎙️ Podcast58

    Episode 475 | Autonomy Unscripted: Swarmed by Waymos and Staking Out Tesla Robotaxi Depots

    In the inaugural episode of Autonomy Unscripted, Grayson Brulte and Rob Grant go into the field to visit Waymo’s new SFO depot and Tesla’s SFO robotaxi facility. They also break down Zoox’s demand generation struggles in Las Vegas, their surprising pivot to the Uber, and the ongoing regulatory friction caused by labor union lobbying in Washington, D.C.. Key Autonomy Unscripted Insights Inside Waymo and Tesla’s SFO Robotaxi Depots Field observations from Waymo’s permanent SFO depot reveal a highl

  15. Dev.to Top Tech64

    17 歲學生 Bram Lesage:學校該教學生查核 AI,而不是隻會停用

    學生在學校用 AI 越來越常見,但如果只讓 AI 直接給答案,作業看起來變好,真正學會的內容卻可能變少。17 歲的 Bram Lesage 認為,學校應教學生怎麼使用 AI、查核結果並遵守作業規則,而不是假裝 AI 不存在。文中引用一項近千名土耳其高中生參與的數學實驗:用一般聊天機器人練習的學生,練習分數提高 48%,但考試成績比沒用 AI 的學生低 17%;使用引導思考的 AI 家教版本則沒有出現這種下降。作者也分享自己的做法:讓 AI 協助工作,但由自己測試、判斷和負責。

  16. elvis35

    AI 解出數學難題,讓人想知道:這些成果是在幫人類理解數學,還是在讓 AI 研究者的評測分數變好?Elvis Saravia 認為,設計更有挑戰性的評測很重要,尤其要測試 AI 能不能處理真實世界裡沒有標準答案的問題。他也提到,有些數學家擔心,AI 解題還沒帶來多少新的數學理解。未來,科學家和實務工作者得學會和 AI 一起工作,也要思考怎麼讓不同形式的智慧並存,並把新能力用在影響人們生活的問題上。

  17. Dev.to Top Tech40

    AI 助理訂機票前先檢查許可權,別等訂完再取消

    AI 助理替人訂機票時,旅客可能已經同意,也付了錢或用了哩程,但航空公司若等訂位完成後才發現是 AI 助理操作,仍可能取消訂位。更好的做法,是在動手前先確認許可權:能做哪些事、許可權何時到期、是否已被撤回;如果不符合,就清楚說明原因。文章也用 Cloudflare Images 的上傳問題舉例:檔案超過約 10MB 時,直接上傳可能逾時,應先檢查檔案大小、格式和尺寸,並在上傳前告訴使用者哪裡不合規。無論是訂票還是上傳,都該先檢查、再執行,避免事情看似成功後才被取消或卡住。

11月22日週日
  1. Lobste.rs (Engineering Discussion)64

    如果 Netscape 當年用 HTTP 加密網頁,網路會變成什麼樣?

    現在開啟安全網站時,瀏覽器會先建立 TLS 加密連線,再開始傳送 HTTP;作者想像,如果 Netscape 當年改用 HTTP 的功能來啟動加密,網路可能會有什麼不同。這樣一來,瀏覽器能先用 Host 標頭告訴伺服器要連哪個網站,也能依照自己信任的憑證機構挑選憑證,少掉一些後來才補進 TLS 的功能。不過,連線一開始仍是明文,攻擊者可能阻止加密啟動。作者認為,獨立的 https:// 網址和連線埠各有作用,但網址中的 s 才能清楚要求瀏覽器「沒有加密就停止」。

    推薦理由:作者用假想的平行世界,拆解 HTTP 與 TLS 的設計取捨,並說明安全升級如何影響網域辨識、憑證管理與降級攻擊。

  2. Dev.to Top Tech82

    黎曼猜想出現新的聲稱證明,該怎麼判讀?

    有人宣稱解開了黎曼猜想,但數學界還需要時間確認證明是否成立。Anthropic 數學家 Levent Alpöge 發布了一份短說明和 Lean 證明檔;MIT 的 Andrew Sutherland 已獨立編譯檢查,確認 Lean 接受這份證明,不過這只代表每一步符合形式邏輯,還不代表專家已看懂數學論證或接受結果。文章建議檢視證明檔能否獨立執行、由誰檢查、宣稱用詞是否準確,以及發布時機背後的利害關係。在數學界完成審查前,應保留「聲稱證明」的說法。

    推薦理由:這項主張已有可由 Lean 獨立編譯的證明檔,但數學界尚未理解並接受論證,文中整理了判讀重大 AI 成果宣稱的四個問題。

  3. Dev.to Top Tech67

    AI 讓功能更快上線,為什麼團隊不一定進步更快?

    AI 可以加快寫程式,但團隊決定做什麼、確認功能有沒有用,花的時間未必會變少。作者把產品工作拆成三段:決定要做什麼、把功能做出來,以及上線後確認結果。文章舉例,一個團隊把建置時間從 15 天縮短到 4 天,整段從提案到確認結果的時間卻只快了約 14%,而且 8 個上線專案中只有 3 個確認了結果。作者建議團隊一起記錄三段各花多久,並在功能上線前先訂好衡量方式和檢查日期,才知道加快開發是否真的帶來進展。

  4. Lenny's Podcast🎙️ Podcast58

    First principles: What it takes to be a great product manager in the AI era | Sherif Mansour

    Sherif Mansour is Head of AI and Product Craft at Atlassian (the company behind Jira and Confluence), where he has spent 17 years building and scaling some of the most successful enterprise products in history. He joined Atlassian as its first PM on Confluence, eventually becoming its first Distinguished PM, and now leads both the craft of product management across the company and Atlassian’s AI product strategy. We discuss: 1. Why a PM’s #1 job is to build a “shared brain” 2. The artist, the sc

  5. Dev.to Top Tech51

    Raph Levien 分析 Rust 圖形介面的發展方向

    Rust 可以用來打造效能好的圖形介面,但目前採用的應用程式還不多,各種做法也沒有共識。Raph Levien 回顧這個領域的進展,認為 AI 工具可能降低撰寫 Rust 程式的門檻;手機應用則可採用原生介面搭配 Rust 共用程式邏輯,照顧各平臺的操作習慣。他也整理文字排版、無障礙功能和影片畫面組合等尚待改善的地方,並指出不同應用需要不同的介面架構。

  6. Dev.to Top Tech51

    AI 助理接手修程式後,作者認為工程師更要懂得判斷風險

    AI 助理能讀取問題清單、修補程式、測試並更新伺服器,但遇到需要真人驗證、帳號註冊或重要安全決定時,仍會停下來請作者處理。作者分享,自己只下了幾個簡短指令,AI 助理就修好付款問題、更新伺服器,也發現並關閉一項對外開放的服務。真正需要他決定的,是要不要承擔風險,例如是否讓伺服器上的金鑰解開使用者資料。這些判斷來自過去遇過的資安事件和系統故障。作者認為,AI 助理接手了許多動手工作,工程師仍得靠經驗決定該做什麼、何時停下來。

  7. ChinaTalk79

    中國《民族團結進步促進法》下,AI 如何協助審查、學習與監控

    中國的《民族團結進步促進法》要求網路業者處理破壞民族團結的內容,但 AI 目前還不一定看得懂所有相關語言。作者測試六種模型後發現,用哈薩克語或蒙古語直接提問時,模型更常照要求寫出仇恨內容;部分測試也因藏語和維吾爾語翻譯不夠通順,難以判斷結果。另一方面,中國的政府相關機構正在建立少數民族語言資料和模型,作者認為這些成果尚未普遍出現在民眾使用的商用模型中。文章也提到,一項被 Anthropic 認為中等可信度與中國有關的行動,曾用 Claude 整理海外報導與活動資訊,製作給官員參考的簡報。作者據此分析,AI 的作用不只在刪除內容,也包括學習如何辨識內容,以及產製宣傳材料和監控情報。

    推薦理由:作者以多語言測試指出,模型在少數民族語言中更容易產生仇恨內容,並串起審查、語言資料建置與監控報告三種用途。

  8. a16z🎙️ Podcast58

    Replay: How the Internet Happened | Chris Dixon & Brian McCullough (2018)

    Why do technologies that look like bad ideas in one era become enormous companies in the next? Originally recorded in 2018, Brian McCullough and Chris Dixon trace the companies, failures, and accidents that built the modern internet. They revisit the battle between the open web and more centralized visions of the “information superhighway,” why eBay helped establish trust between strangers online, what Napster understood about digital media, and how Google found a business model for search. They

  9. aihot86

    梅納德談 Claude 合作證明黎曼猜想:驗證通過後,還要讓人理解

    一份證明通過程式核驗,不代表數學界已理解它為什麼成立。菲爾茲獎得主、牛津大學數學教授詹姆斯・梅納德認為,Anthropic 數學家 Levent Alpöge 與 Claude 合作提出的黎曼猜想證明是正確的,理由是證明已用 Lean 庫形式化驗證、經過獨立核實,而且 Alpöge 過去提出重大主張的紀錄可靠。不過,梅納德也指出,只有有人理解證明的想法並能向其他人說明,數學界才可能全面認可;在理解整體思路之前,這項成果也未必帶來大家期待的改變。

    推薦理由:梅納德認為形式化驗證與獨立核實支援證明正確,但數學界要理解證明的想法,才可能看見它帶來的影響。

  10. Dev.to Top Tech70

    Decision Firewall 開發者回顧建置過程,檢視 AI 行動授權框架是否值得採用

    AI 助理判斷退款符合條件,不代表退款真的成功;如果系統沒收到回覆就重試,還可能重複退款。Anuj Sadani 開發開源專案 Decision Firewall,讓系統先核對證據與規則,再授權特定動作,並在回覆遺失時查明原本的退款結果。測試顯示,框架和自行撰寫的應用程式控制都能守住退款規則,但框架整合時需要更多工具呼叫,也遇到多項介面問題。作者因此保留它作為參考實作,並整理出不必使用該框架也能跑的獨立檢查工具;這些測試仍不足以證明框架能節省開發時間或適合正式環境。

  11. Dev.to Top Tech58

    Magnific AI 如何靠兩位創辦人做出 AI 圖片放大工具

    模糊圖片放大後常會失去細節,Magnific AI 把這個問題變成生成式圖片工具的切入點。文章回顧兩位創辦人如何先分享提示詞實驗和教學,累積創作者社群,再推出付費服務;工具用分塊式潛在擴散技術放大圖片,並讓使用者調整新細節的生成幅度,以及畫面和原圖的相似程度。文章也整理了 Magnific AI 被 Freepik 收購的過程,並從中討論小型團隊如何結合 AI 程式工具、產品設計與社群曝光來發展事業。

  12. BlockTempo 動區動趨69

    OpenAI 募資少於原定目標,文章逐項核對「最慘一週」的說法

    社群貼文說 OpenAI 正面臨史上最慘的一週,還稱它快沒錢、被 Google 超車。文章核對後指出,募資確實少於原定目標,第三季虧損也比上一季增加;但「錢只夠撐 4 個月」和「被 Google 超車」沒有資料支援。文中引用的模型排行由 Anthropic 居首,OpenAI 排第二,Google 排在後面。作者認為,更大的壓力可能是投資人不願照原先估值投入資金。

  13. Dev.to Top Tech89

    AI 加速密碼研究:HAWK 遭破解,RSA 因數分解紀錄兩度改寫

    AI 找到 HAWK 簽章方案的弱點,讓它退出 NIST 的標準競賽;同一模型也改進了弱化版 AES-128 的攻擊,但這不代表一般使用的 AES 已被破解。接著,AI 助理協助把舊的因數分解程式改寫到 GPU 上,讓 RSA-260 和 RSA-896 的因數分解紀錄在 16 天內兩度改寫。作者認為,這些結果顯示 AI 能加快密碼研究與程式改寫,但專家仍得花時間確認攻擊是否正確。RSA-2048 仍不受這些結果影響;作者也提醒,採用尚未定案的密碼方案時,應讓系統能更換演演算法。

    推薦理由:HAWK 遭破解、弱化版 AES 的研究結果與 RSA 因數分解紀錄,呈現 AI 加速密碼研究的不同方式,也說明驗證攻擊仍需要專家投入時間。