跳到正文

#邊緣端/裝置端

RSS
今日 2 則
今天11月23日週一
  1. MarkTechPost78

    NVIDIA 發布 Alpamayo 2 Edge,讓車內 AI 模型規劃行車路線

    自動駕駛車要在車上看懂周圍畫面、規劃路線,還得在有限時間內完成。NVIDIA 發布 Alpamayo 2 Edge,讓模型讀取 6 個攝影機的畫面,產生最長 6.4 秒的路線規劃,也能用文字說明判斷;遇到一般路況時,則會略過完整推理,減少運算量。NVIDIA 表示,搭配 FP8 和 TensorRT 的設定,在 DRIVE AGX Thor 上每次規劃約需 160 到 190 毫秒。MarkTechPost 引述的測試顯示,它在 AlpaSim 模擬中每發生一次責任事故前可行駛 15.15 公里;文章也指出,其他 GPU 架構尚未驗證。

    推薦理由:Alpamayo 2 Edge 把駕駛影像理解與路線規劃放到車內運算,文中也比較了它在模擬駕駛和問答測試中的表現。

  2. Dev.to Top Tech42

    為什麼把電腦送上天是好主意?從無人機到太空資料中心

    AI 需要大量電力和水,地面電網和資料中心卻不容易快速擴建。把電腦放到無人機、高空飛機或太空裡,就能在資料產生的地方先處理資料,減少把大量影片和訊息傳回地面的需求。像 Skydio X10 無人機能在機上製作地圖;Starcloud-1 也已帶著 NVIDIA H100 到太空,並在軌道上訓練 NanoGPT、執行 Gemma。 太空中的太陽能可能更穩定,也不需要用水冷卻,但散熱、太空輻射、延遲、發射費用和太空垃圾都是難題。作者認為,飛行電腦不會取代所有地面伺服器,卻可能讓更多運算工作搬到離資料更近的地方。

11月22日週日
  1. Dev.to Top Tech66

    Inkling 2 Mini GGUF 評測:16、24 和 32 GB 裝置該選哪種量化檔?

    在自己的裝置上跑大型模型時,模型檔案只是記憶體需求的一部分,長上下文還會用掉 KV 快取,若要讀圖片也得算上額外檔案。作者整理 Inkling 2 Mini 的 GGUF 檔案大小,並估算不同上下文長度需要多少快取。文章建議,16 GB 裝置可考慮較小的 IQ3 或 Q3 檔案並使用中等上下文;24 GB 裝置可搭配 Q4_K_M 使用 128K 上下文;32 GB 裝置則可選 Q8 檔案,並為圖片功能預留空間。實際需求會隨執行工具如何儲存快取而變動,作者也提醒,可在送出長提示詞後檢視記憶體用量。

  2. Tom’s Hardware AI & Computing41

    Tiny 2.1 把問答模型塞進軟碟,讓 DOS 電腦也能使用

    486DX 和 Pentium 老電腦的軟碟空間很小,要放進現代軟體並不容易。開發者 WollyMonjac 做了 Tiny 2.1,一個用 Turbo C 2.0 撰寫的小型問答模型,能放進 DOS 軟碟;它有 367,000 個引數,程式大小是 380 KB,執行時需要約 540KB 的傳統記憶體。它能用電腦喇叭把回答唸出來,也能讓使用者補充訓練資料。不過,模型除了訓練過的內容外,可能會很有自信地編出答案。

  3. Dev.to Top Tech42

    Spark-X2.5 1.7B 在 Rockchip RK3576、RK3588 上的執行速度與記憶體用量

    想在 Rockchip RK3576 或 RK3588 上跑 Spark-X2.5 1.7B,可以先參考 Rockchip 的測試資料:RK3576 每秒產生 13.57 個 token,第一個 token 等了 768.66 毫秒;RK3588 每秒產生 15.61 個 token,等了 386.23 毫秒。測試使用不同的量化格式,也用了 128 個輸入 token、要求產生 64 個新 token。作者建議先看自己要用的開發板適合哪種格式,再用實際提示詞測試,並分開記錄第一個 token 等多久,以及後續產生速度。

  4. hackernews10077

    LookAtMyQuant 用較小檔案儲存模型表現,並支援 Apple Silicon 執行

    模型檔案縮小後,回答品質可能跟著下降,也很難知道不同壓縮方法差多少。作者推出 LookAtMyQuant,會估算模型各部分壓縮後對輸出的影響,再分配儲存空間;新版也提供可在 Apple Silicon 上執行的模型與工具。以 Inkling-2-Mini 為例,5.38 GB 版本在 GSM8K 解出 134 題、HumanEval 通過 60 題;8.87 GB 版本在 GSM8K 解出 148 題,與原始模型相同。這些比較呈現了縮小檔案後的測試結果,也顯示表現會因模型大小與測試專案而異。

    推薦理由:作者提供多種模型在相同檔案大小下的量化比較,並列出數學、程式測試與文字差異,方便衡量縮小模型後的取捨。

11月21日週六
  1. Tom’s Hardware AI & Computing49

    35 年老 SNES 靠 Super FX 2 晶片加速,讓小型 AI 聊天程式回覆更快

    老 SNES 只有很有限的運算能力,要在上面跑聊天模型並不容易。Vintage Computing 部落客 Benj Edwards 做了一個能在 SNES 上執行的聊天程式,並用 Super FX 2 晶片幫忙加速;模型是從 OpenAI 的 GPT-OSS-120b 蒸餾而來,只有 2.2M 引數。程式可以在模擬器或實體主機上玩,也有加入簡易百科資料的版本,但回答能力有限,常會出現有趣又奇怪的內容。

  2. Dev.to Top Tech46

    Kubernetes 邊緣運算怎麼選?K3s、MicroK8s 輕量版比較

    工廠、外勤車輛和小型邊緣裝置的記憶體與網路都有限,直接安裝完整 Kubernetes 可能太吃資源,也需要穩定的儲存空間。文章介紹 K3s 和 MicroK8s 兩種輕量版本:K3s 把主要功能裝進不到 100 MB 的單一程式,閒置時記憶體用量低於 512 MB;MicroK8s 則保留較多原版 Kubernetes 功能,但約需 600 MB 記憶體,並依賴 Snap Store。像是網路不穩、裝置又只有 1 GB 記憶體的場域,選用較省資源的版本,能讓應用程式有更多空間運作。

  3. Dev.to Top Tech38

    IoT 和 AI 如何把裝置資料變成更好的決策

    工廠、倉庫和物流車隊常有很多感測器,卻不一定知道怎麼用收集到的資料來改善工作。IoT 負責收集溫度、震動和位置等資訊,AI 則能找出不尋常的變化,預測可能發生的問題,再把結果變成提醒或工作安排。像是機器震動變大時,提早安排維修,就能減少突然故障。要讓這套做法有用,得先挑一個實際又花錢的問題,用小規模試辦確認效果,再把有效的方法擴大使用。

  4. Dev.to Top Tech48

    Xybrid 主張 AI 應先在裝置上運作,需要時再用雲端

    很多團隊一加上 AI,就先把資料送到雲端,之後才想到能不能在手機或電腦上處理。Xybrid 主張把順序反過來:先用裝置裡的模型,真的不夠用再交給雲端。文中的例子顯示,iPhone 15 在 5 種工作裡有 4 種比雲端快,像圖片分類約 2 毫秒,語音轉文字約 200 毫秒;在裝置上處理也不用付每次呼叫雲端的費用,資料不必離開裝置。 這不代表所有 AI 都能放進手機:太大的模型仍得靠雲端。但 Whisper Tiny、Kokoro 和 Gemma 4 E2B 等模型已能在手機上處理語音、文字或多種媒體。文章建議先讓裝置上的模型試著完成工作,只有遇到複雜問題或模型放不下時才升級到雲端,讓使用者少等一點,也少傳出敏感資料。

11月20日週五
  1. Dev.to Top Tech73

    Qwen3-4B 裝置端教學:32K 上下文的 KV cache 比 Q4_K_M 權重更吃記憶體

    在手機或筆電上跑長篇對話時,模型檔案大小不一定是最吃記憶體的部分。這篇以 Qwen3-4B 說明,Q4_K_M 權重檔是 2.50 GB,但 32K 上下文搭配 f16 KV cache 需要 4.50 GiB;改用 q8_0 或 q4_0,cache 用量會降到 2.39 GiB 或 1.27 GiB。作者也教人從模型設定估算每個 token 的用量,再依產品實際允許的最長上下文挑選 cache 格式,並用固定提示詞比較結果、在目標裝置量測記憶體。量化 cache 會近似原值,是否合用仍要實際測試。

  2. Dev.to Top Tech53

    Banyan 自架檔案瀏覽器教學:Android APK 僅支援 arm64

    手機常用的下載資料夾若只能在瀏覽器分頁裡開,每次找回上次位置都不方便。Banyan 是可自架的檔案瀏覽器,作者整理了在 Linux 伺服器啟動服務、再於 Android 安裝 APK 的做法;手機和伺服器要連上同一個區域網路。APK 僅支援 arm64,約 19 MB,而且只是包住網頁介面的外殼,檔案預覽仍由伺服器處理,伺服器離線時也無法使用。服務沒有登入頁面,文章提醒不要把連線埠直接開到網際網路;若手機是 32 位元,使用網頁版並加到主畫面即可。

  3. OpenBMB58

    老師批改手寫英文作文時,得先辨認字跡,再逐句檢查拼字和文法。OpenBMB 推出的開源 app PaperReview 可匯入作文照片,辨認手寫內容,並把修改建議連回原文,讓老師對照學生寫的字和辨識結果。MiniCPM-OCR 1.0 負責辨識,MiniCPM5-2B 檢查拼字、文法、標點和大小寫;老師可以逐項接受或略過建議,也能保留進度、稍後接著改。下載模型和執行環境後,辨識與文字檢查會在 Apple Silicon Mac 本機進行,學生作文不必送到雲端模型。

  4. Dev.to Top Tech50

    AI 功能開始在手機和筆電上運作:隱私、省錢又不怕沒網路

    以前產品加上 AI,常得把文字或圖片送到資料中心,等大型模型回答;現在有些 AI 功能能直接在手機或筆電上跑。像是整理訊息、建議回覆、分類照片,都可以交給較小的模型處理;遇到比較難的問題,再送到伺服器。資料留在裝置上,隱私更好,也能省下每次向伺服器提出要求的費用,沒訊號時仍可使用。不過,小模型不擅長長篇推理和廣泛知識,舊裝置也可能跑不動。開發者得想清楚哪些工作適合在裝置上做,並老實告訴使用者 AI 實際在哪裡運作。

  5. Dev.to Top Tech58

    APK PlayStudio 如何在 Apple Silicon Mac 上執行 Android 遊戲

    想在 Mac 上玩 Android 遊戲,常見做法得把遊戲指令轉換後才能執行。APK PlayStudio 改用 Apple Silicon 支援的 ARM64 硬體虛擬化,讓 ARM64 Android 遊戲直接在 Mac 上跑;遊戲觸控也能對應滑鼠和鍵盤操作。不過,只有 64 位元版本的遊戲可以安裝。作者分享了開發時遇到的畫面、卡頓和登入問題,例如把畫面更新流程改成分兩步處理後,在高負載下的卡頓畫面比例從 8.2% 降到 0.2%。這款工具需要 M1 或更新的 Mac,目前仍在 Mac App Store 審核中。

  6. Dev.to Top Tech58

    CAVEDU 說明 SO-101 如何從模擬走到真機機器人控制

    機器人在模擬環境中能完成任務,不代表換到真實機器人上也會成功,因為鏡頭、馬達和碰撞情況都可能不同。CAVEDU 整理 SO-101 的開發流程,從校正手臂、模擬操作和收集資料,到訓練 GR00T VLA、測試真機;Cosmos 在這條路徑中用來增加訓練資料的變化。文章也說明另一條路:把經過訓練的 Cosmos 3 Edge 機器人策略部署到 Jetson AGX Thor 上。兩條路各有分工,不能直接當成接上 SO-101 就能使用的整合方案,仍要在真實機器人上評估表現。

  7. ollama release39

    Ollama v0.40.17-rc2 調整 mlxrunner,讓已存的對話紀錄因應記憶體壓力

    mlxrunner 以前會固定保留 8 GiB 記憶體給 Metal 字首紀錄,現在改看系統還剩多少空間,以及程式執行時需要多少工作空間,再決定保留多少紀錄。系統開始壓縮記憶體時,它會釋放用不到的緩衝區和較久沒用的紀錄,同時保留可重用的路徑與正在處理的請求,讓記憶體吃緊時仍能繼續處理工作。

  8. Dev.to Top Tech58

    FastFrames-S 如何在 Mac 上執行:M4 Max 產生一段影片約需 63 秒

    Apple 的 FastFrames-S 官方程式只支援 Linux 和 NVIDIA 顯示卡,Mac 使用者得靠社群移植版才能執行。移植者回報,在配備 64 GB 記憶體的 M4 Max 上,產生一段 480p、約 5 秒的影片要花約 63 秒,尖峰記憶體約 20 GB,離論文展示的即時生成還很遠。移植過程也發現,MPS 會為每種輸入大小保留記憶體;改成一次處理一個注意力頭後,記憶體佔用大幅降低。作者提醒,這些數字來自 64 GB 機型,還沒有人回報 32 GB Mac 的結果;模型權重也只限研究用途,不能用來開發商業產品。

  9. hackernews10069

    Pete Warden 談本機 AI、語音介面與 AI 硬體的未來

    AI 越來越常靠雲端運作,但這會帶來費用、網路連線和資料隱私等考量。Pete Warden 在訪談中談到,本機模型已能處理不少日常工作,放在自己的電腦或企業掌控的伺服器上,也能減少對外部服務的依賴。他還認為,語音介面要讓人用得自然,回應速度很重要;如果等待太久,使用者會不確定系統有沒有聽見。至於 AI 硬體,他談到記憶體頻寬和不同型別的加速器,認為執行模型的需求和訓練模型並不一樣。

  10. Dev.to Top Tech36

    Domyn Edge 4B 在 16GB MacBook Pro 上跑起來如何?實測影片

    想在自己的電腦跑 AI 模型,常會擔心它太大、跑不動。這支影片實測 Domyn Edge 4B:作者把模型轉成 4-bit 版本後,大小約 2.2–2.4 GB,能在 16GB MacBook Pro 上順順運作。問它海豚是什麼,模型約 30 秒就給出清楚正確的答案;請它寫一個計算資料夾內檔案字數的小工具,也做出能用的 Python 程式。這次測試顯示,它適合在一般電腦上使用,也能應付簡單的程式撰寫工作。

  11. Dev.to Top Tech78

    NVIDIA RTX Spark 桌機開賣,從 $4,399.99 起可在本機跑 AI 模型

    想在自己電腦上跑大型 AI 模型,常會遇到顯示卡記憶體不夠,或不想把資料送到雲端的問題。NVIDIA RTX Spark 桌機已在美國開賣,MSI 64GB 機型售價 $4,399.99;較大的 128GB 記憶體配置,則能讓 120B 引數模型載入本機。共享記憶體也讓 CPU 和 GPU 能使用同一大池記憶體,但裝得下不代表跑得快。文中整理 ASUS、MSI、Dell 和 Microsoft 機型的價格與限制,並提醒目前桌機效能數字來自廠商,還沒有獨立測試;此外,這些電腦使用 Arm 架構,購買前要確認常用軟體能否順利執行。

    推薦理由:文章整理各款 RTX Spark 桌機的價格與記憶體配置,也說明本機執行大型模型的隱私好處,以及效能數字尚無獨立測試佐證。

  12. Dev.to Top Tech54

    Flutter 和 Jetson 如何依網路狀況調整機器人儀錶板更新頻率

    網路變差時,機器人儀錶板若還不停更新大量資料,畫面可能變得難以使用。這篇教學建議先觀察連線延遲、封包遺失和重新連線情況,再依資料重要程度調整更新速度:指令和警報保持靈敏,姿態圖表可以降低更新頻率,較大的診斷資料則可以暫停。重新連線時可逐步拉長等待時間,Jetson 閘道器也能先整理資料或調整傳送速度。畫面還要清楚標示資料是否延遲或過期,避免讓操作人員以為看到的是即時完整資訊。

11月19日週四
  1. Dev.to Top Tech54

    Neat 如何決定會議室 AI 哪些工作要在裝置上執行

    會議室 AI 要即時挑選鏡頭、收音和畫面,若處理太慢,遠端參加者可能看到錯的人或聽錯麥克風。Neat 的產品與工程主管 Tormod Ree 說,工作放在哪裡,先看時間要求,再看隱私和成本:即時影音處理留在房間裝置上,較慢的工作則可交給雲端。每臺裝置可以先分析自己的影音並送出資料,由房間裡的主裝置負責挑選和混音。測試時也要分開看語音辨識錯誤,以及各種畫面判斷的漏掉與誤判,才能知道問題出在哪一部分。

  2. Unsloth AI Releases64

    Unsloth 更新 AMD NPU 支援,並加入影像與影片 LoRA 訓練

    在本機訓練和執行 AI 模型時,硬體支援、模型格式和等待時間常讓人卡關。Unsloth 這次更新讓轉換後的 Q4NX 模型能在 AMD NPU 上載入,也會標示每個模型能不能執行;此外,使用者可以訓練 LTX-2.5 和 MOSS-Image 的 LoRA,並在影片頁面載入 NVIDIA Cosmos3 的 FP8 模型。更新也加入聊天排程,讓排程任務的回覆直接出現在原本的聊天室。部分影像與訓練工作在特定硬體上每步最多快 42%,實際速度會依顯示卡和設定而異。

    推薦理由:這次更新把 AMD NPU、影像與影片模型訓練,以及聊天排程整合進 Unsloth,呈現本機 AI 工作流程涵蓋的範圍。

  3. OpenBMB51

    視障與低視力使用者出門時,可能需要協助看懂周遭環境或讀取文字。社群開發者 Rebel-Gloria 打造了 iPhone 和 iPad app PRTS,內建 MiniCPM-V 4.7 1B,可離線描述拍到的場景、朗讀招牌和檔案,也能用語音追問畫面中的細節。支援的裝置還可用另一套 LiDAR 系統提供口頭方向和節奏震動提示;部分線上功能與系統語音辨識則需要網路。

  4. Dev.to Top Tech44

    Jetway MTX-RYZ1 工業主機板:用 Ryzen 7 PRO 8845HS 和最高 96GB ECC 記憶體打造迷你 AI 電腦

    工業相機和自動化裝置需要同時處理影像,又得塞進小機箱;一般低耗電電腦可能跑不動,換成桌上型電腦又太大、太耗電。Jetway MTX-RYZ1 把 Ryzen 7 PRO 8845HS、顯示晶片和 AI 運算功能放進標準 Mini-ITX 主機板,支援最高 96GB ECC 記憶體,也有雙 2.5GbE 網路孔和多種工業裝置常用的連線埠。 例如,工廠可以用它連線工業相機和顯示器,在裝置旁直接分析影像;但 eDP、LVDS 會和 DisplayPort 共用線路,不能全部同時使用。主機板適合需要小體積和 ECC 記憶體的工業電腦,運作溫度則限於 0°C 到 +60°C;目前仍是初步產品,價格和大量供貨時間尚未公佈。

  5. Dev.to Top Tech41

    Android MediaPipe LLM 如何保留對話記憶,讓 AI 助理回覆更順

    如果每次聊天都重新開啟模型,之前看過的對話就得再讀一次,回覆也會變慢。這篇教學用 MediaPipe 的 LlmInference API 做出能記住多輪對話的 ConversationEngine:把同一個工作階段留著,雖然每次仍傳入完整對話,模型卻能沿用已讀過的部分,只處理新內容。對中階手機,對話內容最好控制在約 512–768 個 token;太長時,回覆可能超過 1 秒。切換 LoRA 也會讓快取失效,因此最好把同一種模式的對話集中處理。

  6. Dev.to Top Tech47

    Chrome Prompt API 如何用 3 個步驟在擴充功能中加入裝置端 AI

    擴充功能用雲端 AI,可能會遇到每次呼叫都要付費、使用者文字得送到外部伺服器、沒網路就不能用等問題。Chrome Prompt API 能直接在使用者的裝置上執行 Gemini Nano,文章示範了 3 個步驟:先確認模型能不能用,再建立工作階段,最後送出提示詞,例如請它用一句話摘要文章。這個功能需要 Chrome 138 或更新版本,也要有足夠的記憶體和硬碟空間;裝置不符合條件時,擴充功能應改用其他做法或隱藏 AI 功能。Prompt API 目前仍在 origin trial,介面之後可能改變。

11月18日週三
  1. Dev.to Top Tech58

    UNA Watch 架構指南:用 FreeRTOS 和 C++ SDK 開發手錶程式

    想替智慧手錶開發自己的程式,常會遇到系統不開放、修改不方便的問題。UNA Watch 採用 STM32U595、FreeRTOS 和 C++ SDK,開發者可把程式做成 .uapp,透過 USB-C 安裝,也能先用電腦模擬器檢查畫面和操作。手錶支援六種衛星定位系統,日常使用最長可達 10 天;但它只有 2.5MB RAM,也只有 IPX5 防水等級,不適合游泳或執行很吃記憶體的工作。文章也整理硬體設計和軟體的開放授權,以及電池與螢幕的拆換方式。

  2. Dev.to Top Tech66

    SiMa.ai 推出 Palette 3.0,讓多個 AI 模型共用 Modalix 晶片

    機器人、無人機和工業攝影機要同時跑好幾種 AI 工作,常得安排多顆晶片,也得顧好速度、耗電和反應時間。SiMa.ai 推出 Palette 3.0,讓多個模型和 Docker 容器共用 Modalix 邊緣 AI 晶片,還能調整各項工作的優先順序,並讓不同硬體引擎平行運作。公司表示,既有 Modalix 客戶重新編譯應用程式就能採用更新;一項晶片測試跑出 60 路 720p 物件偵測影像串流、合計每秒 600 張畫面。技術報告提到的最高加速幅度來自特定測試,汽車助理測試的改善幅度較小。這些結果能否在長時間運作時維持,仍是實際部署時的重要考量。

  3. llama.cpp Releases70

    llama.cpp b12503 大幅改善 OpenVINO 後端的推論與記憶體使用

    使用 OpenVINO 跑 llama.cpp 時,模型推論可能花太多時間搬動快取和資料,也會佔用不少記憶體。b12503 更新了 OpenVINO 後端在 CPU、GPU 和 NPU 上的多項做法,例如依實際注意力範圍讀取 KV 快取、減少 NPU 預填階段的資料搬動,並讓部分執行設定可以選擇開啟。更新也調整了模型快取與注意力處理,修正多種模型和執行模式下的問題;實際可用的選項與效能改善會依裝置和設定而異。

    推薦理由:這次更新集中改善 OpenVINO 後端在 CPU、GPU 與 NPU 上的快取、記憶體使用和推論效能,並提供多項可調整的執行選項。

  4. Dev.to Top Tech49

    FoldKit 如何判斷手機 App 的折疊螢幕相容性

    App 商店寫著「支援折疊手機」,不一定代表 App 在手機折起來、開啟或半開時都能正常使用。FoldKit 把相容情況分成這三種狀態,並分開記錄商店資料、開發者說法、使用者回報,以及明確說明某種狀態的測試結果;沒有資料的狀態就標成「尚未測試」。例如,使用者回報若沒寫手機型號、系統版本或 App 版本,就不能直接當成所有裝置都有問題的證明。 AI 助理可以幫忙找資料和整理內容,但每筆新資料都先是草稿,要經過人工審核才會公開。FoldKit 不會安裝或執行收錄的 App,也不會把開發者的說法說成 FoldKit 自己測過的結果。首批公開內容有 45 篇指南與工具、30 個 App 資料頁,以及 19 則附來源的使用者回報。

  5. Dev.to Top Tech43

    Ava 如何在 Android 上透過 WhatsApp 協助商家回覆客人,避免亂報價格

    小店用 AI 回覆客人時,最怕它把價格、商品是否有貨或退貨規則說錯。Ava 是一款在 Android 手機上運作的 AI 商業助理,會先查商家輸入的商品、服務、價格和條件;如果找不到重要資料,就承認不知道或請店家接手。像客人問「這臺車多少錢、什麼時候能看?」Ava 不該自己猜價格。免費方案的 AI 訊息要由店主檢查並核准,Pro 方案則能開啟更多自動回覆。這樣店家可以先確認它會不會用對資料,再決定讓它自動處理多少事情;不過手機仍須保持運作並連上網路,WhatsApp 才能收發訊息。

  6. Dev.to Top Tech59

    Cosmos 3 Edge 如何讓機器手臂看懂環境並分段執行動作

    機器手臂要完成夾起香蕉、放到盤子裡的工作,光認出物品還不夠,還得判斷怎麼移動,並確認動作後的結果。文章以 Cosmos 3 Edge 為例,說明 AI 助理如何觀察環境、預測接下來可能發生的事,再一次產生一段動作,讓機器人執行後重新觀察並規劃下一段。文中提到的示範在 Jetson AGX Thor 上執行,每段動作約需 1.53 秒產生,可供機器人動作約 2.13 秒;這些數字只適用於該示範。實際控制效果也會受機器手臂、相機位置和訓練資料影響,模型能在裝置上執行,不代表接上機器人就能穩定完成任務。

  7. Dev.to Top Tech39

    Muffle 如何不用伺服器追蹤位置,也能在指定地點自動讓手機靜音

    在清真寺、會議或教室忘了把手機轉成靜音,常會讓人尷尬;但一般定位 App 可能會一直收集位置資料。Muffle 把規則留在手機上,利用 Android 的 GeofencingClient,等手機進出指定範圍時才收到通知,再切換成靜音或震動,不必把位置送到伺服器。作者發現,手機長時間沒動時,Android 可能延後觸發;大型建築裡 GPS 也不太穩,所以改用常駐通知的 ForegroundService,並搭配時間安排,讓靜音規則能繼續生效。這種做法比較顧隱私,也少了維護伺服器的工作。

  8. Dev.to Top Tech47

    Michael 如何為幾款經典 PC 遊戲打造原生 64 位元 Linux/ARM64 引擎

    有些經典 PC 遊戲在新款 64 位元 Linux 電腦上,還得靠 Wine 或舊的 32 位元環境才能執行,在 ARM64 裝置上也不好處理。Michael 為幾款遊戲寫了使用 SDL2 的原生引擎,玩家可透過簡單的圖形設定畫面,指定自己合法購買的 GOG 安裝檔;下載內容不含遊戲資料。 目前公開的作品包括《Warlords III: Darklords Rising》、《Anno 1503 A.D. Royal Edition》、《Jagged Alliance 2 v1.13》和《Arcanum》的引擎或移植版本。其中《Anno 1503 A.D. Royal Edition》仍是候選版本,戰役事件、行人角色、Bink 影片和多人遊戲功能尚未完成。這些引擎仍很新,可能有錯誤;Michael 表示會處理回報的問題。

  9. Dev.to Top Tech56

    Ava SDR 分享 Android 離線銷售 AI 助理的架構經驗

    讓銷售 AI 助理在 Android 手機離線回覆,麻煩的不只是模型跑得動,還得避免它亂報價格、漏掉新資料或重複傳訊息。Ava SDR 的開發者分享,他們用約 1.2B 引數、四位元量化的模型,在一臺 POCO 手機上測得部分推論約需 4.8 到 10.4 秒;這只是特定設定的內部測試。價格和庫存要回頭查商家提供的資料,缺少資訊時應先說需要確認,必要時交由人核准。即使回覆能離線產生,訊息能否持續送出仍受網路、手機許可權和電量影響。

  10. Dev.to Top Tech52

    Voicute 教你替現有硬體挑選離線語音控制方式

    替已經做好的硬體加上離線語音控制,常遇到的問題是該用關鍵字辨識、語音轉文字,還是現成語音模組。文章建議先看使用者會說什麼:只要辨認喚醒詞或少數固定命令,用關鍵字辨識通常較合適;需要聽懂人名、數字和自由句子時,再考慮語音轉文字。若想快速做出原型,可以用語音模組;若要沿用既有硬體或支援不同執行環境,可評估 ONNX 或 TFLite 模型。實際整合前,還要確認麥克風格式、記憶體、處理器效能和耗電,並在產品使用的環境中測試誤觸與反應速度。