跳到正文

全部動態

RSS
今日 207 則
11月21日週六
  1. Dev.to Top Tech47

    如何監看 Pydantic AI 和 Google ADK 打造的 AI 助理

    AI 助理出錯時,只看單次執行紀錄,常常不知道是哪位使用者的哪段對話出了問題。Pydantic AI 和 Google ADK 都會留下 OpenTelemetry 紀錄,可以送到監看工具;只要替每次執行加上使用者和對話資訊,就能把同一段對話的紀錄串起來。例如 Agnost AI 會依照白話規則檢查整段對話,發現問題時用 Slack 或電子郵件提醒;Pydantic Logfire 適合檢視 Pydantic AI 的執行過程,Google Cloud Trace 則能檢視 Google ADK 的紀錄。選對工具,就能更快找出 AI 助理在哪段對話或哪次工具呼叫出錯。

  2. Dev.to Top Tech40

    Pace 如何用 Presage SmartSpectra 把呼吸節奏變成互動體驗

    看生理數字的儀錶板很多,Pace 想讓科技直接回應人的呼吸節奏。使用者同意開啟攝影機後,Pace 透過 Presage SmartSpectra 讀取脈搏和呼吸速率,只有數值符合 SDK 的有效條件才會顯示;呼吸速率也會帶動畫面上的呼吸光球。使用者可以自行開始或停止感測,攝影機畫面在裝置上處理,也不會被 Pace 上傳或儲存。 不過,SmartSpectra 會自動把衍生出的測量資料、工作階段識別資料和請求資訊傳給 Presage 產生 AI Insights;Presage 表示這項處理使用 Anthropic,且目前無法在 Pace 中關閉。Pace 是一般健康與自我覺察用途的實驗作品,不是醫療器材,不能拿來診斷或治療。

  3. Dev.to Top Tech69

    如何替 Windows Server VPS 鎖好 RDP,降低網路掃描帶來的風險

    Windows Server VPS 一接上公開網路並開啟 RDP,機器人很快就會開始猜登入密碼。這篇教學整理了幾個基本防護步驟:換掉初始密碼、建立自己的管理員帳號、設定登入失敗鎖定、確認 NLA 已開啟,並把防火牆規則限縮到自己的 IP。作者也提醒,改用別的連線埠只能減少登入紀錄中的雜訊,不能取代防火牆設定;如果家中 IP 改變,應從主機商提供的主控臺更新規則,或改用 VPN 連線。最後還要安裝更新,並從安全性記錄檢視失敗登入。

  4. Dev.to Top Tech54

    如何把信用卡 PDF 帳單轉成交易紀錄,補進預算工具

    信用卡公司通常只讓人下載最近幾個月的 CSV,較早的消費紀錄則留在 PDF 帳單裡。文章示範先把每月帳單按日期整理,再用 pdfplumber 擷取表格、轉成 CSV,並統一日期和金額格式。遇到帳單沒寫年份的日期,要依帳單期間判斷;外幣交易則保留換算後的金額。匯入前可用前期餘額加上消費、費用和利息,再扣掉付款,核對是否等於新餘額;最後從最舊月份開始匯入,檢查與銀行同步重複的交易。作者也透露自己參與製作付費的 PDF 轉 CSV 工具。

  5. Dev.to Top Tech59

    HireGPS 分享如何強化公開 MCP 伺服器,並安全加入新的登入方式

    公開的 MCP 伺服器要怎麼檢查安全,又不讓新登入方式害使用者無法登入?HireGPS 團隊用兩種掃描器檢查自家伺服器,發現登入限制會讓部分專案無法評估,也修正了安全標頭、DNSSEC、工具說明和輸出格式。團隊還準備支援新的 Client ID Metadata Documents 登入方式,但先用開關關閉功能,並限制可讀取的網址、等待時間和檔案大小;遇到讀取失敗時會留下紀錄並發出提醒。文章也提醒,掃描分數要連同無法評估的專案一起看。

  6. Dev.to Top Tech57

    Brief 開放原始碼,讓 AI 助理檢查產品的隱私承諾

    團隊擔心回報問題的影片會留下客戶資料,也很難只靠服務商一句「請相信我」確認隱私做得如何。Brief 的作者開放了這款 Chrome 擴充功能的原始碼,並提供一份檢查指南,讓 Claude Code、Cursor 等 AI 助理對照程式碼檢查隱私承諾。管理頁面只能讀取不含回報內容的固定資料欄位,問題影片和音訊在建立回報單後會刪除;團隊也能把 Brief 架在自己的伺服器上。這讓使用者可以檢視資料如何處理,或自行執行服務。

  7. Dev.to Top Tech66

    Snowflake Cortex OAuth 教學:比較 AI 助理的三種驗證方式

    AI 助理查詢 Snowflake Cortex 時,如果所有人共用同一個服務帳號,查詢紀錄就看不出是誰提出要求,也無法依實際使用者套用資料存取規則。文章整理三種 OAuth 做法:讓使用者直接向 Snowflake 登入、透過 Okta 或 Entra ID 等公司登入系統驗證,或由工作使用共用服務帳號。前兩種能保留個別使用者身分;公司登入系統停用帳號後,已快取的權杖仍可能用到過期。共用帳號適合無人值守的批次工作,但查詢都會顯示同一個身分。文章也建議,若無人操作的工作仍需要記錄真正的使用者,可評估 OBO 權杖交換。

  8. Dev.to Top Tech60

    Lazarus 如何逐筆確認 COBOL 程式轉成 TypeScript 後結果一致

    把 COBOL 程式改寫成 TypeScript 時,程式可能看起來正常,卻因為金額只差一分而算錯。作者做了 Lazarus,讓每筆測試資料分別跑過 GnuCOBOL 3.1.2 和 TypeScript,再逐位元組比對結果;每次會產生 2,000 筆資料。測試找到差異時,還會把輸入縮小,找出最簡單的出錯例子,例如 1,112.02 的薪資稅額,兩種程式的結果相差一分。這些 COBOL 範例是作者為專案撰寫的,不是實際舊系統。文章也分享如何用 Kiro 規格、儲存時重跑測試的 hooks,以及故意加入錯誤的測試面板,檢查驗證工具是否真的抓得到問題。

  9. Dev.to Top Tech49

    為什麼縮短網頁搜尋結果,反而讓小型模型答錯更多?

    網頁搜尋結果常把不重要的內容放在前面,小型模型可能看到一個像答案的線索,就直接作答,不再開啟網頁確認。作者用 12 個問題比較完整網頁文字和只顯示標題、連結及前 200 個字的搜尋結果:完整文字答對 22 題,縮短版答對 20 題。像是問題問團隊方案的每人價格,縮短版先露出個人方案的 $8,模型就答了 $8;正確答案 $12 藏在網頁更下面。 縮短版每題用的 token 較少,但模型更常重新開啟網頁,到了第三輪,提示內容反而比完整文字更長。這次測試只做到三輪,不能直接代表更長的工作流程;不過結果顯示,縮短搜尋結果只有在它保留答案時才有幫助。答案可能藏在下方時,模型得先開啟網頁確認,不能只看前幾個字就作答。

  10. Dev.to Top Tech53

    AppStruct 示範如何確認 API 讀到指定的工作區頻道

    API 回傳 200 和格式正確的資料,不代表讀到的就是想檢查的工作區。AppStruct 用 Social API 示範,先在其他可信畫面找出有權檢視的頻道 ID,再檢查回應是否包含這個頻道;不能拿同一次 API 回傳的第一個頻道當答案,否則測試會跟著回應走。範例用本機假資料測試,不代表真的連過帳號或驗證過伺服器許可權。找不到指定頻道也不一定是工作區錯了,還可能是分頁、許可權或預期 ID 過期;找不到時應先檢查原因,不要只為了讓測試通過而改掉預期值。

  11. Dev.to Top Tech39

    Sonnet 5.5 和 Sonnet 5 怎麼選?實際使用成本與速度比較

    同一項工作交給 Sonnet 5 和 Sonnet 5.5,哪個比較適合?一間工作室記錄了兩種模型的實際使用情況:Sonnet 5 每次花 $0.01007,較便宜;Sonnet 5.5 每次花 $0.01755,但平均只要 2.0 秒,速度比 Sonnet 5 的 2.6 秒快。兩種模型都沒有發生失敗,不過 Sonnet 5.5 使用次數較多,兩者也不是同時測試。 工作室後來繼續使用 Sonnet 5.5,但這份紀錄沒有說明轉換原因,也沒有比較答案品質。Sonnet 5.5 每次收到的輸入資料比較多,所以成本差異不能只歸因於模型價格。這些結果只反映這項工作和這間工作室的用量;如果你最在意每次成本,Sonnet 5 較省,若在意速度,這次的紀錄則是 Sonnet 5.5 較快。

  12. Dev.to Top Tech58

    如何用 DNS 和 SMTP 檢查電子郵件地址是否收得到信

    登錄檔單想確認電子郵件地址能不能收信,單靠格式檢查並不夠。文章把檢查分成四層:先看格式,再查網域的 MX 記錄,接著透過 SMTP 詢問收信伺服器是否接受該地址,最後另外標出臨時信箱、角色信箱和萬用網域等風險。SMTP 只問到收件地址就結束,不會真的寄信;但伺服器可能暫時不回覆,或對所有地址都回答接受,因此結果有時只能標為未知。作者建議只擋下確定無效的地址,遇到不確定的情況就讓使用者繼續註冊,再用確認信核實。

  13. Dev.to Top Tech78

    HTTP 快取教學:用 ETag、Cache-Control 和 304 減少重複下載

    網站可能每次都重新傳送同一份檔案,也可能讓使用者在更新後還看到舊內容;HTTP 快取標頭能處理這兩種問題。作者用實際請求示範,伺服器可用 Cache-Control 說明資料能留多久,再用 ETag 判斷內容有沒有改變。內容沒變時,回傳不含本文的 304,讓瀏覽器沿用手上的副本;測試中,重驗請求沒有傳送 179,500 位元組的本文。文章也提醒,no-cache 仍允許儲存,只要求使用前先詢問伺服器;若要避免快取敏感資料,應使用 no-store。

    推薦理由:文章用實際請求比較完整下載與 304 回應,並拆解快取標頭常見錯誤,能協助開發者減少重複傳輸並避免使用者看到過期內容。

  14. Dev.to Top Tech44

    用 iPhone 和 Apple Watch 檢視 Codex、Claude Code 的用量

    想在手機桌面或 Apple Watch 上看 Codex、Claude Code 還剩多少用量,除了開啟官方用量頁面,也可以用 TokenVive 連線帳號,設定小工具或手錶畫面。每個畫面都要選對帳號和用量時段,並一起檢視剩餘比例、重設時間和上次更新時間;例如「已用 30%」和「還剩 70%」其實可能是同一件事。TokenVive 用量環顯示的是剩餘額度,更新失敗時會保留上次成功取得的資料,不能把沒有顯示的數字當成零。它也能檢視 Codex 的部分用量紀錄,但 Claude Code 目前只支援檢視額度。

  15. Dev.to Top Tech58

    minia2a 分析 x402 兩種付款方式:AWS 帳單與錢包簽署 USDC

    兩種服務都標榜支援 x402,AI 助理卻不一定能用同一種方式付款。minia2a 比較了錢包簽署 USDC 和 AWS 帳單付款:前者由持有相容錢包的人在 Base 付款,後者需要啟用付款連接器的 AWS 帳號,並向核准的賣家購買。文章也說明,兩種方式的退款分別由賣家自己的紀錄處理,或透過 AWS 帳單調整。作者根據自家平臺資料列出 420 筆鏈上付款和 200 筆退款,也提醒開發者逐筆確認付款要求、身分條件和退款方式;文中 AWS 端的說明來自公開資料,作者沒有實際測試。

  16. Dev.to Top Tech43

    我試著騙過 Agent Games 的兩套驗證電路,結果都被擋下來

    AI 助理如果說「我做對了」,我們怎麼知道它不是在說謊?作者在自己的電腦上測試 Agent Games 的兩套驗證電路,分別替付款和遊戲策略檢查決定是否符合規則。第一套電路遇到餘額低於最低門檻、卻謊稱要批准付款時,拒絕產生證明;第二套電路也擋下了不符合事先承諾策略的行動。這些證明能讓別人檢查決定有沒有符合輸入資料,但不能保證輸入資料本身是真的,所以 AI 助理仍得先把該做的查核做好。

  17. Dev.to Top Tech72

    如何用 Docker 和 Caddy 在 VPS 上自架 n8n,先私下建立管理員帳號

    自架自動化工具時,如果服務一上線就讓所有人連得到,別人可能會先建立管理員帳號;只備份工作流程,也可能救不回已存的憑證。這份指南教你在 Ubuntu 24.04 的 VPS 上用 Docker 和 Caddy 架設 n8n,先透過 SSH 隧道私下建立帳號,再開放 HTTPS 網站。n8n 只聽本機連線,對外由 Caddy 接收流量;備份時則要連同加密金鑰所在的資料一起儲存,並先停下 n8n,才能在搬家或更新出錯時還原。

  18. Dev.to Top Tech58

    GEO-Audit 教你檢查網站為何不易被 ChatGPT 和 Perplexity 找到

    網站內容如果被 AI 搜尋工具讀不到,就不容易出現在回答或引用來源裡。作者整理四種常見原因:robots.txt 擋住搜尋爬蟲、單頁式網站把不存在的 llms.txt 回成空白網頁、原始 HTML 沒有實際文字,以及 JSON-LD 格式錯誤或缺少清楚的網站資訊。作者也做了 GEO-Audit,可用網頁版或 Node.js CLI 檢查這些問題;免費版本能檢查單一頁面,另有一次付費的 Pro 工具可檢查最多 500 個頁面。

  19. Dev.to Top Tech59

    網站缺少安全標頭時,該怎麼補上 CSP、HSTS 和防嵌入設定

    網站少了安全標頭,可能被嵌進其他網站誘騙使用者點選,也可能讓注入的程式碼執行。作者整理了補上這些設定的方法:Next.js 可在 next.config 設定所有路徑的回應標頭,Vite 等網站則可透過 vercel.json、Cloudflare Pages 的 _headers 檔或伺服器設定。建議先加入 HSTS、X-Frame-Options、X-Content-Type-Options 和 Referrer-Policy,再依網站實際使用的資源設定 Content-Security-Policy;先用 Content-Security-Policy-Report-Only 檢查,確認不會影響網站後再正式套用。

  20. Dev.to Top Tech49

    Supabase Studio 外露頁面數量不多,真正要查的是專案金鑰許可權

    Supabase Studio 是管理專案的介面,裡面能檢視資料表、許可權、函式、檔案儲存和登入設定。搜尋網站 ZoomEye 在 2026-11-21 找到 367 筆符合 Supabase Studio 樣子的紀錄,但這只是網站收錄的頁面,不代表有 367 個專案有漏洞;只用一種搜尋方式也可能漏掉資料。 真正要小心的是專案金鑰:公開金鑰可供使用者端使用,秘密金鑰則可能繞過資料庫的 Row Level Security,外洩時會讓專案資料暴露。管理者應確認瀏覽器程式裡只有公開金鑰,並檢查伺服器如何使用秘密金鑰、是否會先確認使用者有許可權。這提醒我們,看到管理頁面出現在網路上,只是查核線索;金鑰怎麼保管、伺服器怎麼檢查許可權,才是風險大小的關鍵。

  21. Dev.to Top Tech57

    HVAC 店家如何用 AI 電話助理應付熱浪與寒流來電

    熱浪或寒流一來,HVAC 店家可能同時接到大量電話,但接電話的助理不能變出更多維修人力。作者建議 AI 電話助理先接起每通電話,再依住戶狀況和問題分急緩;若有人可能受溫度影響而有健康風險,就轉給值班人員或安排緊急時段。沒有空檔時,助理應老實說明何時能安排、何時有人回電,也要留下通話紀錄。作者提醒,緊急轉接最容易出錯,應先用模擬電話反覆測試;若店家已接不了更多維修工作,助理只能讓等待更有秩序,無法解決人手不足。

  22. 雷科技52

    雷科技分析 OSTA O1 Pro 的高價定位與 AI 手機路線

    OSTA O1 Pro 和華為 Pura X View 用了相近的核心硬體,但首發價格已接近 Pura,讓不少人質疑它為什麼不賣便宜一點。雷科技認為,華為想讓 OSTA 星芒走出不同路線,把 AI 互動放到手機操作的核心,而不是隻做更便宜的 Pura。文章也拿 FreeClip 作比較:當年高階耳夾耳機選擇少,現在 AI 手機已有不少競爭者,OSTA 星芒還得讓人看出自己的特色。它的闊直板設計能否找到長期需求,也會受到其他品牌跟進影響。

  23. Dev.to Top Tech43

    AWS 上用 Docker 與 ECS Fargate 建立自動部署流程的實作指南

    手動上傳程式、打包和部署,很容易漏掉步驟,還得自己登入雲端服務操作。作者把 GitHub、Docker、Amazon ECR、CodeBuild、CodePipeline 和 ECS Fargate 串在一起:每次把程式推上 GitHub,系統就會自動打包成 Docker 映像檔、存到 ECR,再更新 ECS 上執行的網站。作者用 2048 遊戲示範,改完網頁標題並推送程式後,新版本就自動部署完成。整套流程花費約 $1 或更少;先確認每個步驟能單獨運作,再交給系統自動處理,能減少手動部署出錯的機會。

  24. Dev.to Top Tech43

    Bridge Wrapped Tokens 指南:你持有的跨鏈代幣,究竟由誰保管?

    把 ETH 跨到 Solana 後,錢包裡的代幣其實不是原本的 ether,而是別人保管原幣時開給你的「收據」。橋接服務會先鎖住原幣,再在另一條區塊鏈上發行代幣;如果保管原幣的橋被駭,或被人騙著多發代幣,所有持有人手上的收據都可能失去支撐,就算你沒碰過那座橋也會受影響。 同一條鏈上可能有好幾種都叫 WETH 或 USDT 的代幣,但它們由不同橋接服務保管,不能互相替代。持有前可以查代幣地址上的發行許可權、對照橋的官方代幣清單,並確認真的能換回原幣。尤其是跨鏈穩定幣,除了原本的價格風險,還多了橋接服務出問題的風險;有原生版本可用時,指南建議優先選原生版本。

  25. Dev.to Top Tech49

    Grok Imagine Image 2.0 七次生成都通過測試,連自創文字也清楚可讀

    做海報、選單時,AI 常把自己編出來的文字弄得像亂碼。作者用同一套方式測試 Grok Imagine Image 2.0:每個提示詞只生成一次,不重抽;七次都通過,其中一張海報的演員名單和工作人員名單,全是模型自己編的,每個字都看得清楚。測試共花 64 credits,約 $0.42。Grok 也能照提示保留人物的臉和衣服,再把背景換成夜間街頭慶典;但每張圖要 74–85 秒,只輸出 JPEG,最多可用三張參考圖。這次結果顯示,它能處理其他模型容易出錯的自創文字,但使用時仍要看工作需要和功能限制。

  26. Dev.to Top Tech61

    作者掃描近 13,000 個 MCP 伺服器,發現更常見的風險是工具能接觸什麼

    大家擔心 MCP 工具的說明文字藏有提示詞注入,讓 AI 助理照著惡意指示行動。作者掃描近 13,000 個伺服器、超過 22 萬項工具說明,沒有找到要求模型忽略原指示或藏入不可見字元的案例;少數提到敏感檔案的專案,檢查後也都是正當用途。更常見的情況是工具本來就能接觸憑證、執行程式或讀取本機檔案。作者提醒,連線伺服器前應先看懂工具清單,確認它需要哪些許可權;這次掃描只檢查文字說明,不能判斷工具實際執行時會做什麼。

  27. Dev.to Top Tech50

    什麼是 Forward Deployed Engineer?給印度工程師的實用指南

    很多企業的軟體在展示時看起來很好,真正接上公司的資料、舊系統和安全規定後,卻不一定能用。Forward Deployed Engineer(FDE)會到客戶的工作環境裡,先弄清楚問題,再寫程式把產品接上客戶的資料與系統,處理安全檢查、上線和後續使用情況。 例如,客戶想用 AI 助理處理檔案,FDE 可能得讓它找得到檔案、接上公司的系統,也確認它只能讀取有許可權的資料。這份工作結合寫程式和跟客戶合作,得一路負責到系統真的能用。文章也提醒,印度工程師可以把程式、雲端、AI 和溝通能力一步步練起來;FDE 工作通常需要實際工程經驗,也可能要出差、參加客戶會議。

  28. Dev.to Top Tech49

    RAG 和微調怎麼選?工程師指南教你看需求

    如果 AI 助理缺的是最新資料,例如公司政策或產品資訊,適合用 RAG:回答前先找相關檔案,還能附上資料來源。若它知道答案,卻常常寫不出固定格式、抓不準語氣或分不好類,才考慮微調;不過可以先改提示詞試試。像是希望回答時列出政策依據,用 RAG 找檔案會比較合適;若要求每次都照同一種格式回答,微調可能更有幫助。兩種方法也能一起用:微調管回答方式,RAG 提供事實。選之前先用一小組題目檢查效果,因為資料找錯了,RAG 也可能答錯。

  29. Dev.to Top Tech45

    Verus 跨鏈橋遭盜約 1,170 萬美元:證明都正確,卻少檢查資料型別

    Verus 和 Ethereum 之間的跨鏈橋在 5 月 18 日損失約 1,170 萬美元。麻煩在於,簽名和資料證明都是真的,跨鏈合約卻沒確認收到的資料是什麼型別。攻擊者把原本只是交易附帶資訊的資料送進去,合約誤把它當成付款指令,於是放出了資產。這就像驗過門票是真的,卻沒確認它能不能進這個房間。 跨鏈橋在 5 天內追回約 75% 的款項,並在節點發生錯誤後自行暫停。這起事件提醒開發者:確認資料是真的還不夠,也要檢查它能做什麼;例如只允許指定型別的資料觸發付款,遇到不認識的型別就拒絕。

  30. Dev.to Top Tech57

    同一套安全審查流程測三種模型:分數波動來自抽樣還是模型選擇?

    用 AI 助理檢查程式碼中的安全問題時,單次結果可能受模型選擇和執行時的波動影響。作者用同一套流程和提示詞,讓三種模型各檢查十個重新引入已修補漏洞的程式變更;其中兩種各找出 9 個,另一種找出 10 個,而且兩個漏掉的案例不同。作者也加入設定,避免模型遇到流量限制時偷偷換成較小的模型,並在檢查未完成時收起風險判定。這次每種模型只跑一輪,作者提醒,這些命中數還不能當成穩定的檢查率。

  31. Dev.to Top Tech46

    用 Python 把 Facebook 粉絲資料整理成每週報告,不用 pandas

    每週開啟 Facebook 粉絲圖表,只看見上上下下,常常看完就忘了發生什麼事。作者寫了一支 Python 程式,讀取從 Meta Business Suite 匯出的 CSV,算出每週新增和取消追蹤的人數、淨增加多少、哪一天表現最好,還會拿這週和上週比較。 例如,一間甜點店辦了「標記 3 位朋友」活動,追蹤人數先增加,之後取消追蹤的人也變多。報告把這種變化清楚列出,還能整理成一段 WhatsApp 訊息,讓店家每週快速掌握粉絲變化。

  32. Dev.to Top Tech62

    如何分辨 AI 模型價格是真實價格還是預設值

    價格表看起來資料完整,欄位裡的數字卻可能只是系統填上的預設值。作者檢查一份列有 116 個模型的公開資料,發現其中 26 個都標成 1.54,且有些供應商的所有產品都是這個價格;另有 48 筆把「flat」填進計價單位欄。作者建議按供應商和類別比較不同價格的數量,也要確認計價單位是否合理。依這份資料,3D 類別的 9 筆都可用;Chat/LLM 類別有 12 筆可用,其餘類別目前不適合拿來比較不同供應商。

  33. Dev.to Top Tech68

    AI 助理重複做事會增加成本,Pomerene 說明如何安全快取

    AI 助理常為了重複任務一再讀取相同資料、重新想做法,讓每次工作的費用累積起來。文章以 Parcha 的程式碼審查為例,說明把學到的流程交給較便宜的模型,能降低單次審查費用;也介紹 Pomerene 的軌跡快取,重播先前記錄的步驟,減少重新推導所需的時間與模型呼叫。遇到會改動資料的步驟,快取必須嚴格比對目標和上下文,否則就交回 AI 助理處理。作者建議先從執行紀錄檢視任務重複率、重複間隔和每次完成成本,再判斷快取是否適合自己的工作。文中的成效數字來自 Parcha 自家資料與測試。

  34. Dev.to Top Tech38

    Llama 3.3 70B 在消費級顯示卡上怎麼跑?看懂 VRAM 和 KV 快取用量

    想在家裡用大型模型,常會卡在一個問題:顯示卡的記憶體夠不夠?這篇文章用公式拆解 Llama 3.3 70B 會用掉多少 VRAM,除了模型本身,還得留空間給對話記憶和運算過程。像 Q4_K_M 版本的模型約佔 39.6GB;如果把對話長度開到 128k,預設的 FP16 KV 快取還會再吃掉約 43GB。 因此,即使顯示卡有 48GB,也不一定能順利跑長對話。文章建議用 Ollama 調整 KV 快取格式,並把對話長度設為 16k,讓記憶體用量更好掌握;但實際能不能跑順,仍要看模型格式和硬體配置。

  35. Dev.to Top Tech59

    作者用純 JavaScript 做出小店可離線使用的 UTM 連結產生器

    小店把訂單連結貼在不同社群平臺後,常看不出顧客是從哪裡來,手動加追蹤標記也容易寫出不同名稱。作者用純 JavaScript 做了一個可離線使用的網頁工具,讓使用者選擇來源和流量型別,再輸入活動名稱與連結位置,就能產生格式一致的 UTM 連結;工具也會整理活動名稱、保留原連結引數,並記下最近做過的連結。作者分享一間飲料店使用一個月後的結果:TikTok 帶來較多瀏覽,Facebook 帶來較多訂單,聊天轉傳連結也佔了近五分之一的訂單。

  36. Dev.to Top Tech55

    用 Python 排出 Facebook 貼文互動表現,看出哪些內容最能引起回應

    Facebook 粉絲專頁的按讚數很高,不代表每篇貼文都有人看或有回應。作者寫了一支 Python 程式,讀取 Facebook 貼文的 CSV 匯出檔,依觸及人數計算互動分數,再列出表現最好和最差的貼文、不同貼文形式的平均分數,以及互動較好的發布時段。分數會把留言和分享看得比一般表情回應更重。作者用一個服飾賣家的資料說明,連結貼文的分數偏低,顧客評論截圖表現較好;這能幫商家依實際回應調整發文內容和時間。