跳到正文
Dev.to Top Tech(dev.to)· fei mai·· 5 天前品質評分35

比例計算機的精確答案沒錯,小數預覽卻把十億分之一顯示成 0

Our Calculator Is Exact to 30 Digits. Its "Decimal Preview" Said Zero.

重點導讀

這臺比例計算機能算出精確分數,卻可能在下方的小數預覽顯示錯誤。

  • 測試時輸入十億分之一,答案列正確顯示「1/1000000000」,預覽卻顯示 0。
  • 另一個超大數字的預覽也把後面 13 位變成 0。問題出在預覽先把分數轉成 JavaScript 浮點數,再取到小數點後 8 位。
  • 作者打算改成直接從分數計算,太小而無法顯示時就留白。這次測了 77 筆輸入,有 75 筆答案正確。
  • 另外 2 筆錯在小數預覽,實際使用者多常遇到則沒有測量。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處dev.to

Our Calculator Is Exact to 30 Digits. Its "Decimal Preview" Said Zero.

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Dev.to Top Tech (dev.to)
開啟原文

讀者討論

理性交流 · 即時討論