跳到主要内容

numberStrip()

function numberStrip(value, precision?): number;

Defined in: number/numberStrip.ts:21

去除数字的无用小数位,解决浮点数精度问题 通过限制有效数字位数来消除JavaScript浮点数运算产生的微小误差 例如:0.1 + 0.2 通常得到 0.30000000000000004,使用本函数可得到 0.3

Parameters

ParameterTypeDefault valueDescription
valuenumberundefined需要处理的数字
precision?number12有效数字位数,默认为12位(范围1-21)

Returns

number

处理后的数字,去除了无用的小数位

Examples

numberStrip(0.1 + 0.2);       // 返回 0.3(解决浮点数精度问题)
numberStrip(1.2345);          // 返回 1.2345(默认12位有效数字)
numberStrip(12345.6789, 6);   // 返回 12345.7(6位有效数字)
numberStrip(0.0000012345);     // 返回 0.0000012345
**Note:** 有效数字位数(precision)控制整体数字精度,而非仅小数部分
**Note:** 默认精度12位适用于大多数场景,可根据需要调整,但不应超过21
**Note:** 内部使用Number.toPrecision()实现,然后通过parseFloat()转换回数字