浮点运算错误
发布于 5 年前 作者 hsu 9254 次浏览 来自 问答

Page({

data: {

EA: null,

EI: null,

RzI: null,

RzA: null,

ReLA: null,

ReLI: null,

AuA: null,

AoA: null,

AuI: null,

AoI: null,

Ug: null,

Uk: null,

UWmax: null,

UWmin: null,

xWmax: null,

xWmin: null,

SPAmax: null,

SPAmin: null,

sAmax: null,

sAmin: null,

SPImax: null,

SPImin: null,

sImax: null,

Tmax: ‘0’,

Tmin: ‘0’,

Faxmax: ‘0’,

Faxmin: ‘0’,

},

this.setData({

Ug: (parseFloat(this.data.AuA) - parseFloat(this.data.AoI)) / 1000,

Uk: (parseFloat(this.data.AoA) - parseFloat(this.data.AuI)) / 1000,

UWmax: Math.abs(parseFloat(this.data.Ug)) - 0.8 * (parseFloat(this.data.RzI) + parseFloat(this.data.RzA)),

UWmin: Math.abs(parseFloat(this.data.Uk)) - 0.8 * (parseFloat(this.data.RzI) + parseFloat(this.data.RzA)),

xWmax: parseFloat(this.data.UWmax) / parseFloat(this.data.DF),

xWmin: parseFloat(this.data.UWmin) / parseFloat(this.data.DF),

SPAmax: parseFloat(this.data.K) * ((1 - parseFloat(this.data.QA) * parseFloat(this.data.QA)) / (Math.sqrt(3) * parseFloat(parseFloat(this.data.UWmax) / parseFloat(this.data.DF)))) * (parseFloat(this.data.ReLA) / parseFloat(this.data.EA)),

SPAmin: parseFloat(this.data.K) * ((1 - parseFloat(this.data.QA) * parseFloat(this.data.QA)) / (Math.sqrt(3) * parseFloat(this.data.xWmin))) * (parseFloat(this.data.ReLA) / parseFloat(this.data.EA)),

sAmax: parseFloat(this.data.ReLA) / parseFloat(this.data.SPAmax),

sAmin: parseFloat(this.data.ReLA) / parseFloat(this.data.SPAmin),

SPImax: parseFloat(this.data.K) * ((2 * parseFloat(this.data.ReLI)) / (Math.sqrt(3) * parseFloat(this.data.xWmax) * parseFloat(this.data.EA))),

SPImin: parseFloat(this.data.K) * ((2 * parseFloat(this.data.ReLI)) / (Math.sqrt(3) * parseFloat(this.data.xWmin) * parseFloat(this.data.EA))),

sImax: parseFloat(this.data.ReLI) / parseFloat(this.data.SPImax),

sImin: parseFloat(this.data.ReLI) / parseFloat(this.data.SPImin),

});

Ug,UWmax结果一直是错的

如何计算都是错的,

-求大神指教如何处理浮点运算计算错误的问题

2 回复

AuA=0, AoI=85,AoA=30,AuI=55,正常Ug=-0.085,UWmax=0.07492,实际计算出UWmax=-0.0020800000000000003

不懂。。你这全是NaN 那里不对了。。

回到顶部