FileFtransitUtil计算vvReso数据时精度问题修改
This commit is contained in:
parent
5b1cf4567d
commit
b9f5e68f9e
|
@ -1020,13 +1020,12 @@ public class FileFtransitUtil {
|
||||||
i1 = 0;
|
i1 = 0;
|
||||||
i2 = EngNum - 1;
|
i2 = EngNum - 1;
|
||||||
}
|
}
|
||||||
datas.setEner_slope(Float.valueOf(Eng[i2]-Eng[i1])/(Cer[i2]-Cer[i1]));
|
datas.setEner_slope((Eng[i2]-Eng[i1])/(Cer[i2]-Cer[i1]));
|
||||||
datas.setEner_intercept(Float.valueOf(String.valueOf(((datas.getVvEner().get(0).get(i1) * datas.getVvEner().get(1).get(i2) - datas.getVvEner().get(0).get(i2) * datas.getVvEner().get(1).get(i1)) / (datas.getVvEner().get(1).get(i2) - datas.getVvEner().get(1).get(i1))))));
|
datas.setEner_intercept(Float.valueOf(String.valueOf(((datas.getVvEner().get(0).get(i1) * datas.getVvEner().get(1).get(i2) - datas.getVvEner().get(0).get(i2) * datas.getVvEner().get(1).get(i1)) / (datas.getVvEner().get(1).get(i2) - datas.getVvEner().get(1).get(i1))))));
|
||||||
}
|
}
|
||||||
|
|
||||||
for(int i=0; i<EngNum; i++) {
|
for(int i=0; i<EngNum; i++) {
|
||||||
datas.getVvReso().get(0).add(Double.valueOf(Eng[i]));
|
datas.getVvReso().get(0).add(Double.valueOf(Eng[i]));
|
||||||
datas.getVvReso().get(1).add(Double.valueOf(FWHM[i]*datas.getEner_slope()));
|
datas.getVvReso().get(1).add(Double.valueOf(FWHM[i]*Double.valueOf(datas.getEner_slope())));
|
||||||
datas.getVvReso().get(2).add(Double.valueOf(CerUnc));
|
datas.getVvReso().get(2).add(Double.valueOf(CerUnc));
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
Loading…
Reference in New Issue
Block a user