关于Excel电子表格验证

leilei666

公司新买了一台离子色谱仪，配备PC工作站，因为属于计算机系统，故需要对其进行验证；由于该设备操作系统是WNI7系统英文版，没有安装自带的Excel，而工作站软件中自带一个Excel软件（功能和微软的Excel是一样的，只不过是内置在离子色谱的软件站中，不是单独安装在电脑系统中），在验证中我们需要对Excel产生的计算结果（只针对R2的值）进行验证，所以就手工根据公式计算，结果R2和Excel的结果有出入，设备Excel结果显示99.99945%，而人工计算结果却是1.000000045，本人数学小白，求大神解答为什么会这样，我们要求是手工计算和Excel结算结果应该是一致的，在线等，急~

feignte

你先说说怎么判定这两个数不一样的？你人工计算是草稿纸上算的吗，还是用计算器算的，计算过程中保留多少位。计算器支持多少位浮点计算，这个表格支持多少位浮点计算？
你真的需要10e-6 或者10e-8这样的精度比较他们是不是相等吗。
要那么高的精度，测量结果有那么高的精密度吗？

stupid22273

这个验证是需要先确认公式，再确认结果的。你找厂家要他们内置计算工具的计算公式，再进行对比。

304628646

先搞清楚设备设计说明书，你这样，大家都不知道。找供应商。

娟娟细流

EXCEL计算和手动计算，过程中小数位数设定是否一致？

Dvencent

大概是小数点保留的问题

3075589379

不是所有表格形式的，带计算功能的东西都叫excel；
看设备说明书；
直接把原始数据放出来

山顶洞人

楼上有人说过了，小数位的问题

来自安卓APP客户端

锐捷

你的手动算法是错的

来自安卓APP客户端