PRODUCT CLASSIFICATION
電子地磅有效數(shù)字的運(yùn)算規(guī)則
當(dāng)電子地磅需要對(duì)幾個(gè)測(cè)量數(shù)據(jù)進(jìn)行運(yùn)算時(shí),要考慮有效數(shù)字保留多少位的問(wèn)題,以便不使運(yùn)算過(guò)于麻煩而又能正確反映測(cè)量的度。保留的位數(shù)原則上取決于各數(shù)中精度zui差的那項(xiàng)。
①加法運(yùn)算。以小數(shù)點(diǎn)后位數(shù)zui少的為準(zhǔn),其余各數(shù)可多一位。
②減法運(yùn)算。當(dāng)相減兩數(shù)相差甚遠(yuǎn)時(shí),原則同加法運(yùn)算,當(dāng)兩數(shù)很接近時(shí),有可能造成很大的相對(duì)誤差,因此要盡量避免導(dǎo)致相近兩數(shù)相減的測(cè)量方法,如需要?jiǎng)t在運(yùn)算中多一些有效數(shù)字。
③乘除法運(yùn)算。以有效數(shù)字位數(shù)zui少的數(shù)為準(zhǔn),其余參與運(yùn)算的數(shù)字及結(jié)果中的有效數(shù)字位數(shù)與之相等。為了保證必要的精度,參與乘除法運(yùn)算的各數(shù)及zui終運(yùn)算結(jié)果也可以比有效數(shù)字位數(shù)zui少者多保留一位有效數(shù)字。
④乘方、開(kāi)方運(yùn)算。運(yùn)算結(jié)果比原數(shù)多保留一位有效數(shù)字。
www.muesix.com 電子地磅
上海偉酷機(jī)電有限公司
13818755070
上海市奉賢區(qū)奉浦大道97號(hào)綠地智尊A座1120-1123號(hào)
掃碼添加微信
Copyright © 2024上海偉酷機(jī)電有限公司 All Rights Reserved 備案號(hào):滬ICP備10202771號(hào)-3
技術(shù)支持:化工儀器網(wǎng) 管理登錄 sitemap.xml