| 
					
					
					 lifeison 
					
				 
					級(jí)別: 探索解密   | 
						圖片:    
						圖片:    如圖的兩種運(yùn)算方法,運(yùn)算結(jié)果都有偏差! | 
|---|---|
|  | 
| 
					
					
					 znz43 
					
				 工控職業(yè)已成回憶 只因愛好常回家園 樂(lè)此不疲 
					級(jí)別: 工控俠客     | 很正常,浮點(diǎn)數(shù)的有效位數(shù)只有7位。 | |
|---|---|---|
| 
 | 
| 
					
					
					 lifeison 
					
				 
					級(jí)別: 探索解密   | 
 已知A=22400,B=0.005625,求C 你說(shuō)C=125.99999正常?請(qǐng)用計(jì)算器算一下! | 
|---|---|
|  | 
| 
					
					
					 cvlsam 
					
				 富士低壓,POD(觸摸屏),PLC專賣 
					級(jí)別: VIP會(huì)員         | 
 您需要去了解一下IEEE754浮點(diǎn)數(shù)與我們PC上常說(shuō)的浮點(diǎn)數(shù)的區(qū)別。 Good Luck~ | 
|---|---|
|  | 
| 
					
					
					 sjbandmm 
					
				 
					級(jí)別: 略有小成   | 浮點(diǎn)數(shù)進(jìn)度問(wèn)題,可以用雙精度浮點(diǎn)數(shù)來(lái)解決問(wèn)題,如果還不能達(dá)到精度,只能換成整數(shù)計(jì)算再轉(zhuǎn)換為浮點(diǎn)數(shù),只要是帶小數(shù)的浮點(diǎn)數(shù)都是可能存在誤差的,只有整數(shù)乘法沒(méi)有誤差。另外說(shuō)一句,對(duì)于人家的回答,不管是對(duì)錯(cuò),都要注意自己的態(tài)度! | 
|---|---|
|  | 
| 
					
					
					 tkggtdkjpl 
					
				 工欲善其事,必先利其器! 
					級(jí)別: 網(wǎng)絡(luò)英雄     | 把22400改成22400.0試試。 | |
|---|---|---|
| 
 |