單片機浮點數(shù)的實用快速降法 作者: 時間:2012-03-08 來源:網(wǎng)絡(luò) 加入技術(shù)交流群 掃碼加入和技術(shù)大咖面對面交流海量資料庫查詢 收藏 可見只需要在X/YH的基礎(chǔ)上再乘以一個修正因子(YH-YL)/YH,就可以得到X/Y的一次校準(zhǔn)值。不難證明這個值已經(jīng)達(dá)到了24位的精度要求。事實上,相對誤差滿足: 上一頁 1 2 3 下一頁
評論