« 座標ソート | トップページ | 文字整列 »

2022年11月 3日 (木)

微小誤差

外変実行中に現れる微小誤差。
0 として扱うには、四捨五入に使う Math.round が利用できます。

//微小誤差
num=6.66133814775094e-16
//四捨五入(小数点第1位)
num=Math.round(num)
msg="num="+num
//メッセージボックスに表示
WScript.echo(msg)
Photo_20221103210301

|

« 座標ソート | トップページ | 文字整列 »

コメント

コメントを書く



(ウェブ上には掲載しません)




« 座標ソート | トップページ | 文字整列 »