「FIX」と計算式を用いて小数点以下第何位を切り捨てるか。考え方と活用方法

NCプログラムには小数点以下を切り捨てる「FIX」がある。

小数点以下第何位を指定して切り捨てることはできない。

そのため「FIX」と計算式を用いて小数点第何位を指定して切り捨てる必要がある。

小数点第何位を指定して切り捨てる

(例)「125.4378」から小数点第3位以下を切り捨てて「125.43」にしたい。

[ FIX[ 125.4378 * 100 ] ] / 100

順を追ってみてみると、

「125.4378 * 100 」 を計算すると「12543.78」になる。

これに「FIX」を加えると、小数点以下切り捨てのため、「12543.00」となる。

最後に「12543 / 100」で「125.43」になり、小数点第3位以下を切るてることができた。

「FIX」の中で掛け算をしたら、同じ値を「FIX」の後で割り算をすることで、小数点第何位を指定して切り捨てることができる。

  • 切り捨てたくない桁が小数点より上(整数)になるように「FIX」の中で掛け算(×10、×100、×1000…)をする。
  • 元に戻すために掛け算をした値と同じ値を「FIX」の後で割り算(/10、/100、/1000…)する。

(例)小数点第1位~第4位までの切り捨て

小数点以下切り捨て
FIX[ 125.4378 ] 

Ans 125
小数点第2位以下切り捨て
[ FIX[ 125.4378 * 10 ] ] / 10

Ans 125.4
小数点第3位以下切り捨て
[ FIX[ 125.4378 * 100 ] ] / 100

Ans 125.43
小数点第4位以下切り捨て
[ FIX[ 125.4378 * 1000 ] ] / 1000

Ans 125.437

まとめ

[ FIX[ 125.4378 * 100 ] ] / 100

この計算式を覚えておく。

小数点第何位を切り捨てるかによって×100なのか×1000なのか…変更する。

掛けた値と同じ値を/100なのか/1000なのか…変更する。