emath

固定小数の精度を指定

emath p1

p1=2～30(8) : 固定小数のビット精度

(プラグイン / モジュール : hspext)

解説

簡易数学関数命令セット全体で使われる固定小数の精度を設定します。

p1で精度のビット数を指定します。たとえば、16を指定すると「整数16bit + 小数16bit」のフォーマットになります。
固定小数のビット精度が高いほど、誤差のない正確な小数点演算が可能になりますが、そのぶん整数部で扱える範囲がせまくなります。
デフォルトでは8bitに設定されています。

サンプル逆引き (2)

情報