emath

固定小数の精度を指定

emath p1

p1=2~30(8) : 固定小数のビット精度

(プラグイン / モジュール : hspext)

解説

簡易数学関数命令セット全体で使われる固定小数の精度を設定します。

p1で精度のビット数を指定します。たとえば、16を指定すると「整数16bit + 小数16bit」のフォーマットになります。
固定小数のビット精度が高いほど、誤差のない正確な小数点演算が可能になりますが、そのぶん整数部で扱える範囲がせまくなります。
デフォルトでは8bitに設定されています。

サンプル逆引き (2)

emath.hsp
emath2.hsp

情報

プラグイン / モジュールhspext
バージョン3.2
作成日2009/08/01
著作者onitama
URLhttp://www.onionsoft.net/
備考hspext.asをインクルードすること。
タイプ拡張命令
グループ拡張入出力制御命令
対応環境
  • Windows 版 HSP
hs ファイルhsphelp\hspext.hs