@FloatEq (式言語)

2 つの数値を比較し、信頼範囲内で等しいかどうかを判断します。

注: この @ 関数は、Release 6 で新しく追加されました。

構文

@FloatEq( number ; number ; confidenceRange )

パラメータ

number

数値または数値リスト。任意の数値です。

confidenceRange

数値。オプション。数値が等しいと見なされるための差の最大値です。デフォルトは 0.0001 です。

戻り値

flag

Boolean 型。

数値の差が信頼範囲より小さいときは、1 (True) が返されます。
数値の差が信頼範囲以上のときは、0 (False) が返されます。

例

このアクション式は、[SpecifiedLength] フィールドと [MeasuredLength] フィールドを比較し、これらのフィールドの差が 0.01 以内でないときはメッセージを表示します。MeasuredLength がリストである場合、すべての要素が 0.01 以内ではない場合に限り、メッセージが表示されます。

@If(@FloatEq(SpecifiedLength; MeasuredLength; 0.01); "";
@Prompt([OK]; "Length is out of spec";
@Text(MeasuredLength)))

使用法

いずれかのパラメータがリストである場合、この関数は最初の 2 つのパラメータを並列に比較して、いずれかが範囲内にある場合に 1 を返します。

@FloatEq は、浮動小数点演算の誤差を処理するときに役立ちます。