浮動小数点とパーミュテーションテストプログラミング・一致試行

パーミュテーションテストでは、多数回パーミュテーション試行ごとの統計量・確率分布の計算を行い、その値の大小関係を解析の基本とする。特に、パーミュテーションの値空間が離散的で限定的である場合には、パーミュテーション試行ごとに統計量が同一であるか否かは結果に大きく影響を及ぼす。したがって、値の一致の確認には注意を要する。

こちらの記事(リンク)にもあるように、double型等での一致比較は結果に影響を与えるので、適宜、一致と判定する誤差範囲を設定し、一致の確認は、

if(Math.abs(a-b)<THRESHOLD){

}else if(a>b){

}else if(a<b){

}

というような大小同一判定を行う必要がある