プログラミングにおいて整数の除算が予期せぬ結果をもたらすのはなぜですか?

プログラミング部門での予期せぬ結果

プログラミングにおける整数の除算は、驚くべき結果をもたらす可能性があります。次の例を考えてみましょう:

<code>PRINT @set1
PRINT @set2

SET @weight= @set1 / @set2;
PRINT @weight</code>

set1 = 47 と set2 = 638 を使用すると、予想される結果は 0.073667712 になります。 代わりに、出力は 0 です。これは、多くのプログラミング言語では、両方のオペランドが整数の場合にデフォルトで整数の除算が実行されるために発生します。 整数の除算では小数部分が切り捨てられるため、切り捨てが行われます。

期待どおりの浮動小数点除算を実現するには、次のいずれかの方法を使用します。

1. 変数を浮動小数点数として宣言します: set1 と set2 を最初から浮動小数点数として定義します:

<code>DECLARE @set1 FLOAT, @set2 FLOAT;

SET @weight= @set1 / @set2;</code>

2. 明示的な型キャスト: 除算中に set1 と set2 を float に変換します:

<code>SET @weight= CAST(@set1 AS FLOAT) / CAST(@set2 AS FLOAT);</code>

どちらの方法でも、正確な浮動小数点除算が保証され、整数の切り捨てによる精度の低下が防止されます。 これにより、小数値を必要とする計算で正しい 10 進数の結果が得られます。

以上がプログラミングにおいて整数の除算が予期せぬ結果をもたらすのはなぜですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。