目田 育人

なぁ亜美 電卓をいじっていたら こんなのが出てきたんだ

広伝 亜美

えっ なにこれ?eって文字が入っているけど 16進数とも違うみたいね
何でこんな数が出たの?

目田 育人

どこまで小さい数字が表現できるかと思って 1÷100億の計算をさせてみたんだ
これ何かのメッセージか?

芽萌里先生

みなさんこんにちは

目田 育人

先生 こんにちは

広伝 亜美

こんにちは

目田 育人

先生 俺の電卓に変な数が表示されたんだ これって「エラー」ってことかな?

芽萌里先生

いいえ 違います
これは「浮動小数点表記法(ふどうしょうすうてんひょうきほう)」といいます

広伝 亜美

「浮動小数点表記法」なんだかややこしい名前ですね

芽萌里先生

コンピュータで記録できる数は「有限」なので 覚えさせる桁数にも限界があります

芽萌里先生

その中でも できるだけたくさんの桁数を覚えさせるために工夫された表現方法なんです

目田 育人

それじゃあ この「1e-10」ってどういう意味なんですか?

芽萌里先生

それは 「e」の前の数値の小数点を 「e」の右の数値の桁数移動しなさい という意味です

芽萌里先生

右の数値が+なら小数点は右へ -なら小数点は左へ動きます
つまり 1.0の小数点を左に10桁移動しなさい という意味です

目田 育人

計算してみると えぇっと…

目田 育人

…

目田 育人

…

目田 育人

0.0000000001だ!確かに 1÷100億の結果だね

広伝 亜美

時間かかったね

芽萌里先生

それでは 今回は浮動小数点数について学んでいきましょう

Well done!

次のステップに進みましょう!

次のステップに進む

← 前のステップにもどる