目田 育人
なぁ亜美 電卓をいじっていたら こんなのが出てきたんだ
情報活用編プラス
第2章「コミュニケーションと情報デザイン」
IP01-04
桁数の多い数と文字のデジタル表現
目田 育人
なぁ亜美 電卓をいじっていたら こんなのが出てきたんだ
広伝 亜美
えっ なにこれ?eって文字が入っているけど 16進数とも違うみたいね
何でこんな数が出たの?
目田 育人
どこまで小さい数字が表現できるかと思って 1÷100億の計算をさせてみたんだ
これ何かのメッセージか?
芽萌里先生
みなさんこんにちは
目田 育人
先生 こんにちは
広伝 亜美
こんにちは
目田 育人
先生 俺の電卓に変な数が表示されたんだ これって「エラー」ってことかな?
芽萌里先生
いいえ 違います
これは「浮動小数点表記法(ふどうしょうすうてんひょうきほう)」といいます
広伝 亜美
「浮動小数点表記法」なんだかややこしい名前ですね
芽萌里先生
コンピュータで記録できる数は「有限」なので 覚えさせる桁数にも限界があります
芽萌里先生
その中でも できるだけたくさんの桁数を覚えさせるために工夫された表現方法なんです
目田 育人
それじゃあ この「1e-10」ってどういう意味なんですか?
芽萌里先生
それは 「e」の前の数値の小数点を 「e」の右の数値の桁数移動しなさい という意味です
芽萌里先生
右の数値が+なら小数点は右へ -なら小数点は左へ動きます
つまり 1.0の小数点を左に10桁移動しなさい という意味です
目田 育人
計算してみると えぇっと…
目田 育人
…
目田 育人
…
目田 育人
0.0000000001だ!確かに 1÷100億の結果だね
広伝 亜美
時間かかったね
芽萌里先生
それでは 今回は浮動小数点数について学んでいきましょう