4月26日（月）2コマ目

今日、やったこと

  • 確認テスト(N進数の小数=>10進数)
  • 10進数の小数をN進数へ基数変換

今日のホワイトボード

小数の各ケタの数は

例えば、10進数の小数の小数第1位のケタの数は0.1(10-1)がいくつあるかです。

小数第2位のケタの数は0.01(10-2)がいくつあるかです。

2進数の場合、小数第1位のケタの数は0.5(2-1)がいくつあるかです。

小数第2位のケタの数は0.25(2-2)がいくつあるかです。

図　小数の各ケタの数は


10進数0.25は0.1（小数第1位）が2こ、0.01（小数第2位）が5こあります。

こんな0.25に10を掛けると2.5になります。整数部の2はもともと小数第1位のケタの数です。

10進数なので、10を掛けるとケタが１つ大きくなるため、小数第1位のケタの数が整数部にケタ上がりするわけです。

2進数の場合も同じで、２を掛けるとケタが1つ大きくなるため、小数第1位のケタの数が整数部にケタ上がりするわけです。


10進数の小数を2進数へ

2を掛けて、整数部が基数変換後の各ケタの数へ

小数部にさらに２を掛ける（小数部が0になるまで）

図　10進数小数を2進数へ（小数第1位のケタは）

図　10進数小数を2進数へ（小数第2位のケタは）

10進数の小数を5進数へ

5を掛けて、整数部が基数変換後の各ケタの数へ

小数部にさらに5を掛ける（小数部が0になるまで）

結局

変換したい基数を掛けて、整数部が変換後のケタの数に、

小数部にはさらに基数を掛ける（小数部が0になるまで）


 

コメント

新しいコメントは書き込めません。

このブログの人気の投稿

5月19日（水）1コマ目

イメージ
今日、やったこと なんで2の補数で引き算ができるの？ 浮動小数点表現 今日のホワイトボード なんで２の補数で引き算ができるの？ 2進数において、2の補数は足すとケタ上がりする最小の数。 10進数3を4ビットの2進数にすると、0011。 この0011の2の補数は1101だが、 　１００００ - ００１１ で表すこともできる。 １００００は 　4ビットの最大値は　　　　　　１１１１ 　+1するとケタ上がりして、　１００００ から、4ビットからケタ上がりして5ビットになった最小の数。 その10000から0011(10進数での3）を引くことで、３の２の補数になる。 違う言い方をすると、0011(10進数の3)に2の補数10000-0011を足すと、10000になる。ケタ上がりして5ケタになっている。 4ビットの計算では、10000は下位4ビットの0000だけが計算対象になり、最上位ビットの1は捨てられる。 そのため、10000は足そうが、引こうが全く影響のない値。ここがポイント。 よって、５－３は 　＝５＋（ー３） 4ビットの2進数でこの計算をしてみると、 ５を2進数にすると0101、-3は1101（先ほどの10000 - 0011)。 計算式は 　0101 + (10000 - 0011) = 0101 + 10000 - 0011 になる。4ビットの計算なので+10000は結果に影響がないため、 　0101 - 0011 になる。0101は10進数にすると5、0011は3。 計算式を10進数に置き換えると 　5 - 3 になっている。負の値を絶対値の2の補数で表してもちゃんと元の計算をしていることになる。 図　2進数の2の補数、10進数の10の補数 図　2進数0011の2の補数は10000-0011 ...
続きを読む

4月22日（木）1コマ目

イメージ
今日、やったこと 10進数をN進数へ基数変換(Nは10より大)のテスト 2進数<=>8進数、16進数の基数変換 N進数の小数を10進数へ基数変換 今日のホワイトボード 2進数<=>8進数、16進数 くどいけど、 2進数の3ビット = 8進数の1ケタ 2進数の4ビット = 16進数の1ケタ です。 図　2進数<=>8進数、16進数へ基数変換 N進数の 小数 を10進数へ基数変換 基本的に整数の場合と一緒で 　 ケタの数 x ケタの重み　の総和 です。 ただ、 ケタの重みが小数のケタは-1乗、-2乗、・・ になります。  図　小数のケタの重み おまけ 整数部が0ではない場合、 整数部だけで10進数へ基数変換 小数部だけで10進数へ基数変換 最後に足し合わせる のほうが楽ちんな場合があります。 図　整数部と小数部は分けて基数変換、最後に足し合わせる あと、当然ですが帯分数を使ってもOK。 次回、N進数の小数を10進数へ基数変換のテストをします。 最近、テストが続いて申し訳ない。
続きを読む

6月23日（水）1コマ目

イメージ
今日、やったこと 誤差 今日のホワイトボード オーバーフロー C言語のchar型は1バイト、int型は4バイトのようにサイズが決まっている。 この サイズを超えるデータを代入すると、はみ出してしまいオーバーフローが発生する 。 図　オーバーフロー アンダーフロー C言語のfloat型やdouble型は浮動小数点形式でデータを扱っている。 割り算をすると、仮数部がどんどん小さくなっていき、最終的に0になる。 が、ゼロになる直前までは正しい値。さらに割り算をすると仮数部がゼロになる。これがアンダーフロー。 float型やdouble型のような浮動小数点形式でデータを扱うさい、扱うことができる最小値よりも小さい値になったときにアンダーフローが発生する 。さきほどのゼロはアンダーフローが発生した結果であって、正しい値ではない。 図　アンダーフロー 丸め誤差 C言語のfloat型やdouble型は浮動小数点形式でデータを扱っている。 float型の場合、仮数部は23ビット。よって、仮数部の小数点以下が23ケタを超える場合、23ケタに収めるために24ケタ目以下を切り捨てる必要がある。このとき、 24ケタ目を切り上げる 24ケタ目を切り下げる の２つの選択肢がある。この処理が 丸め処理 。 丸め処理を行うことで発生する誤差が丸め誤差 。 ちなみに、四捨五入も丸め処理の１つであり、四捨五入することで真値との誤差が発生する。この誤差も丸め誤差。 図　丸め誤差 ケタ落ち 有効桁数が少なくなることで、真値から誤差が発生する。この誤差がケタ落ち誤差。 ケタ落ちは近い値同士の引き算の際に発生する 。 情報落ち 計算をする際、２つの値の指数を合わせる。大きな値と小さな値の計算の場合、仮数の一部が切り取られてしまう。この誤差が情報落ち誤差。 大きさが極端に異なる値同士の計算をする際に発生する 。 予告 そのうちテストします。 基本情報にこの辺の問題がちょこちょこ出題されています。 確認しておいてください。
続きを読む