6月16日（水）1コマ目

今日、やったこと

  • 基数変換まとめのテスト
  • 誤差

今日のホワイトボード

コンピュータでの誤差

コンピュータには誤差なんて発生しないように思われがちですが、データ取り扱いの特徴から誤差が発生するケースがあります。

C言語のchar型、unsigned char型

char型、unsigned char型はともに1バイト。


〇char型

符号あり。負数は絶対値の２の補数として格納。

2進数10進数
1111 1111-128
0000 00000
0111 1111127


〇unsigned char型

符号なし。

2進数10進数
0000 00000
0111 1111127
1000 0000128
1111 1111255


unsigned char型の変数に初期値1を代入し、その後+1（インクリメント）を繰り返す。

図　変数valのインクリメントを繰り返すと

変数valのインクリメントを繰り返し、その値が255（2進数では1111 1111)になったあと、さらにインクリメントするとどうなるでしょうか？

ここで時間切れ。つづきは次回。


 

コメント

新しいコメントは書き込めません。

このブログの人気の投稿

5月19日（水）1コマ目

イメージ
今日、やったこと なんで2の補数で引き算ができるの？ 浮動小数点表現 今日のホワイトボード なんで２の補数で引き算ができるの？ 2進数において、2の補数は足すとケタ上がりする最小の数。 10進数3を4ビットの2進数にすると、0011。 この0011の2の補数は1101だが、 　１００００ - ００１１ で表すこともできる。 １００００は 　4ビットの最大値は　　　　　　１１１１ 　+1するとケタ上がりして、　１００００ から、4ビットからケタ上がりして5ビットになった最小の数。 その10000から0011(10進数での3）を引くことで、３の２の補数になる。 違う言い方をすると、0011(10進数の3)に2の補数10000-0011を足すと、10000になる。ケタ上がりして5ケタになっている。 4ビットの計算では、10000は下位4ビットの0000だけが計算対象になり、最上位ビットの1は捨てられる。 そのため、10000は足そうが、引こうが全く影響のない値。ここがポイント。 よって、５－３は 　＝５＋（ー３） 4ビットの2進数でこの計算をしてみると、 ５を2進数にすると0101、-3は1101（先ほどの10000 - 0011)。 計算式は 　0101 + (10000 - 0011) = 0101 + 10000 - 0011 になる。4ビットの計算なので+10000は結果に影響がないため、 　0101 - 0011 になる。0101は10進数にすると5、0011は3。 計算式を10進数に置き換えると 　5 - 3 になっている。負の値を絶対値の2の補数で表してもちゃんと元の計算をしていることになる。 図　2進数の2の補数、10進数の10の補数 図　2進数0011の2の補数は10000-0011 ...
続きを読む

4月22日（木）1コマ目

イメージ
今日、やったこと 10進数をN進数へ基数変換(Nは10より大)のテスト 2進数<=>8進数、16進数の基数変換 N進数の小数を10進数へ基数変換 今日のホワイトボード 2進数<=>8進数、16進数 くどいけど、 2進数の3ビット = 8進数の1ケタ 2進数の4ビット = 16進数の1ケタ です。 図　2進数<=>8進数、16進数へ基数変換 N進数の 小数 を10進数へ基数変換 基本的に整数の場合と一緒で 　 ケタの数 x ケタの重み　の総和 です。 ただ、 ケタの重みが小数のケタは-1乗、-2乗、・・ になります。  図　小数のケタの重み おまけ 整数部が0ではない場合、 整数部だけで10進数へ基数変換 小数部だけで10進数へ基数変換 最後に足し合わせる のほうが楽ちんな場合があります。 図　整数部と小数部は分けて基数変換、最後に足し合わせる あと、当然ですが帯分数を使ってもOK。 次回、N進数の小数を10進数へ基数変換のテストをします。 最近、テストが続いて申し訳ない。
続きを読む

6月23日（水）1コマ目

イメージ
今日、やったこと 誤差 今日のホワイトボード オーバーフロー C言語のchar型は1バイト、int型は4バイトのようにサイズが決まっている。 この サイズを超えるデータを代入すると、はみ出してしまいオーバーフローが発生する 。 図　オーバーフロー アンダーフロー C言語のfloat型やdouble型は浮動小数点形式でデータを扱っている。 割り算をすると、仮数部がどんどん小さくなっていき、最終的に0になる。 が、ゼロになる直前までは正しい値。さらに割り算をすると仮数部がゼロになる。これがアンダーフロー。 float型やdouble型のような浮動小数点形式でデータを扱うさい、扱うことができる最小値よりも小さい値になったときにアンダーフローが発生する 。さきほどのゼロはアンダーフローが発生した結果であって、正しい値ではない。 図　アンダーフロー 丸め誤差 C言語のfloat型やdouble型は浮動小数点形式でデータを扱っている。 float型の場合、仮数部は23ビット。よって、仮数部の小数点以下が23ケタを超える場合、23ケタに収めるために24ケタ目以下を切り捨てる必要がある。このとき、 24ケタ目を切り上げる 24ケタ目を切り下げる の２つの選択肢がある。この処理が 丸め処理 。 丸め処理を行うことで発生する誤差が丸め誤差 。 ちなみに、四捨五入も丸め処理の１つであり、四捨五入することで真値との誤差が発生する。この誤差も丸め誤差。 図　丸め誤差 ケタ落ち 有効桁数が少なくなることで、真値から誤差が発生する。この誤差がケタ落ち誤差。 ケタ落ちは近い値同士の引き算の際に発生する 。 情報落ち 計算をする際、２つの値の指数を合わせる。大きな値と小さな値の計算の場合、仮数の一部が切り取られてしまう。この誤差が情報落ち誤差。 大きさが極端に異なる値同士の計算をする際に発生する 。 予告 そのうちテストします。 基本情報にこの辺の問題がちょこちょこ出題されています。 確認しておいてください。
続きを読む