1 yuki002 2009/09/12 22:53
|
|
【ソフトウェア考】というカテゴリは趣味で書いています。
たまに誤記述もある可能性は否めません。
このセクションでは桁数を限られたレジスタというPC内部の演算機能で、
どうすればカバー範囲を超える桁数を扱えるかについての概要を書いています。
現在では一般の人が生活で使う範囲の数であれば問題なく扱えるのですが、
それも、こういう基礎があっての話なのです。
【CPUで扱える桁数は有限】これを忘れてしまうと大失敗する根拠ですね。 |
2 カッパ村の民 2009/09/12 22:01
|
|
こんばんは。
この記事を見て、思わず2進数を調べてしまいました。
ありがとうございます。
|
|