本稿、コンピュータの数値表現（コンピュータのすうちひょうげん）では、コンピュータにおけるデジタル方式による数値の表現方法について解説する。 コンピュータにおける数値表現、もう少し具体的に言うと、コンピュータのCPU内部のレジスタや演算装置での数値の表現や、プログラミング言語での数値の表現や、OSでの数値の表現について解説する。...

1970年代や1980年代頃まではコンピュータといえばアナログコンピューターも含めたが、1990年代や2000年頃には一般には、主に電子回路による、デジタル方式でかつプログラム内蔵方式のコンピュータを指す状況になっていた。（広義の）演算を高速かつ大量に行えるため多用途であり、数値計算、情報処理、データ...

この記事の項目名には以下のような表記揺れがあります。 パーソナルコンピュータ パーソナルコンピューター パーソナルコンピュータ（英: personal computer）は、個人によって占有されて使用されるコンピュータのことである。 略称はパソコン、またはPC（ピーシー）。ただし「PC」という略称は...

符号付数値表現（ふごうつきすうちひょうげん）の記事では、コンピュータシステムにおける数の表現（コンピュータの数値表現）において、負の範囲も含んで（正の数と負の数の記事も参照）数を表現する方法を解説する。 コンピュータで負の数を表す方法は、用途などにあわせいくつかある。ここでは、二進記数法を拡張して負の数...

コンピュータグラフィックス（英: computer graphics、略称: CG）は、コンピュータを用いて画像を生成する科学技術、及びその技術によって生成される画像のことである。 表現手段としてのCGは、鮮やかな色彩、編集の容易さ、非現実的な映像などを提供することができる。映画、アニメ、テレビコ...

http://hdl.handle.net/1721.1/11173  ウィキメディア・コモンズには、二進法に関連するカテゴリがあります。 位取り記数法 コンピュータの数値表現 2の冪 2進接頭辞 二進対数 二進指数え法 二進化十進表現 カウンタ (電子回路) グレイコード 除算 (デジタル)...

number）は、実数をコンピュータで処理（演算や記憶、通信）するために有限桁の小数で近似値として扱う方式であり、コンピュータの数値表現として広く用いられている。多くの場合、符号部、固定長の指数部、固定長の仮数部、の3つの部分を組み合わせて、数値を表現する。 この節はパターソンらの記述に基づく。 実数は0以上かつ1以下の...

オクターブ - 七音音階において音程を１単位とみなした場合。 ^ 大石, 彰『リフレッシュ数学 ―高校数学から大学数学へ―』オーム社、2012年。ISBN 9784274211652。  13頁, §1.1 例9. 五進法 十進法 十二進法 二十四進法 三十進法 六十進法 コンピュータの数値表現...

の開発を1930年代から1940年代にかけて行った人物であり、「デジタルコンピュータの父」と呼ばれることもある人物である。） コンピュータがデジタル方式だということは、コンピュータのCPU内（の核心部分。演算装置やレジスタ類）での数の表現...

10となる八は2の3乗なので、二進法の 3 桁を八進法の 1 桁で表現できた。初期のコンピュータでは1文字は6ビット、すなわち八進法 2 桁であり、ワード長も6の倍数であることが多かったため（IBM 7090の36ビット・CDC 6000の60ビット・PDP-8の12ビット・PDP-7の...

コンピューティング（英: computing） （古来の意味）「数えること」と「計算すること」であり、算術ないしは数学の計算を指した。 （現在の意味）上の意味に加えて、広義に、コンピュータを使う活動全般も指す。たとえば20世紀後半などでは主として、コンピュータによる数値計算や、より広くデータ処理 (data...

エクサスケールコンピュータ 計算科学 高性能数値演算 CAE 計算機工学 ベクトル化 並列化 並列処理 スーパーコンピュータ技術史 TOP500 グリッド・コンピューティング - SETI@homeやFolding@homeも広義のスーパーコンピュータと言える。 量子コンピューター...

なお20世紀後半になってデジタルコンピュータの使用が急速に増えるにつれ、計算機科学の専門家やコンピュータ・エンジニアなどを中心として二進法や十六進法の活用が非常に活発になった。二進法はデジタルコンピュータのCPUでの数表現と直結していたからである。ただ二進法は、その表記量が増えると「1010...

science、コンピューター・サイエンス）またはコンピュータ科学、CSとは、情報と計算の理論的基礎、及びそのコンピュータ上への実装と応用に関する研究分野である。コンピュータサイエンス（computer science）は「情報科学」や「情報工学」とも和訳される。コンピュータ科学には様々な分野がある。コンピュータ...

という数値であることを表すものである。 上記の数字列の先頭にマイナス符号「-」を付けることで負数を表現できる。 ここで {ai} は整数部の位の値を表し、{bi} 小数部の位の値を表す。位の値は 0 から F までの整数である。整数部と小数部の区切りの点は小数点と呼ばれる。あるいはより形式的に、和の記号を用いて次のように表せる：...

量子コンピュータ （りょうしコンピュータ、英: quantum computer）は量子力学の原理を計算に応用したコンピュータ。古典的なコンピュータで解くには複雑すぎる問題を、量子力学の法則を利用して解くコンピュータのこと。量子計算機とも。極微細な素粒子の世界で見られる状態である重ね合わせや量子もつ...

有限な素子から構成されているデジタルコンピューターは内部状態の数も有限であるので、無限の情報（無限の桁数）を持ちうる実数はただ1つですら一般には値を正確に表現することができない。また、数値をある決まった桁数で表す場合に、それらの数値に四則演算を行った結果は一般には同じ桁数のままでは正確に表わせない。そこで演算結果の数値を一定の...

3次元コンピュータグラフィックス（さんじげんコンピュータグラフィックス、英: three-dimensional computer graphics）は、コンピュータの演算によって3次元空間内の仮想的な立体物を2次元である平面上の情報に変換することで奥行き感（立体感）の...

記憶装置（きおくそうち）は、コンピュータの処理対象であるデータと処理内容のプログラムとを記憶させ参照と変更ができる装置。一部の記憶装置は変更できないものがある。 コンピュータは処理対象のデータをプログラムによる処理内容に応じて、自動的に制御し処理する。 処理対象のデータは、一定の規則で符号化された数値...

の詰将棋を解くプログラム」を発表している。 1968年、週刊朝日の企画で人間対コンピュータの詰将棋早解き競争が行われた。コンピュータは「H君」（HITAC5020を使用）。人間は各界の著名人で、初心者に近い人、学生名人、詰将棋作家など多彩だったものの、多くはアマの...

データ（英: data）は、個々の事実・数値、情報、統計、変数の項目である。より厳密には、データとは1人または複数の人や物や事象に関する定性的または定量的な値の集まりである。dataの単数形のデータム（英: datum）は、ある事実、情報、変数の単一の数値または非数値である。 「データ...

浮動小数点数を比較する際に負のゼロをどう扱うか John Walker. “Minus Zero”. UNIVAC Memories. 2005年10月17日閲覧。 — UNIVAC® 1100 ファミリにおける1の補数表現 整数 0 正の数と負の数 自然数 コンピュータの数値表現 符号付数値表現 補数 位取り記数法...

3次元の作業の場合でも、数値の精密さの必要がないコンピュータゲームや映画やアニメーションなどの制作関係の事柄については「3DCG」を参照 CAD自体はコンピュータを使用して設計や製図をするシステムであり、製図作業や図面作成が時間はかかるが正確に処理できること、編集が容易であること、データ化、ソフト間の...

コンピュータ数値制御（コンピュータすうちせいぎょ）またはCNC（英語: Computerized Numerical Control）は、機械工作において工具の移動量や移動速度などをコンピュータによって数値制御することである。同一の加工手順の繰り返しや、複雑な形状の加工を得意としており、今日では多くの工作機械で採用されている。...

のわからない数値の羅列だからである。しかし、（人間にとって比較的理解のしやすい）十進法の数字で書かれたアドレスを内部表現の二進法に変換する、といったプログラムならばEDSAC（1940年代末に登場した、イギリスのマシン）において既に存在していた。（つまり、この段階で、アセンブラのごく一部の機能に限れば、実現していたことになる）...

type）とは、コンピュータプログラミングにおいて実数を表すデータの型である。 デジタルコンピュータにおける「実数」は、数学における実数体の元ではなく、固定小数点数や浮動小数点数として表せる数を指す（コンピュータの数値表現も参照）。 前述のように実数は表現できないので、以下は全て、実数型ではなく、実数の近似を表現するデータ型である。...

計算機の歴史（けいさんきのれきし）の記事では、計算機（計算機械）やコンピュータの歴史について述べる。また、コンピュータは計算機械であるばかりでなく、同時に情報処理機械でもあるので、本項でも計算機械に限らずデータ処理機械にも触れる。あまり一般的な語ではないが「コンピューティング」の歴史だと捉えるとよいであろう。...

また、米国以外の国や地域で、それぞれに必要な文字を追加した文字集合や文字コードを作ったため、多数の文字集合や文字コードが乱立する結果となった。Unicodeはその問題を解消し、文字集合を統一するために生まれた。 現在ではキャラクタとデータの関係は抽象化されている。キャラクタは整数値（通常非負整数）で表現...

コンピュータの主要な構成要素のひとつで、コンピュータ内の他の装置・回路の制御やデータの演算などを行う装置。演算装置と制御装置を統合したもの。コンピュータにおける中心的な処理装置（プロセッサ）。 「CPU」の意味は、厳密に言うと、「プロセッサ」や「マイクロプロセッサ」とは意味が異なっており、範囲の違いがある。...

のコンピュータデバイスでは、ビットは通常、電圧や電流のパルス、またはフリップフロップ回路の電気状態によって表される。 正論理を使用するデバイスの場合、1の数字値（または「真」(True) の論理値）は、0の表現よりもより高い正の電圧で表される。実際の電圧は、部品の耐久性やノイズ耐性など、部品の...

の数の範囲に対して 1 だけ大きく、非対称になっている。そのため、最小値の補数を求めようとすると算術オーバーフローが生じる（汎整数拡張によって型が格上げされる場合は除く）。この性質は符号・絶対値表現や1の補数表現にはなく、符号・絶対値表現および1の補数表現での数値の範囲は −(2n−1...