佐藤/精度
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
単語検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
//研究室限定
[[佐藤/学習]]
**IEEE 754 [#w2dbb77d]
符号部(1ビット)、仮数部(符号なし整数)、指数部(符号付き整数) で数値を表現する。&br;
符号部は0を正、1を負とする。 &br;
指数部は2を基数とし、単精度では127、倍精度では1023をバイアスした値で表す.
&br;
&br;
|型|サイズ|指数部|仮数部|値の範囲|
|float |32ビット|8ビット|24ビット|±3.40282347E+38 〜 ±1.40239846E-45|
|double |64ビット|11ビット|53ビット|±1.79769313486231570E+308 〜 ±4.94065645841246544E-324 |
**PGR [#v30c630c]
符号部(1ビット)、ゼロ判定部(1ビット)、仮数部(符号なし整数)、指数部(符号付き整数)で数値を表現する。&br;
精度は可変&br;
仮数部8ビット、指数部23ビットまで変更できる。
終了行:
//研究室限定
[[佐藤/学習]]
**IEEE 754 [#w2dbb77d]
符号部(1ビット)、仮数部(符号なし整数)、指数部(符号付き整数) で数値を表現する。&br;
符号部は0を正、1を負とする。 &br;
指数部は2を基数とし、単精度では127、倍精度では1023をバイアスした値で表す.
&br;
&br;
|型|サイズ|指数部|仮数部|値の範囲|
|float |32ビット|8ビット|24ビット|±3.40282347E+38 〜 ±1.40239846E-45|
|double |64ビット|11ビット|53ビット|±1.79769313486231570E+308 〜 ±4.94065645841246544E-324 |
**PGR [#v30c630c]
符号部(1ビット)、ゼロ判定部(1ビット)、仮数部(符号なし整数)、指数部(符号付き整数)で数値を表現する。&br;
精度は可変&br;
仮数部8ビット、指数部23ビットまで変更できる。
ページ名: