大堀/研究/データ/PROGRAPE-型
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
単語検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
[[大堀/研究]]
//研究室限定
*PROGRAPE-型 [#ifed8d48]
**対数型 [#o2bd42f1]
-17bitの対数について
--対数のbit数は変更可能?
--NLOG : 対数のbit数用
--NMANLOG : 対数の仮数部bit数用
|NLOG|NMANLOG|
|17|8|
-PGRの対数
|>|>|>|17bit|
|1bit|1bit|7bit|8bit|
|Sign bit|Nonzero bit|Exponent bit|Mantissa bit|
**対数型 [#a5aba0ef]
**固定小数点型 [#o2bd42f1]
-32bitの固定小数について
--固定小数のbit数は変更可能
--NFIX : 固定小数点のbit数用
--NACC : アキュムレータで、足されるレジスタのbit数用
|NFIX|NACC|
|32|32|
-PGRの固定小数
|>|32bit|
|1bit|31bit|
|Sign bit|Integer bit|
**固定小数点型用究明データ [#j5d16673]
-0x00000001
x:40000000 zfix:1 z:BFxxxxx8
-0x00000002
x:40800000 zfix:2 z:BFxxxxx8
-0x00000003
x:40C00000 zfix:3 z:BFxxxxx8
-1.11
x:400E147A zfix:1 z:BFxxxxx8
-1.25
x:40200000 zfix:1 z:BFxxxxxC
-0xFFFFFFFF
x:FFFFFFFF zfix:80000000 z:BFxxxxx8
**浮動小数点型 [#j4cffcae]
-32bitの浮動小数について
--浮動小数のbit数は変更可能
|NFLO|NMAN|NEXP|
|32|23|7|
-PGRの浮動小数
|>|>|>| 32bit |
| 1 bit | 1 bit | 7 bit | 23 bit |
|sign bit|nonzero bit|exp data | mantissa data|
-sign bit : 負なら1, 正なら0
-nonzero bit : データが0以外なら1
-exp data : データの指数部
--IEEE型と違い、2^exp のexpをそのまま使用する(2進数)
-matissa data : データの仮数部
--IEEE型と同じく、1.●●●● x 2^exp の●の部分を使用(2進数)
**浮動小数点型究明用データ [#dcc8cdda]
-1.11
a:3FF1C28F5C28F5C3 _i_:3FF1C28F5C28F5C3
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:1C28F5C28F5C3 h_man2:E147A
hi:400E147Aa
-1.25
a:3FF4000000000000 _i_:3FF4000000000000
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:4000000000000 h_man2:200000
hi:40200000
-0xFFFFFFFF
a:41EFFFFFFFE00000 _i_:41EFFFFFFFE00000
h_sign:0 h_nonz:1
h_exp1:41E h_exp2:1F h_exp3:1F
h_man1:FFFFFFFE00000 h_man2:7FFFFF
hi:4FFFFFFF
-0x00000001
a:3FF0000000000000 _i_:3FF0000000000000
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:0 h_man2:0
hi:40000000
-0x00000002
a:4000000000000000 _i_:4000000000000000
h_sign:0 h_nonz:1
h_exp1:400 h_exp2:1 h_exp3:1
h_man1:0 h_man2:0
hi:40800000
-0x00000003
a:4008000000000000 _i_:4008000000000000
h_sign:0 h_nonz:1
h_exp1:400 h_exp2:1 h_exp3:1
h_man1:8000000000000 h_man2:400000
hi:40C00000
-0x00000005
a:4014000000000000 _i_:4014000000000000
h_sign:0 h_nonz:1
h_exp1:401 h_exp2:2 h_exp3:2
h_man1:4000000000000 h_man2:200000
hi:41200000
-0xEFFFFFFF
a:41EDFFFFFFE00000 _i_:41EDFFFFFFE00000
h_sign:0 h_nonz:1
h_exp1:41E h_exp2:1F h_exp3:1F
h_man1:DFFFFFFE00000 h_man2:6FFFFF
hi:4FEFFFFF
-0x7FFFFFFF
a:41DFFFFFFFC00000 _i_:41DFFFFFFFC00000
h_sign:0 h_nonz:1
h_exp1:41D h_exp2:1E h_exp3:1E
h_man1:FFFFFFFC00000 h_man2:7FFFFF
hi:4F7FFFFF
-0x3FFFFFFF
a:41CFFFFFFF800000 _i_:41CFFFFFFF800000
h_sign:0 h_nonz:1
h_exp1:41C h_exp2:1D h_exp3:1D
h_man1:FFFFFFF800000 h_man2:7FFFFF
hi:4EFFFFFF
-0x1FFFFFFF
a:41BFFFFFFF000000 _i_:41BFFFFFFF000000
h_sign:0 h_nonz:1
h_exp1:41B h_exp2:1C h_exp3:1C
h_man1:FFFFFFF000000 h_man2:7FFFFF
hi:4E7FFFFF
終了行:
[[大堀/研究]]
//研究室限定
*PROGRAPE-型 [#ifed8d48]
**対数型 [#o2bd42f1]
-17bitの対数について
--対数のbit数は変更可能?
--NLOG : 対数のbit数用
--NMANLOG : 対数の仮数部bit数用
|NLOG|NMANLOG|
|17|8|
-PGRの対数
|>|>|>|17bit|
|1bit|1bit|7bit|8bit|
|Sign bit|Nonzero bit|Exponent bit|Mantissa bit|
**対数型 [#a5aba0ef]
**固定小数点型 [#o2bd42f1]
-32bitの固定小数について
--固定小数のbit数は変更可能
--NFIX : 固定小数点のbit数用
--NACC : アキュムレータで、足されるレジスタのbit数用
|NFIX|NACC|
|32|32|
-PGRの固定小数
|>|32bit|
|1bit|31bit|
|Sign bit|Integer bit|
**固定小数点型用究明データ [#j5d16673]
-0x00000001
x:40000000 zfix:1 z:BFxxxxx8
-0x00000002
x:40800000 zfix:2 z:BFxxxxx8
-0x00000003
x:40C00000 zfix:3 z:BFxxxxx8
-1.11
x:400E147A zfix:1 z:BFxxxxx8
-1.25
x:40200000 zfix:1 z:BFxxxxxC
-0xFFFFFFFF
x:FFFFFFFF zfix:80000000 z:BFxxxxx8
**浮動小数点型 [#j4cffcae]
-32bitの浮動小数について
--浮動小数のbit数は変更可能
|NFLO|NMAN|NEXP|
|32|23|7|
-PGRの浮動小数
|>|>|>| 32bit |
| 1 bit | 1 bit | 7 bit | 23 bit |
|sign bit|nonzero bit|exp data | mantissa data|
-sign bit : 負なら1, 正なら0
-nonzero bit : データが0以外なら1
-exp data : データの指数部
--IEEE型と違い、2^exp のexpをそのまま使用する(2進数)
-matissa data : データの仮数部
--IEEE型と同じく、1.●●●● x 2^exp の●の部分を使用(2進数)
**浮動小数点型究明用データ [#dcc8cdda]
-1.11
a:3FF1C28F5C28F5C3 _i_:3FF1C28F5C28F5C3
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:1C28F5C28F5C3 h_man2:E147A
hi:400E147Aa
-1.25
a:3FF4000000000000 _i_:3FF4000000000000
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:4000000000000 h_man2:200000
hi:40200000
-0xFFFFFFFF
a:41EFFFFFFFE00000 _i_:41EFFFFFFFE00000
h_sign:0 h_nonz:1
h_exp1:41E h_exp2:1F h_exp3:1F
h_man1:FFFFFFFE00000 h_man2:7FFFFF
hi:4FFFFFFF
-0x00000001
a:3FF0000000000000 _i_:3FF0000000000000
h_sign:0 h_nonz:1
h_exp1:3FF h_exp2:0 h_exp3:0
h_man1:0 h_man2:0
hi:40000000
-0x00000002
a:4000000000000000 _i_:4000000000000000
h_sign:0 h_nonz:1
h_exp1:400 h_exp2:1 h_exp3:1
h_man1:0 h_man2:0
hi:40800000
-0x00000003
a:4008000000000000 _i_:4008000000000000
h_sign:0 h_nonz:1
h_exp1:400 h_exp2:1 h_exp3:1
h_man1:8000000000000 h_man2:400000
hi:40C00000
-0x00000005
a:4014000000000000 _i_:4014000000000000
h_sign:0 h_nonz:1
h_exp1:401 h_exp2:2 h_exp3:2
h_man1:4000000000000 h_man2:200000
hi:41200000
-0xEFFFFFFF
a:41EDFFFFFFE00000 _i_:41EDFFFFFFE00000
h_sign:0 h_nonz:1
h_exp1:41E h_exp2:1F h_exp3:1F
h_man1:DFFFFFFE00000 h_man2:6FFFFF
hi:4FEFFFFF
-0x7FFFFFFF
a:41DFFFFFFFC00000 _i_:41DFFFFFFFC00000
h_sign:0 h_nonz:1
h_exp1:41D h_exp2:1E h_exp3:1E
h_man1:FFFFFFFC00000 h_man2:7FFFFF
hi:4F7FFFFF
-0x3FFFFFFF
a:41CFFFFFFF800000 _i_:41CFFFFFFF800000
h_sign:0 h_nonz:1
h_exp1:41C h_exp2:1D h_exp3:1D
h_man1:FFFFFFF800000 h_man2:7FFFFF
hi:4EFFFFFF
-0x1FFFFFFF
a:41BFFFFFFF000000 _i_:41BFFFFFFF000000
h_sign:0 h_nonz:1
h_exp1:41B h_exp2:1C h_exp3:1C
h_man1:FFFFFFF000000 h_man2:7FFFFF
hi:4E7FFFFF
ページ名: