最終更新:2025-08-29 (金) 13:50:20 (104d)
浮動小数点数
Top / 浮動小数点数
精度
倍精度浮動小数点数
- double - 64bit
単精度浮動小数点数
- float - 32bit
半精度浮動小数点数
- 16bit
Linuxカーネル・Linux/カーネルモジュール
- 参考図書/Linuxデバイスドライバ 第3版
- カーネルコードでは浮動小数点数(実数)の計算ができません。実数計算を行うには、少なくとも一部のアーキテクチャではカーネル空間に出入りする際に、浮動小数点少数プロセッサの状態をセーブまたはリストアしなければなりません。でも、実際のところ、カーネルコードで実数計算を行う必要はありません。余分なオーバーヘッドには値打ちがありません。
C言語/C♯
メモ
LLM/パラメータ?
| 符号 | 指数部 | 仮数?部 | 有効桁数 | 範囲 | |
| float32? (fp32?) | 1 | 8 | 23 | 6～7 | |
| float16? (fp16?) | 1 | 5 | 10 | 3～4 | 10^−14 ～ 6.55*10^4 (65504) |
| bfloat16 (bf16?) | 1 | 8 | 7 | 3 | 10^−38 ～ 3*10^38 |
