最終更新:2014-01-27 (月) 14:10:56 (1781d)  

浮動小数点数 はてなブックマークを見る
Top / 浮動小数点数

コンピュータにおける実数近似値?の表現方式

精度

倍精度浮動小数点数

単精度浮動小数点数

半精度浮動小数点数

  • 16bit

LinuxカーネルLinux/カーネルモジュール

  • 参考図書/Linuxデバイスドライバ 第3版
  • カーネルコードでは浮動小数点数(実数)の計算ができません。実数計算を行うには、少なくとも一部のアーキテクチャではカーネル空間に出入りする際に、浮動小数点少数プロセッサの状態をセーブまたはリストアしなければなりません。でも、実際のところ、カーネルコードで実数計算を行う必要はありません。余分なオーバーヘッドには値打ちがありません。

参考

関連