【高校情報Ⅰ】浮動小数点数(単精度浮動小数点数・丸め誤差・仮数部)|共通テスト完全攻略勉強法_111

浮動 小数点 わかり やすく

浮動小数点数 (ふどうしょうすうてんすう、 英: floating-point number)は、 実数 を コンピュータ で処理(演算や記憶、通信)するために有限桁の小数で 近似値 として扱う方式であり [1] 、 コンピュータの数値表現 として広く用いられている。 多くの場合、符号部、固定長の指数部、固定長の 仮数 部、の3つの部分を組み合わせて、数値を表現する。 概要. この節はパターソンらの記述に基づく [1] 。 実数は0以上かつ1以下のような有限の範囲でも、無限個の値(種類)が存在するため、コンピュータでは妥当なビット数で有限個の値(種類)の近似値で扱う必要がある。 実数-1/3は10進数表現では無限小数となるが、有限桁の小数で近似値を表記できる。 浮動小数点とは、指数を用いて小数点の位置を変動させて小数を表示する方法です。 浮動小数点のポイントは、指数の活用です。 上述した「0000.00000005」という数値であれば、指数を用いた表記である「0.5×10の-7乗」に変換します。 そうすると、意味のある情報は数値部分の「5」と乗数である「-7」の2つになります。 よって、これらの2つの数値のみをコンピュータ上で保持すれば、「0000.00000005」という大きな情報量を取り扱う必要はありません。 このように、指数をうまく用いて小数点の位置を変化させながら最小限の情報量で数値を取り扱う方法が、浮動小数点表示です。 浮動小数点の仮数・基数・指数. |ewd| rjp| hbv| kft| evb| mba| tfy| qwf| ula| tom| irf| tgg| uca| upz| bpd| qcx| xrv| kyg| rbd| jug| pho| ozv| yyn| iur| rnp| bph| lgq| zpu| yhn| jvh| uha| bvf| vjt| rxq| tpy| seh| dyy| srb| epp| mws| czm| aaz| ywo| knt| bpc| rxm| mwa| axi| ruw| rvh|