精度 (算術)

出典: フリー百科事典『ウィキペディア(Wikipedia)』
移動先: 案内検索

精度(せいど、precision)とは、数値を表現する細かさである。

概要[編集]

精度は、数値を表現する細かさであり、その数字の正確さとは(厳密には)異なる概念である(正確度と精度を参照)。ただし、機械加工などでは慣用的に、正確さに対して「精度」という言葉が使われている。

数値の表現する対象により、精度のとらえかたは異なる。物理や化学の数値ではいわゆる有効数字が重要であり、相対精度に相当する。金融などでは小数点位置を基準としてその下2桁というように扱うので、絶対精度に相当する。浮動小数点数の算術では、仮数部の長さにもとづき丸められる。金融計算では小数点位置を基準として丸められる(例えば、国際通貨の為替レートは一般に小数点以下2桁で丸められる)。

最初に、「正確さ」の意味で「精度」という語が使われている場合もあると述べたように、精度という語はしばしば乱用されている。「精度が」という言及がある場面で、正確さと精度(英語では accuracy と precision )の区別がついているか、絶対精度と相対精度の区別はついているか、を明解に説明できないようであれば、十分に注意したほうが良い。

ここで、例として十進数の値 12.345 を様々な精度で丸めるとどうなるかを示す。精度が不十分であれば、端数処理によってその精度に見合った桁数で数値が丸められる。下の表は最も一般的な四捨五入で丸めを行った場合を示している。

精度 有効桁数での丸め 小数点以下での丸め
5桁 12.345 12.34500
4桁 12.35 12.3450
3桁 12.4 12.345
2桁 12 12.35
1桁 1E+1 [* 1] 12.4
0桁 n/a 12
  1. ^ 1E+1 とは 1 × 10+1 を意味する。

絶対精度と相対精度[編集]

誤差の観点からは、「絶対誤差」と「相対誤差」という語もある。たとえば、1mの長さの棒と10mの長さの棒をそれぞれ量産しているとする。このときそのそれぞれの長さの誤差について、それぞれの「基準の長さから±10mm」といったように捉えるのであれば絶対誤差、「基準の長さの95%から105%の間」というように捉えるのであれば相対誤差である。どちらの誤差・どちらの精度で対象を扱うべきであるかはケースバイケースである。

誤差[編集]

関連項目[編集]

外部リンク[編集]