有効数字


 137cmや30kg, 8.2秒など、物理ではさまざまな測定値を扱うことになる。物理でも数学でも数値を扱うことに変わりはないが、数学との大きな違いは、この測定値を主に扱うという点だ。今回は、この測定値の扱い方について詳しく見ていこう。

 

有効数字


 身長137cmという場合、これは測定値だ。そして、本当にぴったりその数値なのかというと、常識的に考えてそんなことはない。測定値は、真の値とは異なるのだ。ただし、まったく意味のない数値なのかというとそうではなく、真の値は、

  • 137±0.5cm

の範囲にあるだろうと予想できる。だから、測定値の1,3,7という数値はきちんと意味がある。この意味で、これらの数字を「有効数字」と呼ぶ。では137.0cmといった場合はどうだろう。このとき、真の値は

  • 137.0±0.05cm

の範囲にあると考えられる。最後の0にも意味があるというわけだ。このように、有効数字を扱う場合は、その桁数に注目して欲しい。

  • 137cm…有効数字3桁
  • 137.0cm…有効数字4桁

 ところで、測定値が140cmであるとき、これは有効数字が3桁(140±0.5cm)なのか、それとも2桁(140±5cm)なのか分からない。そこで、これを区別する方法として、次のように指数を使って表す方法がある。

  • 有効数字3桁…1.40×102 cm
  • 有効数字2桁…1.4×102 cm

上の数値では1.40に注目して、これを有効数字3桁であると判断する。下の数値では、1.4に注目して、これを有効数字2桁であると判断する。

 指数を使って□×10nのように数値を書く場合の注意は、□に当てはまる数値が、1≦□<10の範囲になくてはならないということ。だから、

  • 14.0×10cm
  • 0.14×103cm

などと書いてはいけない。

 

 指数による表記は、有効数字をはっきりさせることのほかに、大きな数値や小さな数値を表すことができるという利点がある。物理では宇宙のような大きなものから原子のような小さなものまで扱うので、ぜひこの書き方をマスターしよう。

 例えば、地球の直径は10000000m(有効数字1桁)だが、0が多すぎて分かりにくい。そこで、これを

  •  1×107m

のように表す。原子の大きさは0.0000000001m程度であるが、これも0が多すぎて分かりにくい。そこで、これを

  • 1×10-10m

のように表す。

 ちなみに、1よりも小さな数値の場合、はじめに続く0は有効数字の桁数に含めない。だから、

  • 0.23g…有効数字2桁
  • 0.000360m…有効数字3桁

となる。ただし、後ろの0は有効数字の桁数に含める

 

測定値の計算


 続いて有効数字を踏まえた計算方法を考える。長方形の面積を求めたいとき、例えば縦の長さの測定値が1.5cm、横が2.5cmであれば、その面積は、

1.5cm×2.5cm=3.75cm2

となる。ところが、元の測定値の有効数字が2桁であり、3桁目以降は信頼できないから、計算結果も3桁目以降は信頼できない。そこで、3桁目を四捨五入し、答えを

3.8cm2

有効数字2桁で表すのが適切である。

 

 縦1.5cm、横2.49cmの長方形の面積を求める場合、横は有効数字3桁なのでそこまで信頼できるが、縦は有効数字が2桁なので、3桁目以降は信頼できない。だから、計算結果も3桁目以降は信頼できないといえる。そそこで、計算結果の3桁目を四捨五入して、

1.5×2.49=3.735cm23.7cm2

とするのがよい。

 このように、有効数字の異なる測定値の掛け算やと割り算は、有効数字の小さな方に合わせて答えるのが適切である。

 

 次は円の面積を求めよう。円の面積は「半径×半径×円周率」で求めることができるが、半径の測定値が1.5cmだったとすれば、これは有効数字が2桁なので、計算結果も2桁とするのが適切と言える。ではこのとき、円周率の値は何桁使うのがよいのかというと、最終的に計算結果を四捨五入して2桁で答えることを考えれば、4桁以上使用する意味はない。そこで、測定値よりも1桁多い3桁までの数値を使用する。

1.5cm×1.5cm×3.14=7.065≒7.1cm2

 πや√2,√3などの定数は、測定値よりも1桁多く使うことが適切である。

 

 続いて身長差を計算しよう。157cmの姉と137cmの妹の身長差は、

157-137=20cm

となる。どちらも1cmの位まで測定された値どうしの計算だから、計算結果も1cmの位までは有効であると言える。

 では、157.2cmと137cmの比較だとどうか。この場合、

157.2-137=20.2cm

となるが、姉の身長は0.1cmの位まで信頼できる数値なのに対し、妹の身長は1cmの位までしか信頼できないから、計算結果の0.1の位は信頼できない数値であると考えられる。だから、0.1の位を四捨五入して、

20cm

ように、1cmの位までの数値で答えるようにしよう。

 測定値の足し算や引き算では、測定値の末位が高い方に合わせて答えるようにするのが適切である。