初心者が学ぶ測量士補

初心者が学ぶ測量士補
  1. HOME > 測量計算の基礎 > 有効数字とは?測量計算で丸め方が重要な理由

有効数字とは?測量計算で丸め方が重要な理由

ソクタ

ソクタ

答えの「どの桁まで書けばいいか」で迷ったことはありませんか?有効数字の考え方と測量計算での使い方をここで整理します。

この記事の要点

有効数字とは何かを初心者向けに解説。測量計算での丸め方の重要性、有効数字と有効桁数の違い、丸めと切り捨ての区別を測量士補試験に向けて整理します。

有効数字とは測定値として意味のある桁数のことで、精度に合った桁数で結果を表現します。

ここでは桁数の数え方と計算中の丸め方の考え方を整理します。

有効数字とは、測定値や計算結果において意味のある(信頼できる)桁の数のことです。

測定の精度を超えた桁を表記してもその数値には意味がなく、逆に精度のある桁を省略すると情報が失われます。

たとえば「距離 = 123.45m」という5桁の数値は「有効数字5桁」です。

これは最後の桁(0.01m単位)まで意味があることを示します。

測量計算の基礎の記事一覧

ザックリ言うと、計算結果を何桁まで書くかのルールの話です。測量では「測れる精度以上に細かく書かない」という考え方が基本で、試験でも答えの桁数・単位の指定に注意が必要です。

有効数字の数え方

有効数字の桁数は「最初の0でない数字から最後の数字まで」を数えます。

例)0.0123 → 有効数字3桁(1・2・3)。

前の0はすべて位取りの0であり有効数字ではありません。

例)12300 → 有効数字の桁数は表記だけからは不明(1・2・3が有効か、後ろの0が含まれるかによる)。

科学的記数法(1.23 × 10⁴)で表すと3桁だとわかります。

例)1.230 → 有効数字4桁(末尾の0は意図的に書いたものとして有効)。

測量計算での丸め方が重要な理由

測量計算では計算途中に不必要に桁数を減らすと、丸め誤差が蓄積して最終結果がずれます。

作業規程の準則(下図)では、観測精度の区分が定められています。

作業規程の準則 水平角・鉛直角観測精度テーブル
出所:国土交通省「公共測量 作業規程の準則」p.22 水平角・鉛直角観測の精度区分(倍角差・観測差の許容範囲)

そのため「計算の途中は桁を多めに保ち、最終結果のみを要求精度に丸める」のが基本的な考え方です。

また問題文に「○mmまで求めよ」「○cmの精度で答えよ」という指示がある場合は、それに合った桁数で最終答えを表します。

有効数字と有効桁数・丸めの違い

関連する概念の違いをまとめます。

項目 有効数字 丸め
意味 意味のある桁の集合 指定桁以下を四捨五入等で処理
目的 測定精度を適切に表現する 計算結果を要求精度に合わせる
切り捨てとの違い 丸め=四捨五入、切り捨て=下の桁を無条件に0に
試験ポイント 桁数の意味を理解する 途中計算での丸め誤差に注意

丸めは「四捨五入」が基本ですが、問題の指示に従います。

切り捨てと混同しないよう注意しましょう。

試験で問われやすいポイント

有効数字の概念そのものをR2〜R6の測量計算の基礎 No.3 で直接問う出題は確認されていません。ただし計算問題では「最も近いものを選べ」という選択肢形式が多く、計算途中の丸め誤差が積み重なると正しい選択肢を外すことになります。

問題文に「○m単位で答えよ」などの精度指示が付く場合は、その桁数で最終答えを丸めることが求められます。計算途中は桁を多めに保つ習慣が大切です。

混同しやすい用語

有効数字 ↔ 有効桁数

有効数字は意味のある数字全体、有効桁数はその桁数(個数)です。

「有効数字3桁」という表現では有効桁数が3です。

ほぼ同じ意味で使われますが、文脈に注意しましょう。

丸め ↔ 切り捨て

丸め(四捨五入)は5以上なら切り上げ、4以下なら切り捨て。

切り捨ては無条件に下の桁を0にします。

測量計算では特に指示がない限り四捨五入を使います。

試験での問われ方|ソクタの一言

測量士補の計算問題では「答えをmmまで求めよ」など精度の指示が付くことがあります。

計算途中は精度を落とさず、最終答えを指示の桁で四捨五入する習慣をつけてください。

有効数字の桁の数え方(先頭の0は有効数字でない)も基本として押さえておきましょう。

一問一答

問題:0.00456という数値の有効数字は3桁である。

〇か×か。

答え:

先頭の0は位取りの0であり有効数字ではありません。4・5・6の3桁が有効数字です。

問題:測量計算では計算途中で積極的に丸めることで精度が向上する。

〇か×か。

答え:×

計算途中で丸めると丸め誤差が蓄積して最終結果がずれます。途中は桁を多めに保ち、最終結果のみを要求精度に丸めます。

問題:1.50という数値は有効数字3桁である。

〇か×か。

答え:

1・5・0の3桁が有効数字です。末尾の0は意図的に書いたもので有効な桁です。

まとめ

今回は有効数字について説明しました。

有効数字は測定値として意味のある桁の集合です。

測量計算では途中の丸め誤差蓄積を避け、最終結果を要求精度に合わせて表現することが重要です。

桁数の数え方と丸め・切り捨ての違いをしっかり整理しておきましょう。

測量計算の基礎の記事一覧

参考法令・規格

  • 測量法(昭和24年法律第188号)
  • 公共測量作業規程の準則(国土交通省)
初心者が学ぶ測量士補 編集部

この記事を書いた人

初心者が学ぶ測量士補 編集部

測量士補試験の用語・計算・法規を、国土地理院の公式情報と作業規程の準則に照らして整理しています。

Topへ >>

  1. HOME > 測量計算の基礎 > 有効数字とは?測量計算で丸め方が重要な理由