[정역학 요약정리] 1-4 수치 계산 (numerical calculation)

1단원. 일반 원리 (General principles)

1-4 수치 계산 (numerical calculation)

 

- 공학적인 계산과 관련된 주제들을 살펴볼 것임

o 차원의 균일성 

  - 수식의 항들은 같은 단위를 사용해야 함. 

o 유효숫자

  - 유효숫자는 숫자의 정확도를 결정함
  - 23400에서는 유효숫자가 몇개인지 알 수 없으므로 공학적 표기법을 사용함. 만약 다섯개 모두 유효숫자라면 $23.400 \times 10^3$ 으로 표기하고 세개만 유효숫자라면 $23.4 \times 10^3$으로 표기함
- 0.124에서 0은 유효숫자가 아님. 0.00123에서 유효숫자는 1,2,3 세개임. 0.00123은 $1.23 \times 10^{-3}$ 으로 표기할 수 있음.  

o 반올림

  - 마지막 자리가 5보다 크면 올리고, 5보다 작으면 버림
  - 세개의 유효숫자가 되도록 반올림하려고 한다면, 네번째 숫자를 반올림함. 
  - 마지막 자리가 5인 경우 그 앞자리가 짝수이면 올리지 않고, 홀수이면 올림. 75.25를 세개의 유효숫자가 되도록 반올림하면 75.2임. 

o 계산

  - 반올림은 계산이 끝난 뒤에 마지막에 함
  - 공학에서는 보통 세개의 유효숫자를 사용함.