수학/수치해석 (17) 썸네일형 리스트형 [수치해석 01] 근사값과 반올림 오차 유효숫자 신뢰를 가지고 사용할 수 있는 수치의 개수. 정확한 자릿수에 하나의 추정 자리 수를 더한 것. 측정 장치에서는 작은 눈금의 반을 나누어 추정 자리 수를 결정하는 것이 관례. Ex1) 만약 1의 자리까지 유효한 측정 장치에 대해 눈금이 20과 21 사이에 있다면, 20.5로 추정할 수 있다. Ex2) 과학적 표시법으로 나타내면, 7.94 * 10^4 는 3자리의 유효 숫자를 가진다. 정확도와 정밀도 정확도 (accuracy) 계산 또는 측정에 의한 값이 얼마나 참값에 가까운 정도 Ex) 양궁에서 화살이 전체적으로 10점 부근에 분포하고 있는 경우 정확도가 높은 것이다. 정밀도 (precision) 계산 또는 측정한 값들이 서로 얼마나 가까운 정도 Ex) 사격시 탄착군이 특정 위치로 몰려있다면, 이.. 이전 1 2 3 다음