계산과정에서 소수점오차..
admin
2019-09-05
예를들어 분수의 식이 엄청 길게 되어서 ----계산기 하나로 계산이 되어지지 않는식이라고해서-------
A괄호안에 여러가지 식이있고 마찬가지로 B괄호안에 여러가지식이있다고 가정하면
간단하게
(A) * ( B)
요렇게
A따로 계산하고
B따로 계산해서
마지막에 두개 곱하면 답이나오기는하는데
문제에 소숫점 몇재짜리까지 구해라라는 조건이 없으면
기본적으로 A에 대한 식을 구해도 소수 3째자리에서 반올림해서 둘째자리까지 구하잖아요
근데 예를들어서 A에 대한식의 값을 구하니 소수 2째자리까지 0이나오고 3쨰자리에서 숫자가 나오는
EX) 2.454xxxx * 10의-3승 이렇게
0.002454xxxx 이렇게 A식의 값이 주어지면
이값을 어떻게 사용하면 될까요?
소수몇째자리에서 반올림해야하며 몇째자리까지 사용해야하는건가요?
저는 그냥(A)식의 계산값을 2.454*10의-3승이렇게 임의적으로 사용하고 문제풀이하는데
정확한 방법이 있나요??