부동 소수점 연산에서 반올림 오류를 수정하는 방법

기술 자료: 214118 - 이 문서가 적용되는 제품 보기.

모두 확대 | 모두 축소

현상

Microsoft Excel과 Microsoft Works에서 부동 소수점 숫자에 대해 여러 산술 연산을 수행하면 매우 작은 수만큼 잘못된 것으로 보이는 결과가 생성될 수 있습니다. 예를 들어, 다음 수식은

=1*(.5-.4-.1)

0 대신 -2.78E-17 또는 -0.0000000000000000278로 계산될 수 있습니다.

위로 가기 | 피드백 보내기

원인

이 문제는 Excel이나 Works의 문제나 제한이 아닙니다. 이 문제는 IEEE(Institute of Electrical and Electronics Engineers) 754 부동 소수점 표준에 따라 숫자가 이진 형식으로 저장되어야 하기 때문에 발생합니다.

위로 가기 | 피드백 보내기

해결 과정

방법 1

부동 소수점 연산에 대한 저장 부정확성의 영향을 최소화하려면 Round() 함수를 사용하여 계산에 필요한 소수 자릿수로 숫자를 반올림합니다. 예를 들어, 통화와 관련된 작업을 하는 경우 소수 셋째 자리에서 반올림할 수 있습니다.

=ROUND(1*(0.5-0.4-0.1),2)

방법 2

표시된 정밀도 옵션을 사용하여 부동 소수점 반올림 오류가 작업에 영향을 미치는 것을 대부분 방지할 수 있습니다. 이 옵션은 워크시트에 있는 각 숫자 값을 워크시트에 표시되는 정밀도로 만듭니다.

참고?표시된 정밀도 옵션을 사용하는 경우 시간이 흐름에 따라 데이터가 점점 부정확해질 수 있는 누적 계산 효과가 발생할 수 있습니다. 표시된 정밀도가 데이터의 정확성을 유지하는 것이 확실한 경우에만 이 옵션을 사용하십시오.

표시된 정밀도 옵션을 사용하려면 다음과 같이 하십시오.

도구 메뉴에서 옵션을 누릅니다.
계산 탭의 통합 문서 옵션에서 표시된 정밀도 확인란을 선택합니다.
확인을 누릅니다.

표시된 정밀도 옵션을 사용하는 경우 특정 표시 형식을 사용하여 숫자의 서식을 지정해야 합니다.

셀의 서식을 특정 숫자 정밀도로 지정하려면 다음과 같이 하십시오.

서식을 지정할 셀을 선택합니다.
서식 메뉴에서 셀을 누릅니다.
표시 형식 탭의 범주에서 숫자를 누릅니다.
소수 자릿수 상자에서 원하는 정밀도(소수 자릿수)를 선택합니다.
확인을 누릅니다.

위로 가기 | 피드백 보내기

추가 정보

IEEE 754 표준은 조작하기 쉬운 간단한 방법으로 부동 소수점 숫자를 저장하는 방법입니다. 이 표준은 부동 소수점 연산을 구현하는 Intel 보조 프로세서와 대부분의 PC 기반 프로그램에서 사용됩니다.

IEEE 754에서는 저장 요구 사항을 줄이고 모든 마이크로프로세서에서 사용할 수 있는 기본 제공 이진 산술 명령어를 통해 상대적으로 빠르게 데이터를 처리할 수 있도록 숫자를 이진 형식으로 저장하도록 규정합니다. 그러나 간단한 일부 비순환 10진수는 정확하게 저장할 수 없는 순환 이진수로 변환됩니다.

예를 들어, 숫자 1/10을 10진수로 표현하면 다음과 같이 간단한 소수가 됩니다.

그러나 0.1을 이진 형식으로 표현하면 순환 이진 소수가 됩니다.

.0001100011000111000111(계속)

유한한 공간에서는 이 숫자를 표현할 수 없습니다. 따라서 이 숫자는 저장할 때 약 -2.78E-17로 반올림됩니다.

주어진 결과를 얻기 위해 여러 산술 연산을 수행하는 경우 이러한 반올림 오류가 누적될 수 있습니다.

위로 가기 | 피드백 보내기

참조

자세한 내용은 Microsoft 기술 자료의 다음 문서를 참조하십시오.

78113

(http://support.microsoft.com/kb/78113/ )

Excel의 부동 소수점 연산에서 부정확한 결과가 나올 수 있다

Excel 2002 및 Excel 2003

계산의 정밀도를 변경하는 방법에 대한 자세한 내용은 도움말 메뉴에서 Microsoft Excel 도움말을 누르고 Office 길잡이나 도움말 마법사에서 수식 계산 시점과 방법 바꾸기를 입력한 다음 검색을 눌러 나타나는 항목을 참조하십시오.

Excel 2000

계산의 정밀도를 변경하는 방법에 대한 자세한 내용은 도움말 메뉴에서 Microsoft Excel 도움말을 누르고 Office 길잡이나 도움말 마법사에서 수식 계산 방법 바꾸기를 입력한 다음 찾기를 눌러 나타나는 항목을 참조하십시오.

Microsoft 제품 관련 기술 전문가들과 온라인으로 정보를 교환하시려면 Microsoft 뉴스 그룹
(http://support.microsoft.com/newsgroups/default.aspx)
에 참여하시기 바랍니다.

위로 가기 | 피드백 보내기