double형 소수점 자리수1 2024.04.25 TIL - double형 소수점 자리수, ToString, int, 명시적 형변환 double형 변수의 소수점 자리수 문제43 // Math.Round()로 첫째 자리수까지 반올림 한 결과체력 86.1 -> 43.099999999999994double형을 쓰다보면 나누거나 곱할 때 소수점 자리수가 길어져서 귀찮은 일이 발생한다.그래서 `Math.Round(변수명, 1)`를 사용하여 첫째 자리수까지 반올림 한 결과를 `체력 감소 메소드`의 매개변수로 넘겨줬는데...보다시피 `43.099999999999994`로 저장됐다.. 분명 43을 넘겨줬는데?? (86.1 - 43 = 43.1) 문제는 `부동 소수점`의 정확도와 관련이 있다.컴퓨터는 실수를 이진법으로 표현하므로, 10진수로 표현되는 숫자 중 일부는 정확히 표현할 수 없다. 이로 인해 부동 소수점 연산에서 정확한 결과를 기대하기 어.. 스파르타 게임개발종합반(Unity)/TIL - 본캠프 매일 공부 기록 2024. 4. 25. 이전 1 다음 반응형