dingpong의 블로그

여행, 호텔, 항공, 게임, IT

부동소수의 정밀도 처리

부동소수의 정밀도 처리

void main(){uint32 Price = 0;uint32 Money = 999990000; Price = static_cast<uint32>(Money * 1.0f); Price = ???} //////////////////////////////////////////////////// Price 같은 경우 999990000 가 나와야 이 코드를 짠 사람이 생각하는 정답이겠지만 실제로는 그렇게 값이 나오지 않을 것입니다. 저 같은 경우에는 999990016 이란 값으로 계속 나오더라구요. DWORD rate = 1.0;Price = static_cast<uint32>(Money * rate); 이렇게 바꾸게 되면 제대로더 보기부동소수의 정밀도 처리[…]