floating point
-
[컴시설] IA32 :: FPU와 Memory의 정밀도 차이, 컴파일러마다 다른 rounding정책정리필요2 2007. 9. 22. 20:15
나는 이 간단한 소스코드가 무엇을 의미하는지 알아야한다. #include double recip(int denom) { return 1.0/(double) denom; } void do_nothing() {} void test1(int denom) { double r1, r2; int t1, t2; r1 = recip(denom); //double-precision r2 = recip(denom); //extended-precision t1 = r1 == r2; do_nothing(); t2 = r1 == r2; printf("test1 t1: r1 %f %c = r2 %f\n", r1, t1 ? '=' : '!', r2); printf("test1 t2: r1 %f %c = r2 %f\n", r1, t..