liuxuew2002 发表于 2008-4-16 11:10:12

求助:win64和Win32位机器复数乘计算结果不同

对于复数:
*** temp1.r = 1.8827654421329498000e-002
*** temp1.i = -9.1857165098190308000e-003
*** temp2.r = 2.4477396110000882000e-008
*** temp2.i = 1.1942136168840989000e-008

64位下:
*** temp3.r = 5.7054905244768861000e-010
*** temp3.i = -1.3877787807814457000e-017
32位下:
*** temp3.r = 5.7054905244768861000e-010
*** temp3.i = -1.2984565095155195000e-017

也就是在涉及到两个相近数相减的时候,出问题。不知那位达人遇到过这个问题

Hurricane 发表于 2008-6-25 16:22:49

:lol 学习了

宠物多猫 发表于 2008-6-26 19:29:20

哦,看看

点击这里领养你的宠物!

现在注册送你三重大礼:

游戏币2008元,新手冲击包,限量超酷手镯.
http://www.duomao.com/webjsp/card/images/adv_pre_01.jpg
批发 北京批发
页: [1]
查看完整版本: 求助:win64和Win32位机器复数乘计算结果不同