当数据范围在±131072(65536×2)以内的时候float数据精度是正确的,但是超出这个范围的数据就不稳定没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算decimal昰定点计算,会得到更精确的数据
m表示的是最大长度,d表示的显示的小数位数
例如上面的sql里:float(4,2) 表示:这个浮点数最大长度为5,也就是伍位然后小数部分为2位,至于存储范围取决于你是否定义了无符号。
无符号的话最小是0.0 最大能存储到99999.9,如果有符号的话范围是:-99999.9臸99999.9。
默认大小为24位数字精度大约7位数字(经测试为6位),当设置M大小大于24时自动转换为DOUBLE类型;同时设置M和D时不进行自动转换。
小数位超過设定值按四舍五入保存
小数位如果都是0,则不保存小数位
从上面的分析我们可以得出以下结论:
1、浮点数存在误差问题;
2、对货币等对精度敏感的数据,应该用定点数表示或存储;
3、编程中如果用到浮点数,要特别注意误差问题并尽量避免做浮点数比较;
4、要注意浮点数中一些特殊值的处理