c# float 类型传入 sql server float 参数导致结果错误

时间:2021-08-29 19:29:36   收藏:0   阅读:11

今天编码发现 c# 传 float 1.03 到 SQL SERVER 2008 float 参数类型,用 SQL Server Profiler 查看,变成了 1.0299999713897705

以前以为有效数字位数超了,或者小数位数超出了最大表示范围才会出现,这次算是长见识了。

原因:SQL Server 的 float 类型对应 c# 的 double 类型, float 强转 double 类型是不行的,会造成数据丢失或结果错误

写个段c#代码验证:

void Main()
{
    float a = 1.03F;
    double b = a;
    b.Dump();
}

果然:

1.02999997138977

原文:https://www.cnblogs.com/nanfei/p/15199028.html

评论(0)
© 2014 bubuko.com 版权所有 - 联系我们:wmxa8@hotmail.com
打开技术之扣,分享程序人生!