.NET数值类型的精度

2016-01-29 13:24 3 1 收藏

.NET数值类型的精度,.NET数值类型的精度

【 tulaoshi.com - ASP.NET 】


float类型占32bit空间,只有7位精度,下面的程序
public class FloatPrecision
{
public static void Main()
{
Console.WriteLine((int)123456789F);
}
}
输出结果为123456792.
double占64bit空间,15~16位精度,下面的程序
public class DoublePrecision
{
public static void Main()
{
Console.WriteLine((long)123456789012345678D);
}
}
输出结果为123456789012345680
decimal占128bit空间,28位精度,MSDN中描述如下:
This type is useful for applications (such as accounting) where rounding errors must be avoided.

来源:http://www.tulaoshi.com/n/20160129/1490052.html

延伸阅读
代码: select * from table_a where id=p_id order by decode(函数,'asc',1,'desc',-1)*jsny;   控制试图的访问时间: 6. 代码: create view ... as select ... from where exists(select x from dual where sysdate=8:00am and sysdate=5:00pm) 妙用decode实现排...
标签: Web开发
原文: http://www.microsoft.com/china/msdn/library/webservices/asp.net/us0501ASPNETPerformance.mspx?mfr=true 适用于: AJAX(异步 JavaScript 和 XML) Microsoft AJAX.NET Microsoft ASP.NET 摘要: 了解如何将 AJAX(异步 JavaScript 和 XML)用于您的 Microsoft ASP.NET 应用程序,使其互动性更强、响应更及时。 下载本文的代码...
何谓精度:最多可以存储的十进制数字的总位数,包括小数点左边和右边的位数。该精度必须是从 1 到最大精度 38 之间的值。默认精度为 18。 小数位数:小数点右边可以存储的十进制数字的最大位数。小数位数必须是从 0 到 p 之间的值。仅在指定精度后才可以指定小数位数。默认的小数位数为 0;因此,0 = s = p。最大存储大小基于精度而变化。 在c...
.NET语言的选择 导 读:每个组织迁移到.NET将选择采用哪种.NET语言。微软提供了四种语言:C#, VB.NET, 可管理的C++和 JScript。本文简要的讨论了我们关于这些语言和哪种语言将被使用的看法。 -------------------------------------------------------------------------------- 翻译整理:51dotnet.com(高飞家族) 原文出处:http:...
标签: ASP
       在分布式应用程序中,不可避免地会经常使用到事务控制。事务有一个开头和一个结尾,它们指定了事务的边界,事务在其边界之内可以跨越进程和计算机。事务边界内的所有资源都参与同一个事务。要维护事务边界内资源间的一致性,事务必须具备 ACID 属性,即原子性、一致性、隔离性和持续性。  &nbs...

经验教程

727

收藏

86
微博分享 QQ分享 QQ空间 手机页面 收藏网站 回到头部