ICode9

精准搜索请尝试: 精确搜索
首页 > 编程语言> 文章详细

c#-.NET中的数值不一致

2019-11-21 02:08:36  阅读:139  来源: 互联网

标签:type-conversion numerical-stability slimdx c


我正在用C#构建类似CAD的应用程序.我将SlimDX用作图形引擎,对于数字运算部分,我构建了自定义库,这些库最终自然依赖于System.Math类.

现在,问题在于SlimDX库使用由float数据类型组成的结构,而Math类包含几个仅接受和返回双精度对象的方法,例如:Math.Ceiling和Math.Sin.因此,我发现自己不断地从浮动数据到两倍数据来回转换数据.

这似乎不正确.我并不是担心转换可能对性能造成的影响(也许应该吗?),而是与因转换而产生的数值不稳定性有关,这一点更加令人恐惧.

因此,我只是想知道您通常如何处理此类情况,因为我猜想这肯定不是一种罕见的情况.

解决方法:

如果这是我的应用程序,并且我担心完整性的损失,那么我将使用所需的数据类型重新创建适当的方法.

.Net是一个通用平台,试图解决大多数问题,但不能解决所有问题.尽管在短期内可能需要额外的工作,但是如果确实需要精度,那么投入的时间将是值得的.

标签:type-conversion,numerical-stability,slimdx,c
来源: https://codeday.me/bug/20191121/2048400.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有