标签：python decimal ieee-754 significant-digits

注意：这个问题大约是significant figures.这不是关于“小数点后的数字”或类似的问题.

编辑：这个问题不是Significant figures in the decimal module的重复.这两个问题是询问完全不同的问题.我想知道为什么函数about没有返回特定输入的期望值. Significant figures in the decimal module的答案都没有解决这个问题.

以下函数应该返回具有指定有效数字的float的字符串表示形式：

import decimal

def to_sigfigs(value, sigfigs):
    return str(decimal.Context(prec=sigfigs).create_decimal(value))

乍一看,它似乎工作：

print to_sigfigs(0.000003141592653589793, 5)
# 0.0000031416

print to_sigfigs(0.000001, 5)
# 0.0000010000

print to_sigfigs(3.141592653589793, 5)
# 3.1416

…但

print to_sigfigs(1.0, 5)
# 1

最后一个表达式的所需输出(IOW,即5的有效数字表示为1.0)是字符串’1.0000′.实际输出是字符串’1′.

我误解了什么,或者这是一个十进制的错误？

解决方法:

这是一个错误吗？我不知道,我认为文件不足以做出这样的决定.这当然是一个令人惊讶的结果.

可以用更多的逻辑来修复自己的功能.

def to_sigfigs(value, sigfigs):
    sign, digits, exponent = decimal.Context(prec=sigfigs).create_decimal(value).as_tuple()
    if len(digits) < sigfigs:
        missing = sigfigs - len(digits)
        digits = digits + (0,) * missing
        exponent -= missing
    return str(decimal.Decimal((sign, digits, exponent)))

标签：python,decimal,ieee-754,significant-digits
来源： https://codeday.me/bug/20190829/1761510.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。