如何解决Float64粒度:最长的行是多少?
IEEE定义了float64从-2.23e-308
到+1.8e+308
的范围。但是这个范围所暗示的粒度是什么?也就是说,从最小到最大可以做的非零增量的最大数量是多少?这等效于在这些点之间绘制最平坦(非零斜率)的线。该行包括多少个样本,增量大小是多少?
例如,某些数字系统“ alpha”的范围是-3到+3,“粒度”是1,表示这样的行是[-3,-2,-1,1,2,3]
。忽略任何内存注意事项;我们有一个十亿字节的RAM。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。