精度小技巧

Posted on 2010-08-20 16:25 王之昊 阅读(217) 评论(0)  编辑 收藏 引用 所属分类: 精度
1.在做多边形切割时，常常先加一个框，框不宜加的过大，比如eps=1e-8，那么框最大不要超过1e7，保证他们的精度之和能够保证在15位之内。这样可以防止在运算过程中出现舍入误差。

2 double的范围是 -1.7*10^(-308) ~ 1.7 * 10^308。超过此范围，可以通过储存他们的指数来保证精度。


只有注册用户登录后才能发表评论。
网站导航: 博客园   IT新闻   BlogJava   知识库   博问   管理


posts - 26, comments - 7, trackbacks - 0, articles - 17

Copyright © 王之昊