数学中国

 找回密码
 注册
搜索
热搜: 活动 交友 discuz
查看: 1415|回复: 0

为什么计算级循环进行加法运算会出现计算精度问题?

[复制链接]
发表于 2021-8-24 13:57 | 显示全部楼层 |阅读模式
如果是小数运算会出现精度问题比较好理解。假设\(\pi\) 存储在计算机中只能保留小数点后11位,那么计算\(\pi\) +\(\pi\)  肯定不能精确到小数点后12位就会出现误差。但是以下问题,应该如何理解?

0.000000000000000001+0.000000000000000001=0.000000000000000002
0.000000000000000001*1000000000000000000=1
但是如果for循环1000000000000000000-1次进行0.000000000000000001+0.000000000000000001运算 确无法得到1这个正确结果。出现不同程度的误差。循环次数越多,误差越大。
从0.000000000000000001+0.000000000000000001=0.000000000000000002来看,不存在数据存储误差造成的计算误差。那么for循环加法造成的误差是如何产生的呢?这种问题属于哪门学课?例如《深入理解计算机系统》这门课?还是其他课程?求指教。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|数学中国 ( 京ICP备05040119号 )

GMT+8, 2024-3-28 16:14 , Processed in 0.082032 second(s), 15 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表