...
Code Block |
---|
c = (29/13)^2 c = 4.9763 |
d)
Code Block |
---|
c = cos(pi/2)/2 c = 3.0616e-17 |
...
Code Block |
---|
i = d/3 i = 1.0205e-17 |
cos(pi/2) = 0, men datamaskinen kan bare bruke endelig mange desimaler i sine utregninger, dermed oppstår det en avrundings feil.