pwd-it:IT資格の勉強ブログ

IT系資格の勉強に役立つ情報などを共有していきたいと思います

2017-03-15から1日間の記事一覧

1.1.1.3.演算精度

1.1.1.3.演算精度 前回までで、コンピュータが数値をどのように管理しているのかを説明しました。今回は、それらの数値をどのようにコンピュータが演算するのかについて説明します。 演算の方法上、発生する誤差についても説明します。 重要用語 レジスタ シ…

スポンサードリンク