VC初心者なのですが、今VCで電卓を作っているのですが、
桁について上手く考えることが出来ません。
たとえば、小数点のことも考えて、double型を使っているのですが、
入力桁数とかに制限を設けるべきなんでしょうか？
8桁×8桁以上だと誤差が出てしまうんです。どういう風に考えていいのか
全く分かりません。何かアドバイスいただけないでしょうか？
doubleの表現可能な桁数はだいたい10桁くらいですので、
それ以上の値では誤差が生じます。
これを超える桁数で計算をしたければ、
自分で計算ロジックを作成するか、
どこかから任意精度の計算ができるライブラリを探してくるしかないでしょう。
だと、すれば、入力桁に制限をつけるだけでよいのでしょうか？
7桁×7桁×7桁でも、誤差はでるんですよね？
ううん・・・・。
> だと、すれば、入力桁に制限をつけるだけでよいのでしょうか？
普通の電卓の場合、入力桁数を制限すると同時に、
桁あふれが発生すると[E]などと表示され、
クリアボタンを押さないとそれ以上計算できないようになりますね。
なるほど。
いろいろ勉強になりました。
ありがとうございました。
解決しました。
返信する
最新の投稿: お久しぶりです、いかがお過ごしでしょうか。 最新のメンバー: mtwain 最近の投稿 未読の投稿
