計算結果の有効桁数が7桁を超えるときには

計算結果の有効桁数が7桁を超えるときには

  • 該当プラットホーム:Win / Mac
  • 該当バージョン:3.0x、3.5x、3.6

例えば数式入力ウィンドウで csum(c0) を実行してこのようなダイアログが表示されたとします。

このとき、クリップボードに保持されているのは、この画面に表示されている桁数までです。そのため、これを新しいデータシートや、他のアプリケーションにペーストすると、7桁目以降の値が不定値になってしまいます。

KaleidaGraph のデータシート内に、7桁以上の有効数字桁数で計算結果を表示させるためには、次のようにします。

  1. [データ] メニューから [列の形式...] を選択し、計算結果を貼り込む先のセルが含まれる列の [データ形式] を [倍精度浮動小数点] にします。
  2. c0 の合計値を列 c1 の 0 行目に表示させるには、数式入力ウィンドウで cell(0,1)=csum(c0) を実行します。

※計算を実行してから列のデータ形式を変更しても、正しい答えは得られないことに注意してください。