FC2ブログ

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

小数の誤差

小数計算結果から,ある値以上を取り出すために式を立てたが,上手くいかなかった.
このとき有効な方法は2つ.

1.有効桁数までを整数にして整数値として取り扱う.
 例, 有効桁数が2桁→x100をしてINT関数を使う.
 (セルA1に,値が入っているとき・・・)
 = INT(A1x100)
 ・A1が0以上:切り捨て
 ・A1が負の数:切り上げ

2.小数のまま有効桁数を明示して取り扱う.
 例, 有効桁数が2桁→ROUND関数にて有効桁数を明示する.
 (セルA1に,値が入っているとき・・・)
 四捨五入
  = ROUND(A1,2)
 切り下げ
  = ROUNDDOWN(A1,2)
 切り上げ
  = ROUNDUP(A1,2) 



切り捨て,四捨五入の用途に応じて使い分けが出来る.



プログラム経験のある方は,小数に誤差がつきものだとご存知かと…
(私はすっかり考えてませんでしたが:苦笑)

<参考>
日経PC21:小数計算で発生する誤差
スポンサーサイト

ある範囲の値のセルをカウントする

AからBの間の要素を持つセルを数えるには工夫がいる.
なぜなら,COUNTIF関数が,評価を一つしか持てないから.

例1:列Aに,1以上,5未満のセルを数える
 = COUNTIF(A:A,"<5")-COUNTIF(A:A,"<=1")
例2:列Aに,09/10/08 1時台のセルを数える
 = COUNTIF(A:A,"<09/10/08 02:00:00")-COUNTIF(A:A,"<09/10/08 01:00:00")

もちろん,他の方法もあると思う.
ある列に,評価結果だけを出して,その列でカウントするとか・・・
用途に応じてって所でしょう.
私は,ティックデータを解析したくて,例2を使いました.

当ブログとFXに関して

管理人&ブログ紹介

麻都りく

麻都りく(Riku Asato) -詳細-
MT4のEA作り,運用を目指す.
考えたこと,落とし穴など.
プログラムや表計算のメモ.
EA作りの参考になれば良いな♪

Twitter Button from twitbuttons.com


アクセス数&閲覧者数
 
カテゴリ
検索フォーム
カレンダー
08 | 2018/09 | 10
- - - - - - 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 - - - - - -
リンク
+MT4 EA などなど+
ヘパイストスの錬金ロボット!
とあるMetaTraderの備忘秘録

+経済指標トレード+
ブーボーのトレーディングキット
羊飼いのFX(外国為替)ブログ

+その他 FX 関連サイト+
月別アーカイブ
最新記事
最新コメント
最新トラックバック
ランキング
ブログ為替レート

ブログランキング・にほんブログ村へ
  +->にほんブログ村 為替ブログへ
  +->にほんブログ村 為替ブログ FX スキャルピング派へ
  +->にほんブログ村 為替ブログ FX デイトレ派へ
  +->にほんブログ村 為替ブログ FXの基礎知識へ

FXランキング
免責事項
当ブログは,管理人の考えや方針、提案などを記載していますが、閲覧者に対して外貨取引・その他の投資に関して、強要・推奨するものではありません。当ブログで得た情報を参考にしてただいても構いませんが、それに伴いおきた損害に関して、一切の責任は負いかねますので、ご了承ください。 投資活動は、ご自分の判断・責任で行っていただきますよう、重ねてよろしくお願い申し上げます。
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。