共感で繋がるSNS
GRAVITY(グラビティ) SNS

投稿

ASHiTAKA

ASHiTAKA

コンピュータって実は小数の計算が出来ないんです。Excelをお持ちの方はこんなことをしてみてください。
ーーA列にすぐ上のセルに0.1を足す数式を、B列には直接0.1、0.2、0.3と数字を、C列にはその2つが一致しているかを調べる関数を入力します。
あとは下方にコピーしていくと、60行目あたりで2つの数が,不一致になるんですーー
これは昔からで、我が家にある40年前のパソコンで同じようにやっても途中で誤差が発生します。こんなにコンピュータが進化しても0.1の足し算すら出来ないなんて、なんか面白いですよね。
#Excel #エクセル #パソコン #昭和レトロ #数学
GRAVITY10
GRAVITY241

コメント

コージ

コージ

1 GRAVITY

うお〜[泣き笑い] めっちゃ懐かし〜[大笑い] これってPC6001ですよね! 凄いな〜まだ動いてるんだな〜 感動だな〜[泣き笑い]

返信
Neil

Neil

1 GRAVITY

よもやのPC6001とは…当時はまだZ80A搭載でしたか…懐かしい^^;

返信
猫缶

猫缶

1 GRAVITY

え!? 6001、まだ稼働しているものが!?

返信
はるま

はるま

1 GRAVITY

高校の情報でやったところだ(浮動小数点数しか覚えてないけど

返信
みぃにゃん🐈‍⬛✰⋆。:゚

みぃにゃん🐈‍⬛✰⋆。:゚

1 GRAVITY

ちんぷんかんぷん(ⅹ_ⅹ)w

返信
もっと見る
話題の投稿をみつける
ばなな

ばなな

White Storyとかやってくれてもいいんですよ
GRAVITY
GRAVITY5
みャビ

みャビ

上下セットの服きたら上は骨格的にLじゃないと無理だけど下はウエストで見たらSかMじゃないと無理だし、でも脚の長さだったらLじゃないと無理
でもL履いたらウエストブカブカだから落ちる
GRAVITY
GRAVITY2
春雨す

春雨す

誰かがノリノリだったら切り抜きされてまとめられてそうだったのになぁ
GRAVITY
GRAVITY
ハル💡✨

ハル💡✨

冬用フトンをランドリーにかけて
その間に選挙へ
.   /| ̄ ̄ ∧∧
   /| ̄ ̄ ̄|..(・ω・`)
 /| ̄ ̄ ̄|....|φ ∪ )
| ̄ ̄ ̄|....|/ || ∪∪
|___|/||
||   ||  ∧∧
     (´・ω・)
     (  つロ _____
      ∪∪/ = = /|
       | ̄ ̄ ̄ ̄|  |
       | 投票箱 |  |

帰りにフトン回収して来ました
     \:/
    ‥‥○‥‥
⌒ヽ ⌒ヽ/:\

       パン
    ∧∧ パン…
   (*・ω・`)つ─◎
  /' ̄し' ̄し'\///
 ̄|  、_人_ / 彡◎  ̄
 |  _) ◎彡| | バン
 | ´`Y´  | |バン
  t_______t
___________
GRAVITY14
GRAVITY31
岡崎 大

岡崎 大

おはざき
たかしなら今隣にいるよ
GRAVITY
GRAVITY
まーし

まーし

ところで一回目でずれたんですけど
GRAVITY
GRAVITY5
肆

王馬くん誕生日おめでとう〜
GRAVITY
GRAVITY3
オカモ

オカモ

ワンダーランドにやべきょうすけさん来るのか…見に行きたかったな〜
GRAVITY
GRAVITY4
たけち

たけち

オフ会へ
タクシーGOアプリ使おうと思うけど呼べない時もある…
GRAVITY
GRAVITY6
みく

みく

ちゃんとBリーグから調査結果出してほしいね。
GRAVITY
GRAVITY5
もっとみる
関連検索ワード

コンピュータって実は小数の計算が出来ないんです。Excelをお持ちの方はこんなことをしてみてください。