https://twitter.com/kinaba のログ (twilog の方が便利です。)
おきt | |
うわー馬鹿やった | |
1×1が来ると死亡とかそういうのはまっさきに気をつけろといつもいってるだろ>自分 | |
@finalfusion 正直なところ、はっかそん当日作りながら仕様を覚える体験学習…でいいかなーと思っているんですが、しかし、さすがにHelloWorldとFizzBuzzをそらで書けるレベルくらいにはなっておきたい… | |
なるほど> 「ほげほげを満たす最小のを返せっていう問題の定石通り、ほげほげを満たすのが存在するかっていうのを貪欲orDPでやって、満たすのが存在する状態を保ちつつ前から決めていく…」 | |
@nishio IntelのCPUだと途中計算が80bitで行われてる場合がありますが、それじゃないでしょうか>double | |
いや、やってみたけど変わらないな。sqrtがそっちに丸めてるだけかな | |
|double(4200000002)**2 - 4200000002**2|≒4 より |nextDown(double(4200000002))**2 - 4200000002**2|≒4000 の方がだいぶ大きい | |
メール書かないと→めんどくさい→現実逃避→メール書かないと、のループで1日が終わってしまった | |
うん、fesetround(FE_TOWARDZERO) したら 4200000001 になった。 | |
@nishio だと思います。4200000002の2乗 の方が (4200000002より1つ小さいdouble)の2乗 よりも 17640000016800000000 に近いので、デフォルトの丸めモードだとsqrtその他演算の結果は近い方に丸めるみたいでした | |
@nishio 微妙に自分の理解と違ったのでコメントしてみましたー。僕もこの辺まったくわからないので自信ないのですが | |
@nishio そう、だと思う、たぶん、おそらく |