┗
元スレッド
#68/5522
— 「危うしペンタ」
1994/11/29 20:10:54 · 夢中ゆわ · MAP2717
今朝の朝日を見ました。 とりあえずそっち方面のＮＥＴでは有名な話だそうですが。 インテルも大変ですね～ Ｐ６，Ｐ７の線表も影響有るのかしら？ インターネットな友達がガースナー氏のお詫びのニュースを見せてくれました(^^;) でも、交換しなくていいんでしょうか？ アブないなぁ… 最近９８２１Ｘシリーズを街で見掛けないのはそのせいかな？ デルの新発表も４８６マシンだけでしたね。 さて、これで一気に現存ペンタが値崩れして… 現存ペンタマシンも…
┗
参照
#68/5527
— 「Re: 危うしペンタ /5522」
1994/11/29 23:09:48 · ＲＹＵＫＵＮ · MAP2149
確かめ方の一例です（笑） Win 3.1のアクセサリの電卓の関数電卓機能を使って 1/824633702449*824633702449を計算します 答えは１のはずですが バグありペンタだと0.9999999962747となります 某ＮＥＴからの情報でした ＲＹＵＫＵＮでした
┗
返信元
#68/5678
— 「Re:*6 パソコン報道 (Re: 危うしペンタ) /5613 ....... /5527 /5522」
1994/12/10 22:58:03 · ｱｵﾀｶ · MAP4885
>> EPSONマシン NEC-DOS、MS VISUAL BASIC なんですけど >>D 10.8999996185303 10.8 >PC-9821As NEC-DOS5 MS-Win MS-VBでやってみたら、こんなん出ました～ > D 10.9 10.9 おお?!まさかＮＥＣの計算ルーチンはＡＩ搭載か？（笑） これなら丸め誤差も大丈夫‥‥ってＢＣＤの方が役に立ちそうだなぁ じゃなくて内部の計算方法がこっそり違っているだけでは？…
┗
現在
#68/5693
— 「Re:*7 パソコン報道 (Re: 危うしペンタ) /5678 ........ /5527 /5522」
1994/12/12 09:06:28 · Ｃ３ＫＯ · MAP5140
え～、ＢＡＳＩＣ上でのまるめ誤差の言い出しっぺのＣ３ＫＯですが ＞10 DEFSNG S '単精度 ＞20 DEFDBL D '倍精度 ＞30 DEFINT I '整数型 ＞40 S=10.9:D=10.9:I=10.9 ＞50 PRINT "S",S,INT(S*10)/10 ＞60 PRINT "D",D,INT(D*10)/10 ＞70 PRINT "I",I,INT(I*10)/10 ＞ ＞S 10.9 10.9 ＞D 10.8…
┣
返信先
#68/5706
— 「Re:*8 パソコン報道 (Re: 危うしペンタ) /5693 ........ /5527 /5522」
1994/12/13 20:55:32 · 夢中ゆわ · MAP2717
>もし、倍精度型に正しい結果を求めるのなら、代入する値も倍精度でなければ問題 そういえば、そういう話を聞いた事があります(^^;) すぅ～かり忘れてたな～ Ｎ－ＢＡＳＩＣ系は基本的に単精度ですね。Ｍ－ＢＡＳＩＣ系は知りません。 カシオのパソコン（ＦＰ）は、精度重視で結構感動した覚えがあります。 あの頃は、工業系の電卓の方が精度が良かったんですよね～ ＃ＭＡＰ２７１７ 夢中ゆわ
┗
返信先
#68/5713
— 「Re:*8 パソコン報道 (Re: 危うしペンタ) /5693 ........ /5527 /5522」
1994/12/14 02:42:48 · MSP-Iris · MAP4370
というかですね、このあたしの書き込みは、３人分の対比として見て欲しい です。つまり、 ＴＭＶさん 夢中さん あたし 単精度 10.9 |10.8 10.9|10.8 10.9 |10.9 倍精度 10.8999996185303|10.8 10.9|10.9 10.89999961853027|10.8 こういう結果が出て来たわけです。 そもそもの話は単精度と単精度との計算で単精度の結果があわない．．．と いうことでしたよね？ そこの点…