Seite 1 von 1
Re: Ungenaues ergebnis in Calc
Verfasst: Mi, 21.04.2010 14:42
von Eddy
Hallo phainomen,
das kann ich bei mir nicht nachvollziehen. Lass Dir doch mal mehr Nachkommastellen anzeigen. Wie bekommst Du den Wert in (tabelle2.A4)=1,13? Wenn das gerechnet wird, kommt die Ungenauigkeit vielleicht von da.
Mit ungerechneten Grüßen
Eddy
Re: Ungenaues ergebnis in Calc
Verfasst: Mi, 21.04.2010 14:44
von Karolus
Hallo
Mein Calc rechnet wie dein Taschenrechner - formatiere mal die Ausgangszellen auf mindestens 5 Kommastellen und schau dir die Werte an !
Re: Ungenaues ergebnis in Calc
Verfasst: Mi, 21.04.2010 15:11
von Karolus
Hallo
Was du da als Ungenauigkeit betitelst ist in Wirklichkeit die genauere Auswertung der Berechnung =Tabelle1.B2/Tabelle?.C2
Und das hättest auch selbst schon bemerkt wenn du (wie bereits von Eddi und mir vorgeschlagen) Tabelle2.A4 auf mehr Kommastellen formatiert hättest.
Wenn du aber trotzdem mit der ungenaueren gerundeten Anzeige rechnen möchtest, dann aktiviere die Option --->Extras-->Optionen-->OOocalc-->Berechnen--[x]Genauigkeit wie angezeigt
[Edit]wenn ich das mit genau 1,12667 und genau 12000,32 durchrechne komme ich auf: 135,204005344 und ich bin mir absolut sicher das dein Calc das gleiche Ergebnis liefert und dein Taschenrechner auch[Edit_Ende]
Re: Ungenaues ergebnis in Calc
Verfasst: Mi, 21.04.2010 15:52
von Karolus
Hallo
13,52/12 ergibt 1,12666666666667
mit diesem Wert weitergerechnet ergibt 135,203605333333 genau wie bei dir
Im Übrigen ist jedes Programm das mit einer binären Representation einer Dezimalzahl rechnet prinzipbedingt nicht 100%genau -
Die Ungenauigkeit bewegt sich aber weit unterhalb der Werte die du hier gerade diskutierst.