Hallo phainomen,
das kann ich bei mir nicht nachvollziehen. Lass Dir doch mal mehr Nachkommastellen anzeigen. Wie bekommst Du den Wert in (tabelle2.A4)=1,13? Wenn das gerechnet wird, kommt die Ungenauigkeit vielleicht von da.
Mit ungerechneten Grüßen
Eddy
Ungenaues ergebnis in Calc
Moderator: Moderatoren
Re: Ungenaues ergebnis in Calc
Hallo
Mein Calc rechnet wie dein Taschenrechner - formatiere mal die Ausgangszellen auf mindestens 5 Kommastellen und schau dir die Werte an !
Mein Calc rechnet wie dein Taschenrechner - formatiere mal die Ausgangszellen auf mindestens 5 Kommastellen und schau dir die Werte an !
LO25.2… debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)
Re: Ungenaues ergebnis in Calc
Hallo
Was du da als Ungenauigkeit betitelst ist in Wirklichkeit die genauere Auswertung der Berechnung =Tabelle1.B2/Tabelle?.C2
Und das hättest auch selbst schon bemerkt wenn du (wie bereits von Eddi und mir vorgeschlagen) Tabelle2.A4 auf mehr Kommastellen formatiert hättest.
Wenn du aber trotzdem mit der ungenaueren gerundeten Anzeige rechnen möchtest, dann aktiviere die Option --->Extras-->Optionen-->OOocalc-->Berechnen--[x]Genauigkeit wie angezeigt
[Edit]wenn ich das mit genau 1,12667 und genau 12000,32 durchrechne komme ich auf: 135,204005344 und ich bin mir absolut sicher das dein Calc das gleiche Ergebnis liefert und dein Taschenrechner auch[Edit_Ende]
Was du da als Ungenauigkeit betitelst ist in Wirklichkeit die genauere Auswertung der Berechnung =Tabelle1.B2/Tabelle?.C2
Und das hättest auch selbst schon bemerkt wenn du (wie bereits von Eddi und mir vorgeschlagen) Tabelle2.A4 auf mehr Kommastellen formatiert hättest.
Wenn du aber trotzdem mit der ungenaueren gerundeten Anzeige rechnen möchtest, dann aktiviere die Option --->Extras-->Optionen-->OOocalc-->Berechnen--[x]Genauigkeit wie angezeigt
[Edit]wenn ich das mit genau 1,12667 und genau 12000,32 durchrechne komme ich auf: 135,204005344 und ich bin mir absolut sicher das dein Calc das gleiche Ergebnis liefert und dein Taschenrechner auch[Edit_Ende]
LO25.2… debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)
Re: Ungenaues ergebnis in Calc
Hallo
13,52/12 ergibt 1,12666666666667
mit diesem Wert weitergerechnet ergibt 135,203605333333 genau wie bei dir
Im Übrigen ist jedes Programm das mit einer binären Representation einer Dezimalzahl rechnet prinzipbedingt nicht 100%genau -
Die Ungenauigkeit bewegt sich aber weit unterhalb der Werte die du hier gerade diskutierst.
13,52/12 ergibt 1,12666666666667
mit diesem Wert weitergerechnet ergibt 135,203605333333 genau wie bei dir
Im Übrigen ist jedes Programm das mit einer binären Representation einer Dezimalzahl rechnet prinzipbedingt nicht 100%genau -
Die Ungenauigkeit bewegt sich aber weit unterhalb der Werte die du hier gerade diskutierst.
Zuletzt geändert von Karolus am Mi, 21.04.2010 15:58, insgesamt 1-mal geändert.
LO25.2… debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)
LO25.8… flatpak debian 13( trixie ) auf Raspberry5 8GB (ARM64)