Geodätisch Runden (auf die dritte gerade Nachkommastelle)

[Stephan]

Warum, weiss ich nicht

schreibe:

=REST(A1*10000;10)

in eine Zelle und formatiere als Zahl mit maximaler Stellengenauigkeit, dann steht als Ergebnis 4,99999999976717000000 da (wenn nicht unter Extras-Optionen, Genauigkeit wie angezeigt eingestellt ist), was in REST(A1*10000;10)=5 entsprechend FALSCH liefert.



Gruß
Stephan

[Eia]

Hi
Damit kann man die Abweichung sichtbar machen. Aber gibt es auch eine Erklärung dafür? Ich meine: warum da nicht 5 bei raus kommt?
mfG

[Stephan]

Aber gibt es auch eine Erklärung dafür? Ich meine: warum da nicht 5 bei raus kommt?

Im Detail kann ich das nicht beantworten, dazu müßtest Du im Quellcode nachsehen wie das Ganze implementiert ist.

In allgemeiner Antwort ist die Berechnung von REST() augenscheinlich so implementiert das es zu einem Rundungsfehler kommt, heißt also das der Algorithmus nicht ganz günstig ist und wahrscheinlich intern an eine Grenze der numerischen Genauigkeit stößt.

Da das Ganze aber Excel-Kompatibel ist halte ich es nicht für einen zwingenden Mangel insofern eine Verbesserung hin zum eigentlich richtigen Ergebnis eine Inkompatibilität zu Excel schaffen würde.



Gruß
Stephan

[Nippy2]

Mit der Gefahr, dass ich mich jetzt vor euch bis auf die Knochen blamiere ...
.o(Augen zu und durch) hier mein Hilfeansatz

Eine Zelle lässt sich doch mit beliebigen Nachkommastellen formatieren!

Wenn Du in Zelle A1 den Originalwert mit vier Nachkommastellen hast zbsp. 123,4567

Warum nimmst Du nicht eine zbsp A2 mit der Formel =A1

und Formatierst Dir soviele Nachkommastellen wie Du möchtest.

Das kaufmännische runden funktioniert, egal bei welcher Nachkommastelle auch immer ab 5 rauf, bis 5 runter.

Ohje, jetzt bin ich aber gespannt

Gerd ... eigentlich würd ich zu Dir gern was sagen... aber ich lass es und denk mir meinen Teil.