Seite 2 von 2
Re: Geodätisch Runden (auf die dritte gerade Nachkommastelle)
Verfasst: Di, 17.07.2007 07:57
von Stephan
Warum, weiss ich nicht
schreibe:
=REST(A1*10000;10)
in eine Zelle und formatiere als Zahl mit maximaler Stellengenauigkeit, dann steht als Ergebnis 4,99999999976717000000 da (wenn nicht unter Extras-Optionen, Genauigkeit wie angezeigt eingestellt ist), was in REST(A1*10000;10)=5 entsprechend FALSCH liefert.
Gruß
Stephan
Re: Geodätisch Runden (auf die dritte gerade Nachkommastelle)
Verfasst: Di, 17.07.2007 12:18
von Eia
Hi
Damit kann man die Abweichung sichtbar machen. Aber gibt es auch eine Erklärung dafür? Ich meine: warum da nicht 5 bei raus kommt?
mfG
Re: Geodätisch Runden (auf die dritte gerade Nachkommastelle)
Verfasst: Di, 17.07.2007 18:22
von Stephan
Aber gibt es auch eine Erklärung dafür? Ich meine: warum da nicht 5 bei raus kommt?
Im Detail kann ich das nicht beantworten, dazu müßtest Du im Quellcode nachsehen wie das Ganze implementiert ist.
In allgemeiner Antwort ist die Berechnung von REST() augenscheinlich so implementiert das es zu einem Rundungsfehler kommt, heißt also das der Algorithmus nicht ganz günstig ist und wahrscheinlich intern an eine Grenze der numerischen Genauigkeit stößt.
Da das Ganze aber Excel-Kompatibel ist halte ich es nicht für einen zwingenden Mangel insofern eine Verbesserung hin zum eigentlich richtigen Ergebnis eine Inkompatibilität zu Excel schaffen würde.
Gruß
Stephan
Re: Geodätisch Runden (auf die dritte gerade Nachkommastelle)
Verfasst: Mi, 25.07.2007 11:57
von Nippy2
Mit der Gefahr, dass ich mich jetzt vor euch bis auf die Knochen blamiere ...
.o(Augen zu und durch) hier mein Hilfeansatz
Eine Zelle lässt sich doch mit beliebigen Nachkommastellen formatieren!
Wenn Du in Zelle A1 den Originalwert mit vier Nachkommastellen hast zbsp. 123,4567
Warum nimmst Du nicht eine zbsp A2 mit der Formel =A1
und Formatierst Dir soviele Nachkommastellen wie Du möchtest.
Das kaufmännische runden funktioniert, egal bei welcher Nachkommastelle auch immer ab 5 rauf, bis 5 runter.
Ohje, jetzt bin ich aber gespannt
Gerd ... eigentlich würd ich zu Dir gern was sagen... aber ich lass es und denk mir meinen Teil.