Seite 1 von 1

Seltsames Verhalten von Calc, Rundungsfehler

Verfasst: Di, 06.02.2018 03:10
von ChristianAC_
Guten Tag,

folgenden Thread viewtopic.php?f=2&t=68828 möchte ich noch
einmal aufgreifen, weil mich die Problematik doch mittlerweile selbst wieder eingeholt hat.
(Ironischerweise hatte ich Silvester noch den vorerst letzten Beitrag dazu verfasst). Es hat bei
mir mehr Fragen aufgeworfen als beantwortet.
Ich habe eine Konstante, die mit 1,36 definiert belegt ist (soviel kiloWatt ist
die veraltete Einheit PS). Ein Test ergab, dass die Zahl 1,36 sauber und ganz exakt vom Rechner
"getroffen" wird,ich habe es bis Zeile 2000 getestet,er rechnet immer mit dem exakten Wert & es
fließen keine Ungenauigkeiten hinein.
Nun habe ich ob dieser für mich etwas überraschenden Rechnung gedacht, der Rechner speichert die
Ziffern der zwei Nachkommastellen einzeln je in einem Halbbyte als sogenannte "Tetrade" (tetra =
vier, das kennen wir vom tetraPak) als binär OOII (3) und binär OIIO (die 6). In einem weiteren
Halbbyte mag die Information stecken "Zahl beendet",vielleicht das als binär IIII abgespeichert.
(ein sogen. Halbbyte bietet 16 Kombinationen, für die 10 Ziffern unseres dualen Zahlensystems
also ausreichend) Somit wäre der Rechner in der Lage, die Zahl exakt abzubilden.
Worauf ich hinaus will: Ich hatte gedacht,F3K Totals Hinweis ist der
entscheidende, denn es hat ja funktioniert im Thread in dem Beispiel. In jedem Fall ist diese
Option "Genauigkeit wie angezeigt" eine äußerst interessante Wahl zur Manipulation unserer Zahl,
die ich in meinem kleinen Kassenbuch verwendet habe.
Alles war wunderbar. Bis der Tag kam: Mir liegt jetzt (ebenfalls wie im 2017er-Thread mit netto
brutto zu tun) eine Tankstellenrechnung vor, in der die Beträge glatt abbrechen. Jedoch mir
macht Calc da Rundungsfehler rein!! Genauigkeit wie angezeigt habe ich getestet, und es war mit
und ohne Häkchen dort die genau gleiche ungerade Zahl mit ,99...
Vielleicht könnt Ihr das kurz nachvollziehen. In A1 121,00 EUR; in A2 =A1*0,19; in A3 =A1+A2
Nun, scheinbar hat die Tankstelle ein Finanz-Tool, was die Lösung bietet. Calc haben sie
vermutlich da nicht verwendet.

Muß es denn unbedingt ein Zusatz Finanz-Tool sein, oder werden wir nicht des
Problems auch mit Bordmitteln Herr?

Code: Alles auswählen

                  ____________________                          ____________________
1,36 ist binär: I,OIOIIIOOOOIOIOOOIIII      0,19 ist binär: O,OOIIOOOOIOIOOOIIIIOIOI

                                                               ____
Beispiel 10 Cent, das ist der zweithäufigste Perioden-Typ:  O,OOOII
Es gibt nur zwei Typen von Perioden: die mit 20 Stellen bei 1 Cent, 2 Cent,3,4,6,7,8,9,11,12
usw. .Dann gibt es eine weitere Periodenart, sie ist 4 Stellen lang und tritt bei allen 5 Cent-
Schritten auf; es sei denn, diese sind durch 25 teilbar, dann gibt es gar keine (Periode).
Wer es nicht weiß: die bitweise Ermittlung der Nachkommastellen erfolgt anhand von negativen
Zweierpotenzen mit Erhöhung immer um 1, ausgehend von 0,5 ; dann 0,25; 0,125 etc..

Ich muss doch, wenn ich immer dieselben 2 Typen von Perioden habe, das mathematische
Näherungsverfahren zur Anwendung bringen können. Ich müsste doch nur drei Byte an die
arithmetical-logical unit/ALU oder numerischen Co-Prozessor, wie auch immer, schicken. Sobald 30
mal hintereinander die 9 hinterm Komma auftaucht, würde gerundet werden. Wir geben ihm also den
Limes/Grenzwert der Centzahl mit, und nach 30 mal derselben Ziffer sagt er dann: O.K., volle
Stelle.
Macht ein Zusatz-Finanz-Tool auch nichts anderes als dieses (einzuschalten)?
Was soll man dann erst bei Degression oder den ganzen finanzmathematischen Formeln hier mit
teils sieben Parametern machen, wenn ich mich schon nicht auf Calc als Finanz-Tool verlassen
kann? Geld existiert real auf den Euro und Cent oder gar nicht.
Allerdings, die Gründer des Euro hatten mit immer 6 festen Stellen von der Landeswährung
umgerechnet. Die wussten sicher, warum.
einen Schaltknopf in den Optionen zu basteln, der Art "Finanzmathematik" ein/ausschalten, das
wäre vielleicht ein Task für die OpenOffice-Leute.

Weil 10 Cent für den Computer eine "ungeradere" Zahl ist als die 0,25, das muss man verstehen
(Exkurs: deshalb ist beim Programmieren auch ein Schleifenzähler von STEP 0.5 oder 0.25 dem
scheinbar auch geraden 0.1 vorzuziehen)

Ist Calc wirklich nicht für die Finanzmathematik geeignet? Ich kann und will es nicht glauben.
Der Hinweis hier auch auf einen Thread, der mich sehr bewegt hat...
viewtopic.php?f=16&t=65302


Denkt mal drüber nach; ich freue mich über Beiträge dazu; muß ja nicht sofort sein

Gruß, ChristianAC