Rechnen mit grösseren Ganzzahlen

Das Tabellenkalkulationsprogramm

Moderator: Moderatoren

Stephan
********
Beiträge: 12369
Registriert: Mi, 30.06.2004 19:36
Wohnort: nahe Berlin

Re: Rechnen mit grösseren Ganzzahlen

Beitrag von Stephan »

Wie kann Herr Nilson dieses Runden verhindern?
Indem Du per Makros oder benutzerdefinierter Funktion diese Rchnungen mittels Strings ausführtst. Für MS Excel solltest Du dafür Beispieldateien im Intrnet finden, die dann auch für OO Calc passen. Ob es zu diesem Thema exdplizite Dateien für Calc gibt weiß ich hingegen nicht.
Wie wird im Hintergrund von OO gerechnet wenn eine solche Zahl wie die angegebene in ihre Kubikzahl erhoben wird?
weiß ich nicht
Wo sind die Rechengrenzen überhaupt?
Die Rechengrenze auf welche Du hier stösst ist die numerische Genauigkeit bezüglich Ziffern. OO/LO können nur mit maximal 15 (so ich mich richtig erinnere) 'Ziffern-Stellen' Genauigkeit rechnen.


GRuß
Stephan
Helmut_S
*****
Beiträge: 224
Registriert: So, 29.10.2017 11:29

Re: Rechnen mit grösseren Ganzzahlen

Beitrag von Helmut_S »

Hallo Butler,
Wo sind die Rechengrenzen überhaupt?
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut
Dateianhänge
Genauigkeit_Calc.ods
(21.06 KiB) 39-mal heruntergeladen
MX-Linux 23 KDE, Linux Mint 21 Cinnamon
Hiker
******
Beiträge: 590
Registriert: Mo, 08.09.2014 21:34
Wohnort: Berlin

Re: Rechnen mit grösseren Ganzzahlen

Beitrag von Hiker »

Hallo,

ich verlinke Mal auf ein paar Grundlagen:
http://www.gnumeric.org/numerical-issues.html

Fazit: In Tabellenkalkulationen wir oft gerundet. Wer das vermeiden will muss externe Libraries für Programmiersprachen verwenden.
Ich erinnere mich an einen Artikel über String-basierte Rechenoperationen in der CT - ist aber verdammt lang her....

Mfg, Jörn
Libre Office 6.3.1 (Win 10 Pro) / Libre Office 6.0.7 (Win8.1 Pro, Win 7 Pro) / AOO (Win 7)
Stephan
********
Beiträge: 12369
Registriert: Mi, 30.06.2004 19:36
Wohnort: nahe Berlin

Re: Rechnen mit grösseren Ganzzahlen

Beitrag von Stephan »

Helmut_S hat geschrieben: Di, 22.09.2020 08:42 Hallo Butler,
Wo sind die Rechengrenzen überhaupt?
nach meiem Verständnis liegt die Rechengrenze von Calc bei 2^52, wie aus der Tabelle hervorgeht, kann Calc 2^52 von 2^52+1 unterscheiden, dagegen nicht mehr bei 2^53.
Vielleicht nützt diese Information dem Herrn Nilson.
Gruß Helmut
Unter der Überschrift "Ganzzahlen" ist das so, aber im Eigentlichen geht es hier um numerische GEnauigkeit und diese Grenze ist nicht von der Absolutgrösse einer Zahl abhängig, sondern auch Nachkommastellen zählen.

d.h. trotzdem Calc bei Ganzzahlen 2^52 genau rechnet, kommt Calc andererseits bei bereits z.B. 1,1111111111111111^2 ins Straucheln.


Gruß
Stephan
Antworten