Betriebssystem: LinuxMint 20 64Bit Cinnamon
LibreOffice: 7.0.4.2
Lang: en
CPU: Intel© Core™ i5-4690 CPU @ 3.50GHz × 4
Linux Kernel: 5.4.0-72-generic
Beispiel:
0,8648389700 – 0,8648007400 = 0,382328 (inkorrekt)
Der Fehler ist reproduzierbar mit allen Zahlen.
Mit f
Am 26.04.2021 um 20:17:12 schrieb Norbert Scheibner:
Glück Auf!
Das liegt an der begrenzten Genauigkeit. Siehe auch:
https://de.wikipedia.org/wiki/Gleitkommazahl
und:
https://de.wikipedia.org/wiki/IEEE_754
In Libreoffice wird wohl "IEEE 754 double" verwendet.
Deswegen immer möglichst die Rundu
Hallo namenloser user,
Die Aussage ist viel zu ungenau beschrieben. Wenn ich die Differenz
berechnen lasse, erhalte ich das Ergebnis in Exponentialdarstellung mit
den entsprechenden Ziffern wie angegeben, wenn ich aber die
Dezimaldarstellung wähle (ggf. ANzahl der gezeigten nachkommastellen
e
