/Edwin1118068 - Rundungseffekte bei Float-Zahlen und Oracle Datenbanken
Symptom
Beim Abspeichern und Wiederauslesen von Floatingpoint Zahlen (DDIC Typ FLTP) in Oracle Datenbanken kommt es zu Rundungsfehlern. Schreibt man z.B. die Floatingpoint Zahl '7.4636363636363640E+01' in die Datenbank und liest diesen hernach wieder aus, so erhält man den Wert '7.4636363636363598E+01'. Dieser hat sich also gegenüber dem ursprünglich eingegebenen Wert in den letzten 3 Stellen geändert.
Hallo Edwin,edwin hat geschrieben:HI,
so ein ähnilches Problem hatte ich auch mal (ist schon länger her) es lag an der DB. Bei Oracle gab es mal ein Problem in Verbindung mit SAP, beim Übertragen FLTP Felder DB <-> SAP wurde gerundet. Welche DB haben die Systeme A und B ?/Edwin1118068 - Rundungseffekte bei Float-Zahlen und Oracle Datenbanken
Symptom
Beim Abspeichern und Wiederauslesen von Floatingpoint Zahlen (DDIC Typ FLTP) in Oracle Datenbanken kommt es zu Rundungsfehlern. Schreibt man z.B. die Floatingpoint Zahl '7.4636363636363640E+01' in die Datenbank und liest diesen hernach wieder aus, so erhält man den Wert '7.4636363636363598E+01'. Dieser hat sich also gegenüber dem ursprünglich eingegebenen Wert in den letzten 3 Stellen geändert.
fr-g hat geschrieben:Was bekommst du denn angezeigt, wenn du die Datei statt mit Excel mit einem Editor, z.B. Notepad öffnest? Stimmen die Werte da?
Hallo,fr-g hat geschrieben:Was bekommst du denn angezeigt, wenn du die Datei statt mit Excel mit einem Editor, z.B. Notepad öffnest? Stimmen die Werte da?