Dieses Forum nutzt Cookies
Dieses Forum verwendet Cookies, um deine Login-Informationen zu speichern, wenn du registriert bist, und deinen letzten Besuch, wenn du es nicht bist. Cookies sind kleine Textdokumente, die auf deinem Computer gespeichert werden. Die von diesem Forum gesetzten Cookies werden nur auf dieser Website verwendet und stellen kein Sicherheitsrisiko dar. Cookies aus diesem Forum speichern auch die spezifischen Themen, die du gelesen hast und wann du zum letzten Mal gelesen hast. Bitte bestätige, ob du diese Cookies akzeptierst oder ablehnst.

Ein Cookie wird in deinem Browser unabhängig von der Wahl gespeichert, um zu verhindern, dass dir diese Frage erneut gestellt wird. Du kannst deine Cookie-Einstellungen jederzeit über den Link in der Fußzeile ändern.

Nachkommastellen bei Berechnungen
#1
Hallo zusammen,

ich bin gerade dabei eine eigentlich relativ leichte Berechnung in Excel zu erstellen. Ich möchte den Unterschied zwischen zwei Temperaturen berechnen und diesen Wert dann auf 1 Nachkommastelle kürzen. Jetzt habe ich als Testwerte mal angenommen, dass die Solltemperatur 10,0 °C ist und die tatsächlich gemessene Temperatur bei 10,2 °C liegt. Das kann man ja auch wunderbar im Kopf rechnen - der Unterschied beträgt 0,2 °C. Kürzt man diesen Wert nach 1 Nachkommastelle ist das Ergebnis immer noch 0,2 °C. Der Wert der in meiner Berechnung angegeben wird ist allerding 0,1 °C.
Ich habe mir jetzt mal alle Zahlen mit 30 Nachkommastellen anzeigen lassen und siehe da, Excel errechnet als Differenz zwischen 10,000000000000000000000000000000 und 10,200000000000000000000000000000 einen Wert von -0,199999999999999000000000000000 aus. Wird dieser dann geschnitten erhalte ich als Ergebnis 0,1 °C.
Das ist aber doch eigentlich falsch, oder? Huh Vielleicht kann mir da jemand weiterhelfen... 

Vielen Dank und schöne Grüße
Juwe
Antworten Top
#2
Hola,

runde die Ergebnisse auf 1 Stelle hinter dem Komma.

Gruß,
steve1da
Antworten Top
#3
Hi,

das ist die typische Gleitkommazahlenproblematik.



Zitat:diesen Wert dann auf 1 Nachkommastelle kürzen.

nicht kürzen, runden!
Gruß

Edgar

Meine Antworten sind freiwillig und ohne Gewähr!
Über Rückmeldungen würde ich mich freuen.
Antworten Top
#4
Moin!
Google mal nach Fließkommaproblem!

Du darfst eine Nachkommastelle nicht abschneiden, sondern musst RUNDEN()

Gruß Ralf
Gib einem Mann einen Fisch und du ernährst ihn für einen Tag. 
Lehre einen Mann zu fischen und du ernährst ihn für sein Leben. (Konfuzius)
Antworten Top
#5
Vielen Dank schon mal für die Antworten!

Das Problem ist leider, dass ich die RUNDEN-Funktion nicht verwenden darf!
Ich arbeite in einem Labor und wir müssen unsere Geräte auf ihre Funktionalität prüfen. Für die Überprüfung gibt es ganz genaue Vorschriften und gesetzliche Vorgaben, die besagen, dass ich die Temperaturdifferenz mit einer Nachkommastelle angeben muss und dass diese gekürzt sein muss und nicht gerundet sein darf - wozu auch immer das gut sein mag... Da hat sich bestimmt ein schlauer Mensch was bei gedacht. Dodgy

LG
Juwe
Antworten Top
#6
Hallo,

dann runde auf 7 Stellen und kürze danach!

Im Übrigen:


Zitat:Ich habe mir jetzt mal alle Zahlen mit 30 Nachkommastellen anzeigen lassen


Das ist Quatsch. Excel arbeitet nur auf 16Stellen genau!
Ansonsten solltest Du vielleicht mal die Norm nennen, in der sowas steht!
Gruß

Edgar

Meine Antworten sind freiwillig und ohne Gewähr!
Über Rückmeldungen würde ich mich freuen.
Antworten Top
#7
Danke - so funktionierts jetzt !

Grüße
Juwe
Antworten Top


Gehe zu:


Benutzer, die gerade dieses Thema anschauen: 1 Gast/Gäste