Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: Double <> Double (bei Übergabe an Funktion)
Autor: Manfred X
Datum: 13.05.15 17:15
Hallo! Die numerischen Strukturen Double/Single arbeiten (weitgehend) nach den IEEE-Konventionen, lösen aber kein Ausnahmen bei einem numerischen Überlauf oder Division Durch Null aus, sondern geben Sonderwerte (Infinity, Nan) zurück. Diese Datentypen ermöglichen eine hohe Werte-Spannweite bei relativ geringer Bitbreite der Instanzen. Das funktioniert, weil nicht jeder theoretisch mögliche Wert auch eine korrespondierende Bit-Darstellung besitzt, sondern intern eine "Taktung" vorgenommen wird (durch Speicherung von Mantisse und Exponent) für einen benachbarten Wert. Diese "Nachbarschaftshilfe" ist die Ursache für die 15 Stellen Gesamt-Genauigkeit und die damit verbundene Abweichung des gespeicherten Wertes vom zugewiesenen/erwarteten Wert. Allerdings erklärt das nicht Deinen Befund, weil die Double-Genauigkeit höher ist. Arbeitest Du irgendwo vielleicht mit Single-Variablen und führst dabei Berechnungen durch ??? Exakte Darstellung von Gleitkommazahlen (ca. 28 Gesamt-Stellen Genauigkeit) bietet der (langsame) Typ "Decimal", für den aber im Framework nur die Grundrechenarten zur Verfügung stehen. Bei Double/Single-Variablen darfst Du nicht direkt auf Gleicheit abfragen, sondern mußt zunächst die absolute Differenz der zu vergleichenden Werte bilden und dann prüfen, ob diese Differenz kleiner ist als ein geeigneter Epsilon-Wert. Beitrag wurde zuletzt am 13.05.15 um 17:37:38 editiert.

Double <> Double (bei Übergabe an Funktion)	1.103	danieljena	13.05.15 13:28
Re: Double <> Double (bei Übergabe an Funktion)	721	Manfred X	13.05.15 17:15
Re: Double <> Double (bei Übergabe an Funktion)	666	danieljena	15.05.15 11:10
Re: Double <> Double (bei Übergabe an Funktion)	763	Manfred X	15.05.15 17:59

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen