Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Datentyp Decimal: Minimierung des Skalierungsfaktors
Autor: Manfred X
Datum: 05.12.09 20:57
Hallo! Wie kann man für die interne Darstellung eines Wertes (Dezimalbruch) beim Datentyp "Decimal" ein eindeutiges Bitmuster erzwingen? Der einzige Weg, den ich gefunden habe, ist die Minimierung des Skalierungsfaktors durch eine Holzhammer-Methode: Public Sub ScaleMinimize(ByRef dec As Decimal) If dec <> Decimal.Truncate(dec) Then dec = Decimal.Parse(dec.ToString.TrimEnd("0"c)) End If End Sub Gibt es Alternativen? Tritt das Problem uneinheitlicher Darstellung nur beim Runden auf (VB-Doku) oder kann es auch nach arithmetischen Operationen dazu kommen? Gruß Manfred Beitrag wurde zuletzt am 05.12.09 um 21:02:17 editiert.

Datentyp Decimal: Minimierung des Skalierungsfaktors	1.380	Manfred X	05.12.09 20:57
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	982	Ralf Ehlert	05.12.09 21:35
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	928	Manfred X	05.12.09 21:42
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	905	Ralf Ehlert	06.12.09 00:06
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	989	Manfred X	06.12.09 10:49
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	886	Ralf Ehlert	06.12.09 11:14
Re: Datentyp Decimal: Minimierung des Skalierungsfaktors	931	Manfred X	06.12.09 11:21

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen