Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: Berechnung ungenau
Autor: Manfred X
Datum: 30.05.25 16:13
Hallo! Du betrügst Dich nur selbst. Der IEEE-Datentyp Double hat eine bestimmte Genauigkeit (ca. 15 Stellen) - unabhängig von der Position des Gleitkommas. Dim dbl As Double = CDbl(1719000310) / CDbl(86400) '19895.836921296297 Dim dbl2 As Double = dbl * CDbl(86400) Eine noch wesentlich höhere Genauigkeit bei Grundrechenarten bietet der Datentyp DECIMAL. Beachte die internen Konvertierungsfunktionen zwischen numerischen Datentypen und nutze ggf. explizite Konvertierung. Ebenso die Arbeitsweise der impliziten Deklaration. Besser: Option Strict On

Berechnung ungenau	676	Gerold_69	21.06.24 22:55
Re: Berechnung ungenau	345	Kuno60	22.06.24 00:47
Re: Berechnung ungenau	418	Manfred X	22.06.24 12:55
Re: Berechnung ungenau	335	Gerold_69	22.06.24 16:05
Re: Berechnung ungenau	164	sv00010	29.05.25 09:05
Re: Berechnung ungenau	158	Manfred X	30.05.25 16:13

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen