Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: Rechenfehler?
Autor: DerBaer
Datum: 10.06.10 12:28
Ein Double ist nie genau das, was man reinschreibt. Das Problem liegt daran, dass du Dezimale Nachkommastellen nicht richtig in Binär darstellen kannst. Hier wird die umwandlung beschrieben: http://delphi.zsg-rottenburg.de/dezbin.html Da sieht man, dass 0,9 z.b. ein unendlich langer binärbruch ist, der natürlich gerudet werden muss. Dadurch entstehen sehr seltsame Effekte(Du musstnur mal etwas mehr 9-er anhängen, dann wid der Fehler noch größer) Als Lösung kannst du entweder immer mit "Zähler/Nenner"-typen arbeiten und selbst addition und so realisieren, oder du rundest ab der 10. Stelle oder so.

Rechenfehler?	1.139	Ne kölsche Jung	09.06.10 21:26
Re: Rechenfehler?	702	DerBaer	10.06.10 12:28
Re: Rechenfehler?	674	Ne kölsche Jung	12.06.10 10:23
Re: Rechenfehler?	647	DerBaer	12.06.10 16:50
Re: Rechenfehler?	693	Dirk	12.06.10 17:39
Re: Rechenfehler?	660	Ne kölsche Jung	16.06.10 19:37
Re: Rechenfehler?	817	sv00010	11.06.10 06:15

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen