vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
 Zippen wie die Profis!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Fortgeschrittene
Re: Tostring Nachkommastellen 
Autor: Manfred X
Datum: 21.03.17 21:08
Bei MS SQL entspricht "Real" dem Datentyp Single,
d.h. maximal sieben gültige Ziffern sind zuverlässig verfügbar.
Etwaige weitere nachfolgende Ziffern entsprechen meist nicht mehr genau
dem übergebenen Gleitkomma-Wert.

Ob es sinnvoll ist, technisch bedingte "Überhangziffern", die bei der
Rückrechnung des Dezimalwertes aus der binären Zerlegung entstehen,
in einer Textbox oder einem Grid anzuzeigen (oder bei Berechnungen
einzubeziehen), würde ich bezweifeln.

Abgesehen von der durch den Datentyp vorgegebenen Grenzgenauigkeit
wären bei der Rundung folgende Gesichtspunkte einzubeziehen:

Zunächst ist zu klären, mit welcher Genauigkeit die Durchmesser
(und die anderen rechen-relevanten Größen) bestimmt worden sind.
Auf diese fehlerbehafteten Eingabewerte der Berechnungsformel(n) für die
Umfangsgeschwindigkeit ist das Fehlerfortpflanzungsgesetz anzuwenden.
Daraus ergibt sich die Genauigkeit der gespeicherten Resultat-Werte
= die Anzahl der zuverlässigen signifikanten Stellen (max. 7).
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Tostring Nachkommastellen3.078CAM-Andi21.03.17 16:12
Re: Tostring Nachkommastellen2.382sv0001021.03.17 18:49
Re: Tostring Nachkommastellen2.317Manfred X21.03.17 19:39
Re: Tostring Nachkommastellen2.276CAM-Andi21.03.17 19:44
Re: Tostring Nachkommastellen2.279CAM-Andi21.03.17 19:50
Re: Tostring Nachkommastellen2.497Manfred X21.03.17 20:00
Re: Tostring Nachkommastellen2.287CAM-Andi21.03.17 20:04
Re: Tostring Nachkommastellen2.316Manfred X21.03.17 20:21
Re: Tostring Nachkommastellen2.288CAM-Andi21.03.17 20:32
Re: Tostring Nachkommastellen2.382Manfred X21.03.17 21:08
Re: Tostring Nachkommastellen2.308CAM-Andi21.03.17 21:22
Re: Tostring Nachkommastellen2.353Franki22.03.17 03:43
Re: Tostring Nachkommastellen2.243Manfred X22.03.17 08:16
Re: Tostring Nachkommastellen2.413Franki23.03.17 01:47
Re: Tostring Nachkommastellen2.293Manfred X23.03.17 12:54
Re: Tostring Nachkommastellen2.434CAM-Andi22.03.17 08:30
Re: Tostring Nachkommastellen2.526CAM-Andi22.03.17 09:17
Re: Tostring Nachkommastellen2.271Manfred X22.03.17 09:30
Re: Tostring Nachkommastellen2.309Kuno6022.03.17 17:09

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
  
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel