Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Arithmetischer Überlauffehler beim Konvertieren des Ausdrucks in den Datentyp in
Autor: Bringtnix
Datum: 25.04.12 20:42
Hallo, ich habe in meiner DB-Tabelle unter anderem zwei Spalten vom Typ int. In der ersten Spalte stehen Beträge in Cent (Umsatz) und in der zweiten Spalte Sekunden (Öffnungszeit). Nun möchte ich gerne den durchschnittlichen Umsatz pro Stunde/Tag/Woche/Monat/Jahr berechnen. Die Berechnung soll grundsätzlich erstmal so erfolgen: Stundenumsatz = Umsatz / (Öffnungszeit / 3600) Tagesumsatz = Umsatz / (Öffnungszeit / 86400) Wochenumsatz = Umsatz / (Öffnungszeit / 604800) Nun habe ich gemerkt, daß bei sehr großer Divisor-Konstante (z.B. 604800) der spätere Divisor (Ergebnis der Klammer) sehr klein wird und das Ergebnis erhebliche Rundungsdifferenzen aufweist. Daraus folgte dann diese Idee: Wochenumsatz = (Umsatz * 100) / (Öffnungszeit / 6048) Hier eine SQL-Anweisung für die Berechnung des Monatsumsatzes: SELECT DATEPART(year, colDatum), DATEPART(isowk, colDatum), (SUM(Einwurf) * 1000) / (SUM(Einschaltzeit) / 2592) FROM tabTabelle WHERE colDatum BETWEEN '05.04.2012 00:00:00' AND '24.04.2012 23:59:59' GROUP BY DATEPART(year, colDatum), DATEPART(isowk, colDatum) order by 1 asc, 2 Dabei passiert dann ein Laufzeitfehler: Arithmetischer Überlauffehler beim Konvertieren des Ausdrucks in den Datentyp int Dazu steht in MSDN: Ein arithmetischer Überlauf wird durch einen berechneten Spaltenwert verursacht, der die für die Spalte angegebene Größe überschreitet. Wenn dieser Fehler auftritt, wird die Berechnung beendet, und der verbleibende Teil des Ergebnisbereichs wird nicht ausgefüllt. Arithmetische Überläufe werden häufig von berechneten Spalten verursacht. Angenommen, die Spalten c1, c2 und c3 sind als INTEGER-Datentyp definiert. Und angenommen, c3 wird mit der Formel ([c1] * [c2]) berechnet. Wenn c1 und c2 große Werte (z. B. 9999) enthalten, kann die Berechnung von c3 die für INTEGER zulässige Grenze überschreiten. Die Größenbeschränkung der Datentypen wird von der Datenbankspezifikation bestimmt. So beheben Sie diesen Fehler: Überprüfen Sie für jede Spalte, deren Wert durch eine Formel berechnet wird, die Größe der Zielspalte. Erweitern Sie gegebenenfalls die Größe der Zielspalte, oder verringern Sie die für die Quellspalten der Formel zulässigen Werte. Ich kann mir einfach nicht vorstellen, daß ich die Spalten auf BigInt ändern muß. Das Ergebnis liegt letztlich in einem für int32 zulässigen Wertebereich. Kann man bei der Berechnung etwas konvertieren? Meine Versuche mit CAST waren nicht erfolgreich. Hat jemand eine Idee wie man das Problem vernünftig lösen kann? Carsten ------------ Alle Menschen sind klug. Die einen vorher, die anderen nachher. (Voltaire)

Arithmetischer Überlauffehler beim Konvertieren des Ausdruck...	1.749	Bringtnix	25.04.12 20:42
Re: Arithmetischer Überlauffehler beim Konvertieren des Ausd...	1.096	Manfred X	25.04.12 22:44
Re: Arithmetischer Überlauffehler beim Konvertieren des Ausd...	1.099	Bringtnix	25.04.12 23:27
Re: Arithmetischer Überlauffehler beim Konvertieren des Ausd...	1.074	Bringtnix	26.04.12 10:46

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen