Keine Fehlermeldung bei der Quersummer zu großer Zahlen

[t31]

Ich habe am Wochenende aus Bequemlichkeit die Quersumme benutzt um die Koordinaten eines Caches zu berechnen (alle Zahlen summieren) - das war ein Fehler, der mir zwar auf Grund der kuriosen Koordinaten zwar auffiel nicht aber der Grund dafür.

Zuhause habe ich nun nochmal die Summe aller Zahlen gebildet und kam promt auf ein anderen Ergebnis. Der Grund dafür ist mir nun auch klar und eigentlich logisch - die Zahl war einfach zu groß. Das fatale dran, man bekommt keine Fehlermeldung.

Fett Ergebnis
q(a)
a

falsch
a=1234567890123456789
73
1234567890123457024

falsch
a=123456789012345678
81
123456789012345696

falsch
a=12345678901234567
74
12345678901234568

Richtig
a=1234567890123456
66
1234567890123456

 

[MiK]

Schau mal hier rein:
http://www.geoclub.de/viewtopic.php?f=40&t=24306

 

[t31]

Danke MiK, Problem bekannt und schon gelöst bevor ich darauf gestoßen bin, also als String eingeben.

 

[MiK]

Danke MiK, Problem bekannt und schon gelöst bevor ich darauf gestoßen bin, also als String eingeben.

Naja, eine Lösung ist bekannt. Trotzdem wäre wohl eine Warnung schön, wenn die verfügbare Genauigkeit überschritten wird.

 

[t31]

Zumindest sollte der umstand in der Dokumentation erwähnt werden, weil man ja doch dazu neigt die Zahl als Zahl und nicht als String einzugeben ... bzw. man nicht unbedingt dran denkt das die Anzahl der Ziffern durch den Wertebereich intern begrenzt ist.

Dumm ist das natürlich, wenn eine große Zahl erst durch eine Berechnung entsteht, dann wäre eine Fehlermeldung sehr wichtig.

 

[MiK]

Es geht dabei ja nicht nur um Quersummen (wobei es hier besonders auffällt). Die Genauigkeit ist ja generell begrenzt.