OSTKOORDINATE SPINNT

[MKW]

Wenn ich versuche, eine Ostkoordinate zwischen 6° 59,499 und 7° 0,001 zu erfassen, dann wird diese immer zu 7° 0,000.
Gleiches passiert mit der vom GPS gemessenen Koordinate. Ein anderes Programm funktioniert korrekt.
Verwendet wird r980 sowohl in der jar wie in der arm-Version.
Hat da jemand was an der Rundungsfunktion verschlimmbessert?

 

[Kalli]

Das scheint mit Rev. 950 reingekommen zu sein.
@Pfeffer: Irgendwie hast Du da zuviel gerundet.

 

[salzkammergut]

[DEV] @Kalli: Ich bin auch auf Rev 950 als Ursache gekommen. Es gibt aber auch noch Probleme bei den Sekunden, die noch viel weiter zurück reichen, die in Rev 950 nicht behandelt wurden.

Da die Funktion formatDouble aufrundet, muß man um die Grad zu bestimmen, zunächst die Minuten und die Sekunden berechnen.

Dazu ein Beispiel: Um bei 4° 59' 59.95" die Grad zu bestimmen, muß man zunächst die Sekunden errechnen. Wenn die nämlich aufgerundet werden (auf 60.0), müssen auch die Minuten inkrementiert werden und der Gradwert wird zu 5°.

Wenn man konsequent abrundet, kann man sich das sparen. Das hat aber den Nachteil, daß im CoordsScreen die Umwandlung zwischen den Formaten nicht verlustfrei funktioniert. Ich hab das mal getestet: So wird 4° 59' 59.9" (DMS) => 4° 59.998 (DMM) => 4° 59' 59.8" (DMS) => 4° 59.996 (DMM) usw. Die Werte werden mit jeder Umwandlung (ohne irgendwelche Eingaben) kleiner, also nicht unbedingt brauchbar. Das kann aber sicher mit etwas Aufwand umgangen werden.

Gruß
salzkammergut

 

[salzkammergut]

Ich habe jetzt einen Fix eingestellt (Rev 985), der die Probleme mit der Propagierung der Rundungsfehler von den Sekunden über die Minuten zu den Grad richtig lösen sollte. Bitte noch testen!

salzkammergut