presseonkel
Ehrenmitglied
- 29.045
field1987 schrieb:
hier auch
https://www.android-hilfe.de/forum/samsung-galaxy-s-i9000.95/taschenrechner-fehler.35231.html
hier auch
https://www.android-hilfe.de/forum/samsung-galaxy-s-i9000.95/taschenrechner-fehler.35231.html
A
Avok
Erfahrenes Mitglied
- 98
stefan-do schrieb:
Wie einen Beitrag über deinem erwähnt ist dies KEIN Fehler.
Folgendes kleine Java Programm zeigt das selbe Verhalten:
Code:
public class Numerik {
public static void main(String[] args) {
double a = 100;
double b = 99.9;
double r1 = a - b;
double r2 = 0.1;
System.out.println(r1 + " mit Bitrepräsentation: " + Long.toHexString(Double.doubleToLongBits(r1)));
System.out.println(r2 + " mit Bitrepräsentation: " + Long.toHexString(Double.doubleToLongBits(r2)));
}
}
Code:
0.09999999999999432 mit Bitrepräsentation: 3fb9999999999800
0.1 mit Bitrepräsentation: 3fb999999999999aDas Ganze liegt an den Gleitkommazahlen. Die CPU arbeitet im Binärsystem (sie kennt nur die Ziffern 1 und 0) und in diesem lassen sich manche Zahlen, welche im Dezimalsystem eine endliche Darstellung haben nicht exakt darstellen. So zB auch die 0,1 (in Binärdarstellung: 0,0001100110011...).
Dies führt dann dazu, dass "für uns" falsche Ergebnisse rauskommen.
Hier ein kleiner Beleg:
Gleitkommazahl
Und den Absatz drunter sollte jeder Programmierer sehr genau kennen.
Ich hoffe ich konnte das "Problem" klar darstellen.
PS: Ausserdem hat der Google Taschenrechner (des "puren" Android) das selbe Verhalten, also kein Grund wieder über LG zu schimpfen.
Zuletzt bearbeitet:
Viper350Z
Fortgeschrittenes Mitglied
- 13
Oder lasst mal 1 : 3 = 0,3333333333333333 x 3 = 
...sollte 1 sein
nun ja, gibt schlimmeres
...sollte 1 seinnun ja, gibt schlimmeres
Gesry
Ambitioniertes Mitglied
- 7
Also in CalcBuddy ist 10,2-10,1=0,1 und 1/3*3=1
F
Flix123
Dauergast
- 174
Bei mir sind 10,2-10,1 sogar 0,1.
Das mit den 0,999999999999999999 ist doch eigentlich egal, denn man weiß ja dass es 1 sein soll und zwischen 0,999999999999 und 1 gibt es eh keine Zahl.
Das mit den 0,999999999999999999 ist doch eigentlich egal, denn man weiß ja dass es 1 sein soll und zwischen 0,999999999999 und 1 gibt es eh keine Zahl.
StealthFX
Ambitioniertes Mitglied
- 16
ich habe das eben mal auf meinem LGOS ausprobiert... default rechner... stock rom: rechnet korrekt - also 10,2 - 10,1 = 0,1 und 100 - 99,9 = 0,1
scheint also kein generelles problem zu sein...
scheint also kein generelles problem zu sein...
19chaosnik
Stammgast
- 86
- Themenstarter
- #27
Kann schon sein. Welche FW haste denn drauf?
Flix123 schriebt ja auch, dass er keine Probleme hat. Er hat aber auch die (für Deutschland) inoffizielle v10d.
Flix123 schriebt ja auch, dass er keine Probleme hat. Er hat aber auch die (für Deutschland) inoffizielle v10d.
StealthFX
Ambitioniertes Mitglied
- 16
19chaosnik schrieb:
V10e (Stock Vodafone D).
Randall Flagg
Ehrenmitglied
- 10.508
Dieses "Feature " gibt's schon ewig, wie Presseonkel schon richtig bemerkt hat.
Sent from my GT-I9100 using Tapatalk
Sent from my GT-I9100 using Tapatalk
StealthFX
Ambitioniertes Mitglied
- 16
allerdings scheint ja immernoch nicht abschließend geklärt zu sein, woran es nun eigentlich liegt...
matterno
Fortgeschrittenes Mitglied
- 21
Bei CM7 tritt der Fehler auch auf...
aber naja... Gleitkommazahlen halt
aber naja... Gleitkommazahlen halt
UKSheep
Dauergast
- 569
Ich nutze auch RealCalc !!!
