Mailing-List: contact users-de-help@openoffice.apache.org; run by ezmlm
Precedence: bulk
Reply-To: users-de@openoffice.apache.org
Message-ID: <n2m-g.n22rj7.39s.1@ID-4636.user.dfncis.de>
Subject: Re: Falschrechner
References: <5644A921.9020800@jrsch.de>
From: =?UTF-8?Q?Wolfgang_J=c3=a4th?= <jawo.ml.hamster@arcor.de>
Date: Thu, 12 Nov 2015 20:08:07 +0100
User-Agent: Mozilla/5.0 (Windows NT 10.0; WOW64; rv:38.0) Gecko/20100101
 Thunderbird/38.3.0
MIME-Version: 1.0
In-Reply-To: <5644A921.9020800@jrsch.de>
Content-Type: text/plain; charset=windows-1252
Content-Transfer-Encoding: 8bit
To: users-de@openoffice.apache.org

Am 12.11.2015 um 15:58 schrieb technik:
> 
> ich habe schon wieder so einen dummen Fehler, wo das Programm 
> anscheinend falsch rechnet.
> a+b-c=d aber dann ist d<>d; Abweichung 10E-13 aber f�r die �berpr�fung 
> ergibt das eben ein Falsch.
> 
> Kommt das bei Euch auch raus oder rechnet mein Rechner falsch?

Ja; nein. Das sind technisch bedingte Rundungsfehler.

> Gibt es keine M�glichkeit solche Fehler zu vermeiden, wenn man 
> =(A7=48,55) rechnet?

| =(Runden(A7;2)=Runden(48,55;2))

(ggf. auch AB~/AUF~; wichtig ist, immer *beide* Vergleichswerte auch
*gleich* zu behandeln)

> W�re einfacher als =(A7-48,55)<0,001 

Dumm nur, wenn A7 < 48,549999 ist ...

> Ich wei�, dass es wohl ein Problem der Flie�kommarundung ist, aber 
> trotzdem ist da irgendetwas schief, wenn der Rundungsfehler von 10E-13 
> bei zwei Nachkommastellen nicht abgefangen wird.

*Du* denkst *dezimal*. Der *Rechner* denkt *bin�r* (und zwar immer mit
voller Genauigkeit). Aber nicht jeder dezimal endliche Wert ist erstens
auch *bin�r* als /endlicher/ Wert darstellbar (genauso wenig wie es im
dezimalen Zahlenraum solche Werte gibt, z. B. 1/3), und zweitens muss
bei Rechenoperationen manchmal die Genauigkeit beschnitten werden, so
dass auch die Verkn�pfung endlicher Werte manchmal einen nicht-endlichen
Wert ergeben kann.

Und bei der Subtraktion in A6 kommt halt nun mal 'nur' 48,5499999999993
raus.

Wolfgang
-- 

---------------------------------------------------------------------
To unsubscribe, e-mail: users-de-unsubscribe@openoffice.apache.org
For additional commands, e-mail: users-de-help@openoffice.apache.org