Schritt 1: Wert von ´x´ berechnen

Gegeben ist ´x := 2^125 − sqrt(4^125 − 1)´

Wir formen ´4^125 = (2^2)^125 = 2^250´ um, also

´x = 2^125 − sqrt(2^250 − 1)´

Die Wurzel liegt extrem nahe bei ´sqrt(2^250) = 2^125´. Genauer:

´sqrt(2^250 − 1) = 2^125 sqrt(1 − 2^(−250))´

Mit der Näherung ´sqrt(1 − epsilon) ~~ 1 − epsilon/2´ für kleines ´epsilon = 2^(−250)´:

´sqrt(2^250 − 1) ~~ 2^125 (1 − 1/2 · 2^(−250)) = 2^125 − 2^(−126)´

Damit folgt

´x = 2^125 − (2^125 − 2^(−126)) = 2^(−126)´

genauer: ´x ~~ 2^(−126)´ (mit einem relativen Fehler der Ordnung ´2^(−250)´, also vernachlässigbar). Es gilt sehr präzise

´x ~~ 2^(−126)´

Schritt 2: IEEE-754-Darstellung (single precision, 32 bit)

Aufbau: ´1´ Vorzeichenbit, ´8´ Exponentenbits (Bias ´127´), ´23´ Mantissenbits.

Der Wert ´2^(−126)´ ist die kleinste positive normalisierte Zahl im single-Format.

• Vorzeichen: ´s = 0´
• Normalisierte Form: ´x = 1.000…0_2 · 2^(−126)´, also Mantissenfeld ´= 0´
• Exponent: ´e − 127 = −126 => e = 1´, also ´e = 00000001_2´

Bitmuster: ´0b00000000100000000000000000000000´

Hexadezimal: ´0x00800000´

Schritt 3: Obere Schranke für den Rundungsfehler

Die normalisierte Zahl ´tilde x´ hat Exponenten ´E = −126´. Der Abstand zweier benachbarter Maschinenzahlen in diesem Binade beträgt

´ulp = 2^(E − 23) = 2^(−126 − 23) = 2^(−149)´

Bei "round to nearest even" ist der absolute Fehler höchstens ein halbes ulp:

´Delta x = |x − tilde x| <= 1/2 · ulp = 1/2 · 2^(−149) = 2^(−150)´

Da der exakte Wert von ´x´ nur um ca. ´2^(−250)´ von ´2^(−126)´ abweicht — also weit unterhalb der Rundungsschranke — wird er ohnehin auf die exakt darstellbare Zahl ´2^(−126)´ gerundet, und die Schranke bleibt gültig:

´Delta x <= 2^(−150)´, d. h. ´z = −150´.