Si consideri la seguente successione, dovuta a François Viète e basata sul metodo di Archimede per il calcolo di :
Vale:
Il calcolo della successione è caratterizzato da un errore che oltre una certa soglia cresce, a causa dell'influenza crescente delle sottrazioni necessarie.
Poichè per , si ottiene una sottrazione tra due termini e che si avvicinano sempre di più.
L'errore che ne deriva cresce esponenzialmente con :
È necessario rendere stabile la sottrazione :
Sostituendo, si ottiene una nuova successione algebricamente equivalente, ma scritta in modo stabile.
Una successione alternativa deriva dalla serie geometrica:
Essa converge a , e la sua successione di somme parziali è esprimibile come:
Da essa si può costruire una seconda successione con , convergente a :
L'algoritmo è stabile, ma non è utilizzato poichè converge molto lentamente.
In particolare, l'errore commesso rispetto a decade con un fattore : per ottenere, ad esempio, una precisione di , sono necessarie iterazioni.
Matteo Lisotto, Tobia Tesan - CC-BY 2.0