La soluzione delle equazioni di secondo grado è un problema ben condizionato, ma l'usuale formula può portare a perdita di precisione.
Si consideri l'equazione di secondo grado:
Esistono due possibili casi:
Nel primo caso al numeratore si presenta una sottrazione.
Se dovessero essere ,
,
tali che
allora (in termini relativi):
Allora
e a causa delle proprietà della sottrazione in macchina
si avrebbe perdita di precisione nel calcolo di
:
È però sufficiente manipolare algebricamente l' problematico per rimuovere l'operazione instabile:
Dunque
Matteo Lisotto, Tobia Tesan - CC-BY 2.0