O algoritmo iterativo de Jacobi calcula cada linha (portanto, cada componente do novo palpite) independentemente .
E exatamente esse é o truque de mágica que está sendo realizado em uma GPU. Uma GPU pode fazer cálculos altamente paralelos .
No Algoritmo Gauss-Seidel (que geralmente converge muito mais rápido), por exemplo, cada linha depende do resultado do cálculo da linha anterior. Assim, tornando muito mal paralelizável e executar terrivelmente em uma GPU.