Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Qk = Span(Qk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Qk = Span(Qk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Qk = Span(Qk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Qk = Span(Qk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
Informally: If j¸i j > j¸p+1 j then
distance(xi ; Qk ) = O(j¸p+1=¸i jk )
Review: Subspace Iteration
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm at a Glance
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures
FEAST Algorithm at a Glance
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
heart of FEAST
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures
FEAST Algorithm at a Glance
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
1
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
heart of FEAST
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures
FEAST Algorithm at a Glance
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Informally: If j½(¸i )j > j½(¸p+1 )j then
distance(xi ; Qk ) = O(j½(¸p+1)=½(¸i)jk )
1
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
heart of FEAST
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures
FEAST Algorithm at a Glance
Matrix M, n-by-n
eigenvalues ¸, eigenvectors x
Informally: If j½(¸i )j > j½(¸p+1 )j then
distance(xi ; Qk ) = O(j½(¸p+1)=½(¸i)jk )
1
Subspace Iteration:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à M Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures the \big"
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
heart of FEAST
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
End Loop:
QTk MQk captures
1
1
1
1
1
1
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop:
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop:
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop:
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop:
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop:
FEAST Algorithm:
Random Q0 = [y1; y2; : : : ; yp], p ¿ n
Loop k = 1; 2; 3 : : :
Yk à ½(M) Qk¡1
Qk à orthonormalize(Yk )
A^ Ã QTk MQk
^ =W
^¤
^ for W
^ and ¤
^
Solve A^W
^
Qk à Qk ¢ W
End Loop: