SVD и PCA: сжатие и структура данных через собственные векторы

Большинство векторов после умножения на матрицу меняют и направление, и длину — их «крутит» и «тянет». Но у каждой матрицы есть особые векторы — собственные (eigenvectors) — которые только растягиваются или сжимаются, но не поворачиваются. Это «оси симметрии» матрицы. Число, на которое вектор растянулся, называется собственным значением (eigenvalue).