Lineer Cebir · 7. Ünite: İleri Konular (Simetrik Matrisler ve Kuadratik Formlar)
Tekil Değer Ayrışımı (SVD - Singular Value Decomposition) (Giriş)
Köşegenleştirme yalnızca yeterince özvektörü olan kare matrislerde çalışır; oysa gerçek veriler çoğu zaman dikdörtgen ve simetrik olmayan matrislerdir. Tekil değer ayrışımı (SVD) her gerçel matrisi $A = U\Sigma V^T$ biçiminde, yani "döndür – ölçekle – döndür" olarak yazar. Bu bölümde tekil değerleri $A^TA$ üzerinden hesaplamayı, ayrışımın geometrik anlamını, indirgenmiş SVD'yi ve düşük rank yaklaşım, sözde ters, görüntü sıkıştırma ve PCA uygulamalarını Strang ve Lay düzeyinde öğreneceksin.
Öğrenme hedefleri
- Bir $m\times n$ matrisin SVD teoremini ($A = U\Sigma V^T$; $U$, $V$ ortogonal, $\Sigma$ köşegen ve negatif olmayan) ifade eder ve $A^TA$ simetrik yarı pozitif tanımlı olduğu için tekil değerlerin neden gerçel ve $\ge 0$ olduğunu açıklar.
- $2\times 2$ ve $2\times 3$ bir matrisin tekil değerlerini $\sigma_i=\sqrt{\lambda_i(A^TA)}$ ile, $V$'yi $A^TA$ özvektörlerinden, $U$'yu $u_i = Av_i/\sigma_i$ ile hesaplar ve $A = U\Sigma V^T$ eşitliğini doğrular.
- SVD'yi geometrik olarak (birim çember ya da küre, $V^T$ ile döner, $\Sigma$ ile eksenlerde ölçeklenir, $U$ ile tekrar döner ve elips ya da elipsoit olur) yorumlar; $|\det A| = \prod\sigma_i$ ilişkisini kullanır.
- Tam SVD ile indirgenmiş (reduced) SVD'yi ayırt eder, matris boyutlarını yazar; $\operatorname{rank}(A)$, sıfır uzayı ve dört temel altuzayı tekil vektörlerden okur.
- $\|A\|_2 = \sigma_1$, $\|A\|_F = \sqrt{\sum\sigma_i^2}$ ve koşul sayısı $\sigma_1/\sigma_r$ değerlerini hesaplar; Eckart–Young teoremiyle rank-$k$ yaklaşımın hatasını bulur.
- SVD'yi sözde ters (pseudoinverse) ve en küçük norm çözümü, görüntü sıkıştırma (depolama $k(m+n+1)$) ve PCA (veri matrisinin SVD'si ile açıklanan varyans) problemlerine uygular.
Konu anlatımı
Bağlam: Her Matrisin Bir "Doğal Eksen Takımı" Var mı?
SVD Teoremi ve Nereden Geldiği
Tekil Değerleri, V ve U'yu Hesaplama
Geometrik Yorum: Döndür, Ölçekle, Döndür
Tam SVD, İndirgenmiş SVD, Rank ve Temel Altuzaylar
Çözümlü Örnekler
Normlar, Koşul Sayısı ve Düşük Rank Yaklaşım
Uygulamalar: Sözde Ters, Görüntü Sıkıştırma, PCA
Sık Yapılan Hatalar ve Kavram Yanılgıları
Özet ve Bağlantılar
Anahtar terimler
- Tekil değer ayrışımı (SVD)
- Her $m\times n$ gerçel matrisin $A=U\Sigma V^T$ biçiminde, $U$, $V$ ortogonal ve $\Sigma$ negatif olmayan köşegen olacak şekilde yazılması.
- Tekil değer (singular value)
- $\sigma_i=\sqrt{\lambda_i(A^TA)}\ge0$; $A$'nın $v_i$ yönünde uzatma çarpanı, $\sigma_i=\|Av_i\|$.
- Sağ tekil vektör
- $V$'nin sütunları $v_i$; $A^TA$'nın ortonormal özvektörleri. Satır uzayı ve sıfır uzayı için ortonormal baz verir.
- Sol tekil vektör
- $U$'nun sütunları $u_i$; $AA^T$'nin ortonormal özvektörleri, $u_i=Av_i/\sigma_i$. Sütun uzayı ve sol sıfır uzayı için ortonormal baz verir.
- İndirgenmiş SVD (reduced SVD)
- Yalnızca sıfırdan farklı $r$ tekil değeri tutan $A=U_r\Sigma_rV_r^T=\sum_{i=1}^r\sigma_iu_iv_i^T$ yazılışı.
- Spektral ve Frobenius normu
- $\|A\|_2=\sigma_1$ ve $\|A\|_F=\sqrt{\sigma_1^2+\dots+\sigma_r^2}$.
- Koşul sayısı (condition number)
- Kare tersinir matris için $\kappa(A)=\sigma_1/\sigma_n$; çözümün girdi hatasına duyarlılığı.
- Düşük rank yaklaşım (Eckart–Young)
- $A_k=\sum_{i\le k}\sigma_iu_iv_i^T$ rank en çok $k$ olan matrisler arasında $A$'ya normlarda en yakın olandır.
- Sözde ters (pseudoinverse)
- $A^+=V\Sigma^+U^T$; $x^+=A^+b$ en küçük kareler problemlerinin en küçük normlu çözümünü verir.
- Temel bileşen analizi (PCA)
- Merkezlenmiş veri matrisinin SVD'sinde $V$ sütunları temel eksenler, $\sigma_i^2/(n-1)$ eksen boyunca varyanstır.
Örnek soru
$A=\begin{pmatrix}3&0\\0&-4\end{pmatrix}$ matrisinin tekil değerleri (büyükten küçüğe) hangisidir?
- $3$ ve $-4$
- $9$ ve $16$
- $4$ ve $3$
- $12$ ve $0$
- $7$ ve $1$
Doğru cevap: C
Çözüm
Cevap: $4$ ve $3$
1. $A^TA=\begin{pmatrix}3&0\\0&-4\end{pmatrix}\begin{pmatrix}3&0\\0&-4\end{pmatrix}=\begin{pmatrix}9&0\\0&16\end{pmatrix}$.
2. Özdeğerleri $\lambda_1=16$, $\lambda_2=9$ olur.
3. Tekil değerler $\sigma_i=\sqrt{\lambda_i}$: $\sigma_1=\mathbf{4}$, $\sigma_2=\mathbf{3}$. Tekil değerler negatif olamaz; $-4$ işareti $U$ ya da $V$ içindeki yansımaya gider.
Çeldiriciler: $3$ ve $-4$ özdeğerlerdir (tekil değer değil); $9$ ve $16$, $A^TA$'nın özdeğerleridir (karekök alınmamış).