特異値・とは？初心者にも分かる基礎とSVDのしくみ共起語・同意語・対義語も併せて解説！

この記事を書いた人

岡田康介

名前：岡田康介（おかだこうすけ）ニックネーム：コウ、または「こうちゃん」年齢：28歳性別：男性職業：ブロガー（SEOやライフスタイル系を中心に活動）居住地：東京都（都心のワンルームマンション）出身地：千葉県船橋市身長：175cm 血液型：O型誕生日：1997年4月3日趣味：カフェ巡り、写真撮影、ランニング、読書（自己啓発やエッセイ）、映画鑑賞、ガジェット収集性格：ポジティブでフランク、人見知りはしないタイプ。好奇心旺盛で新しいものにすぐ飛びつく性格。計画性がある一方で、思いついたらすぐ行動するフットワークの軽さもある。 1日（平日）のタイムスケジュール 7:00 起床：軽くストレッチして朝のニュースをチェック。ブラックコーヒーで目を覚ます。 7:30 朝ラン：近所の公園を30分ほどランニング。頭をリセットして新しいアイデアを考える時間。 8:30 朝食＆SNSチェック：トーストやヨーグルトを食べながら、TwitterやInstagramでトレンドを確認。 9:30 ブログ執筆スタート：カフェに移動してノートPCで記事を書いたり、リサーチを進める。 12:30 昼食：お気に入りのカフェや定食屋でランチ。食事をしながら読書やネタ探し。 14:00 取材・撮影・リサーチ：街歩きをしながら写真を撮ったり、新しいお店を開拓してネタにする。 16:00 執筆＆編集作業：帰宅して集中モードで記事を仕上げ、SEOチェックやアイキャッチ作成も行う。 19:00 夕食：自炊か外食。たまに友人と飲みに行って情報交換。 21:00 ブログのアクセス解析・改善点チェック：Googleアナリティクスやサーチコンソールを見て数字を分析。 22:00 映画鑑賞や趣味の時間：Amazonプライムで映画やドラマを楽しむ。 24:00 就寝：明日のアイデアをメモしてから眠りにつく。

特異値・とは？

特異値は、行列がデータをどの方向にどれだけ伸ばすかの“伸びやかさ”を表す非負の実数です。ここでの“伸び”とは、行列を使ってベクトルを変換したときの長さの変化を意味します。例えば、回転と拡大を組み合わせた変換では、長さがどれだけ伸びるかを決める数値が特異値です。

特異値は、行列 A がデータに及ぼす影響の強さを順番に並べたもので、個数は min(m, n)、すべて非負の実数です。つまり A が m 行 n 列のとき、sigma_1, sigma_2, ..., sigma_r（r = rank(A)）が存在します。これらは常に 0 以上で、大きいものほどデータを強く伸ばします。

特異値と従来の固有値の違いを知ることも大事です。固有値は変換後のベクトルが同じ方向を向く場合に現れる数ですが、特異値は方向を問わず「どれだけの伸び」が得られるかを示します。特異値は実数で非負、そして行列のサイズに依存して min(m, n) 個以下に並びます。

特異値を実用的に使うには、SVD（特異値分解）という方法を用います。A = U Σ V^T という形に分解することで、Σ の対角成分が特異値になります。ここで U は左の特異ベクトル、V は右の特異ベクトルと呼ばれます。

数学的には、sigma_i = sqrt( eigenvalue( A^T A ) ) で得られることが多いです。A^T A は対称で正定値に近い性質を持ち、そこから固有値を取って平方根を取ると特異値になります。

実例で見る特異値

例として 2x2 行列 A = [ [3, 0], [0, 2] ] を考えます。このとき特異値は 3 と 2 で、行列がデータをどの方向にどう伸ばすかを直感的に表します。

別の例として非対称の行列 B = [ [1, 2], [0, 3] ] を考えると、sigma_1 と sigma_2 は変換の強さを表す正の数で、実際の値は近似的に sigma_1 ≈ 3.16, sigma_2 ≈ 0.63 などとなるケースがあります。これらの値は計算ソフトウェアを使えばすぐに求められます。

使い方のヒント

データを圧縮したいとき、大きい特異値に対応する成分だけを残して近似するのが SVD の基本です。これにより、データの「重要な特徴」を失わずに次元を減らせます。機械学習の前処理として PCA（主成分分析）も SVD の考え方を使います。

日常の直感的な例

身の回りのデータで考えると、画像の画質を保ちながらサイズを小さくする時、特異値の大きい成分を残して小さくするのが理論的な根拠になります。機械学習の特徴量にも似た考え方です。

注意点

特異値を使うときは、データが適切に前処理されていることが大事です。スケーリングや中心化を行わないと、結果が偏ってしまうことがあります。

表で見る基本的な性質

able>項目説明特異値行列がデータをどの方向にどれだけ伸ばすかの長さを表す非負の実数個数min(m, n) 個以下性質0 を含むことがあり、大きいほどデータの伸びが大きい計算の考え方A^T A の固有値の平方根として求めるか、SVD で直接求める分解と関係A = U Σ V^T。Σ の対角要素が特異値ble>

まとめ

まとめとして、特異値は行列の伸びの強さを示す非負の実数であり、SVD によって得られます。固有値との違い、非方形の行列にも適用可能なこと、データ圧縮や特徴抽出への応用を理解することで、実際のデータ処理で役立てられます。

特異値の同意語

特異値: 行列の線形変換を拡大・縮小する尺度を表す値。SVD によって得られる A = U Σ V^T の Σ の対角要素として現れ、各値は対応する方向の伸び（または縮み）の度合いを示します。
特異値分解の値: SVD（特異値分解）で得られる特異値そのものを指します。Σ の対角に並ぶ正の値で、降順に並びます。
Σの対角成分: SVD の分解に現れる Σ の対角成分。これが各次元の特異値を表します。
非負の実数値: 特異値は常に非負の実数です。負の値にはなりません。
SVDの値の集合: 全ての特異値の集合で、データの分解の重要性の順序を示します。

特異値の対義語・反対語

一般性: 特異値の対義語としてよく用いられる概念。特異性がデータの中の特別な特徴を指すのに対し、一般性は広く普遍的な特徴を意味します。SVDの文脈で特異値を考えるとき、一般性は特定の局所的特徴よりも全体的・一般的な特徴を意識する際の対比になります。
普遍性: 特異値が局所的・特異的な情報を表すのに対し、普遍性は多くのデータや状況に共通する性質を示します。対義語として使われることが多い語です。
非特異性: 特定の条件や属性に特化していない性質を指す語。特異性の対義語として、何かが“特異的でない”ことを表すときに使われます。
固有値: 線形代数の別の分解結果で現れる値。特異値とは異なる概念ですが、特異値と対比して語られることがあるため、対義語・対比として挙げることがあります。
標準値: 一般的・標準的とされる値を指す語。特異値の“特別な値”と対照的に、標準的な、よく見られる値をイメージする際の対義語として使われることがあります。
平均値: データの中心傾向を表す値で、特異値の“特別さ”と対照的なイメージとして捉えられることがあります。厳密な対義語ではありませんが、直感的な対比として使われる場合があります。

特異値の共起語

特異値分解: 行列を左特異ベクトル、特異値、右特異ベクトルの積で表す分解。データの構造を解析する基本的な手法。
行列: データを表す2次元の数値配列のこと。特異値は行列の性質を示す重要な指標のひとつ。
ランク: 行列の独立な列の数。特異値が0に近いほどランクが低くなることが多い。
低ランク近似: 重要な特異値だけを残して元の行列を近似する方法。データ圧縮やノイズ除去に有用。
次元削減: データの表現をより少ない次元に縮める方法。特異値を用いて主要な方向を取り出す。
データ圧縮: データ量を減らして情報を保つ技術。SVDを用いる例が多い。
主成分分析: データの分散が最大になる方向を抽出して次元削減を行う統計手法。SVDと深く関係する。
SVD: Singular Value Decompositionの略。特異値分解の英語表記。
固有値: 行列変換の不変量の一つ。特異値とは別の概念だが、関連する分野でよく並んで語られる。
固有値分解: 正方行列を固有値と固有ベクトルに分解する基本的手法。
ノルム: ベクトルや行列の大きさを表す尺度。特異値分解と関係して誤差評価に用いられることが多い。
Frobeniusノルム: 行列の全要素の二乗和の平方根。特異値の二乗和と等しい性質を持つ。
近似: 元のデータを近い別の表現で表すこと。特異値分解は良い近似を作る手法の一つ。
画像圧縮: 画像データをSVDなどで圧縮して容量を減らす用途。
ノイズ除去: データからノイズ成分を取り除く処理。特異値の選択と切り捨てで効果が出ることが多い。
低次元表現: データを低次元の空間で表すこと。
データ行列: 観測データを並べた行矩陣。特異値分解の対象として用いられることが多い。
正規直交基底: 特異値分解で得られる左右の特異ベクトルは正規直交基底を形成する。
行列分解: 行列を分解する一般的な手法の総称。特異値分解はその一種。
最小二乗: 最小二乗問題の解としてSVDが用いられる場面が多い。

特異値の関連用語

特異値: 線形変換がどの方向にどれだけ伸ばすかを表す非負の数。Aの各軸方向の伸縮比を測る値で、A^T A の固有値の平方根として求められます。
奇異値分解（SVD）: 任意の行列Aを A = U Σ V^T と表す分解。UとVは直交（ユニタリ）行列、Σは非負の対角行列。データの主成分抽出や次元削減に使われます。
Σ（シグマ）: 特異値を対角成分として並べた対角行列。行列のサイズに合わせて m×n の形を取り、σ1, σ2, ... が対角線上に並びます。
左特異ベクトル: u_i。A A^T の固有ベクトルで、Uの列として現れます。Aでの出力方向に対応します。
右特異ベクトル: v_i。A^T A の固有ベクトルで、Vの列として現れます。Aでの入力方向に対応します。
ユニタリ行列（直交行列）: 列が正規直交ベクトルからなる行列。UとVは通常ユニタリ（実数の場合は直交）で、SVDで使われます。
A^T A の固有値: A^T A の固有値は σ_i^2。つまり特異値の二乗がこの固有値に対応します。
スペクトルノルム: 行列Aの2-ノルムとも呼ばれ、最大の特異値 σ_max を指します。入力を最も大きく伸ばす方向の伸びです。
Frobeniusノルム: 全特異値の平方和の平方根。Aの全体的な大きさを測る指標です。
ランク: Aの非ゼロ特異値の個数。行列の独立した方向の数を表します。
零特異値: σ_i = 0 の特異値。これによりランク欠損や低ランク近似が起こります。
低ランク近似: 上位k個の特異値と対応する特異ベクトルを使ってAを近似する手法。データ圧縮やノイズ除去に有効です。
切り捨て特異値分解（トランケーションSVD）: Σの小さなσを捨てて近似を作る方法。A_k = U_k Σ_k V_k^T の形で表されます。
条件数: κ(A) = σ_max / σ_min（非ゼロの最小特異値）で、数値的安定性の指標。値が大きいと計算が不安定になります。
PCA（主成分分析）: データの分散が大きい方向を見つける手法。SVDを使うことでデータの主成分を取り出せます。
データ圧縮: SVDを用いて情報量を保ちつつデータを小さく表現する技術。主に上位の特異値のみを用います。
ノイズ除去: 低ランク近似によってノイズ成分を抑え、信号を滑らかにする用途。
グラム行列: A^T A。入力空間の内積を集めた行列で、固有値問題により特異値が決まります。