決定係数の直感
決定係数 R² の意味と、回帰モデルの説明力としての解釈を学びます。
回帰モデルの説明力を測る『決定係数 R²』の意味を直感で理解します。
白銀 ゆき
切片を含む単回帰では、決定係数R² は相関係数 r の二乗。
回帰モデルがyのばらつきの何%を説明できているかを表すの。
若葉 みどり 先生
たとえば r=0.9 なら R² = 0.81。
これは『yの分散の81%を回帰モデルで説明できている』という意味なのよ。
桜井 もも
じゃあ r が半分の 0.5 だったら、説明できるのも半分くらいなんですかぁ?
白銀 ゆき
それが落とし穴なの。
r=0.5 だと R²=0.25。
説明できるのは25%だけ。
r が下がると R² は二乗ぶん急に小さくなるのよ。
胡桃 あんず
じゃあR²が1に近いほど良い回帰モデルってこと?
白銀 ゆき
補足すると、その通り。
R²=1 なら完璧、R²=0 なら全く予測力がない。
桜井 もも
うぅ〜ん…値の範囲は0〜1なんですねぇ?
若葉 みどり 先生
切片を含む通常の最小二乗回帰を、式を作った同じデータで評価する範囲では 0 ≤ R² ≤ 1 と覚えましょう。
胡桃 あんず
じゃあプラスマイナスの向きは分からなくなる代わりに、どれくらい説明できてるかが見えるってわけだね!
二つの方法でR²を計算する
単回帰では、相関係数から R²=r² と求める方法が最短です。相関係数が -0.8 なら、符号も含めて二乗して (-0.8)²=0.64。負の相関でも、説明できる割合は64%です。
回帰の当てはまりから直接求める式は R²=1-SSE/SST です。SSTは平均からのずれの二乗和で、目的変数全体のばらつき。SSEは実測値と予測値のずれ、つまり残差の二乗和です。
全体のばらつき SST = 100 残差のばらつき SSE = 36 R² = 1 - 36÷100 = 0.64
回帰を使わず平均だけで予測したときのずれを100とすると、回帰後には説明できないずれが36残ったので、100-36=64%を説明できた、と読めます。
桜井 もも
R²が0.64なら、予測が64%の確率で当たるってことですかぁ?
白銀 ゆき
違います。
正解確率ではなく、yのばらつきのうちモデルで説明できた割合です。
個々の予測誤差の大きさは残差も見て判断します。
胡桃 あんず
R²が高ければ、xがyの原因だって言える?
若葉 みどり 先生
相関や高いR²だけでは因果関係は証明できないわ。
交絡因子や外れ値、データ範囲も確認すること。
試験ではR²の計算と解釈を分けて考えるのがコツよ。
確認クイズ
相関係数 r=0.8 のとき、決定係数 R² の値はいくらか。
- 0.4
- 0.64
- 0.8
- 1.6
こたえを見る
正解: 2. 0.64
R² = r² = 0.8² = 0.64。yの分散の64%を回帰モデルで説明できることを意味します。
この記事について
統計検定3級スタディが作成した教材です。運営について・記事の作り方
試験についてはこちらをご覧ください: 統計検定公式サイト