迴歸分析到底在估什麼?不同損失函數估計的性質不同

%e8%a1%a8%e6%a0%bc123

之前有個朋友在面試 一個 quant 的職位時,被問到了一個問題:「如果在迴歸分析時把估計的損失函數調成平均絕對離差 (mean absolute deviation,或稱 \ell_1 函數),會發生什麼事情?」朋友當下的回答是從最佳化的角度去分析,但面試官說他心裡的答案是變成估計中位數,我朋友百思不得其解,跟我說了這件事,我心裡想說:哈哈學統計還是有點用,至少面試的時候會答得出這題!讓我跟大家分享一下為什麼是中位數吧!

 

最小平方誤差 (Least Squared Estimation) 迴歸:估計條件平均數

 

在迴歸分析的時,我們估計的邏輯是「極小化估計式 f(X) 與反應變數 Y 的誤差」,一般最常見的損失函數 (loss function) 是均方誤差 (mean-squared error) \mathbb{E} (Y-  f(X) | X)^2,在極小化均方誤差的情況下,得到的估計式 \widehat{f}(X) = \mathbb{E} (Y|X)

上述的結果很容易得到,首先令 \widehat{Y} = f(X),展開均方誤差得到:

接著對 \widehat{Y} 微分可得

解得使均方誤差最小的 \widehat{Y} = E(Y|X) 。因此,最小平方法其實是逼在近 Y 的(條件)平均數。

 

最小絕對離差 (Least Absolute Deviation) 迴歸:估計中位數

 

如果今天將估計的損失函數改成 \ell_1 函數 \mathbb{E} \left(|Y-f(X)| | X\right),極小化得出的估計式會是什麼呢?答案是條件分配 Y|X 的中位數 (median)。這個結果也很容易得到,首先展開損失函數得到

接著針對上式子微分可以得到

 

分量迴歸 (Quantile Regression)

 

在這裡大鼻再跟大家加碼一個估計方法,如果我今天想估計的是分量 (quantile),比如說:第 5 百分位數,那要怎麼樣調整估計函數呢?假設我們想估計的是\theta-th 分量,答案很簡單:

如何證明呢?其實跟上面中位數一樣,所以就留給有興趣的人自己練習看看囉!分量回歸在預估投資組合的風險值 (VaR 值,Value-at Risk) 非常有用,以前我做實習的時候就有建立外匯投資組合報酬在不同利率條件下的第五百分位數。

 

小結:弄清楚不同損失函數在估計什麼

 

不論你是從預測的角度出發,還是從解釋的角度出發,做迴歸分析都要搞清楚,你使用的實證損失函數 (empirical loss function) ,回到母體的角度,到底在估計什麼。這樣在面對特定問題時,才會知道到底要怎麼樣設計損失函數喔!這篇我試著用最簡單的方式,解釋為什麼最小平方誤差在估計平均數,而最小絕對離差是在估計中位數。有關 David’s Perspective 的最新文章,都會發布在大鼻的 Facebook 粉絲專頁,如果你喜歡大鼻的文章,還請您不吝嗇地按讚或留言給我喔!

大鼻觀點:https://www.facebook.com/davidperspective/

About David Huang

國立臺灣大學統計碩士,喜愛運用資料科學解決複雜的商業問題,改善商業決策的品質。過去的專案經歷包括:外匯選擇權套利、股票投資組合設計、戲劇推薦系統、使用者觀看行為預測、聊天機器人機器學習開發、IoT產業文字探勘與產品分析、衛材存貨管理系統等。

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *