迴歸推論與殘差
Regression Inference & Residuals
延伸含截距的簡單 OLS 迴歸，計算係數標準誤、t／F 檢定、信賴區間及殘差分析。
先提問，再動手觀察
線看起來很清楚，就代表模型可靠嗎？
產量 X 與成本 Y 的示範資料。調整生成斜率、噪音或端點離群值，沿著線段看殘差，再讀係數推論。生成斜率和實際估計斜率不一定相同。
你剛剛看到了什麼？
兩條看起來一樣陡的線，可能一條周圍的點很集中，另一條很散。估計斜率一樣，不代表標準誤和 p-value 一樣。端點的一筆資料也可能拉動整條線。
沿著殘差讀圖
散布圖中的短線連接每筆觀察與同一 X 的擬合值；第二張圖把擬合值放在橫軸、殘差放在縱軸。彎曲可能提示模型形式不夠，漏斗形可能提示變異數隨擬合值改變，但圖本身沒有執行正式的診斷檢定。
傳統推論的假設
平均關係應可由線性模型表達；誤差對 X 的條件平均為零、觀察獨立且變異數相同。常態誤差讓小樣本 t／F 的精確推論成立。金融序列常見厚尾、自相關與波動群聚，應另檢查資料與模型，不能只看一個顯著斜率。
F=t² 的範圍
在相同資料、含截距、只有一個斜率、使用相同傳統 OLS 假設，且檢定 β₁=0 時，整體 F 等於斜率 t 的平方，右尾 F 與雙尾 t 的 p-value 相同。不能延伸為所有迴歸模型、單尾假設或不同標準誤方法都如此。
從擬合走到預測與因果
R² 是這份資料中被線性擬合解釋的變動比例，不是樣本外預測準確率。預測需要檢查新資料與外推範圍；因果需要研究設計與混雜因素的處理。本工具沒有加入多元模型、因果識別或正式時間序列診斷。
再看一個例子
- 以原本配對順序輸入 X、Y；至少三組且 X 必須有變異。
- 設定 α 後計算含截距的 OLS，閱讀係數、區間、R² 與 t／F。
- 查看散布／擬合及殘差圖；檢查等變異數、獨立與模型形式，不把顯著當成因果。
展開正式定義與公式
簡單線性迴歸推論，在一個解釋變數與截距的 OLS 模型下，估計係數不確定性並檢定母體斜率。診斷圖用於發現可能的模型問題，並非自動證明模型合格。
模型與殘差標準誤
斜率檢定與係數區間
擬合與整體檢定
- β₀, β₁, b₀, b₁
- 母體係數與含截距 OLS 樣本估計。
- ŷᵢ, eᵢ
- 擬合值與殘差 yᵢ−ŷᵢ。
- SSE, SSR, SST
- 殘差、模型及總平方和。
- RSE, SE(bⱼ)
- 殘差標準誤及傳統 OLS 係數標準誤。
- ν, t, F
- ν=n−2；單一斜率為零的同一檢定下 F=t²。
- ε
- 模型誤差；傳統推論需獨立、等變異及適當常態條件。
常見誤區
擬合程度、統計顯著、預測能力與因果關係是四個不同問題。R² 高不保證模型正確，小 p-value 不證明 X 導致 Y，殘差圖看似隨機也不是所有假設已成立的正式檢定。
常見問題
這裡有 robust 或 Newey–West 標準誤嗎？
沒有。本版使用傳統等變異數 OLS 標準誤，不提供 heteroskedasticity-robust、HAC 或 Newey–West。若有異質變異、自相關或波動群聚，名目 p-value 與區間可能不可靠。
完美直線可以得到 p=0 嗎？
沒有殘差變動時標準誤為零，正式 t 比值無法以有限數值定義；本工具保留擬合資訊並將無法定義的推論標示 N/A，不捏造 Infinity 或精確 p=0。
離群值一定是高影響力觀察嗎？
大殘差指出 Y 與線相距遠；高槓桿觀察的 X 則遠離其他 X。影響力還取決於移除該點是否明顯改變模型，三者不能視為同義詞。
學完這頁，你可以…
- 區分擬合程度與係數顯著性
- 透過殘差了解傳統 OLS 假設