Bài giảng Kinh tế lượng - Chương 3: Hồi quy tuyến tính bội

HỒI QUY TUYẾN TÍNH BỘI 
Chương 3 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Hàm hồi quy tổng thể (PRF) 
Trong đó 
Y là biến phụ thuộc 
X 2 ,X 3 là các biến độc lập 
X 2i , X 3i là giá trị thực tế của X 2 , X 3 
U i là các sai số ngẫu nhiên 
Vậy ý nghĩa của β 1 , β 2 , β 3 là gì ? 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Các giả thiết của mô hình 
 Các X 2i , X 3i cho trước và không ngẫu nhiên 
Giá trị trung bình của đại lượng ngẫu nhiêu Ui bằng 0, Phương sai của U i không thay đổi 
Không có sự tương quan giữa các U i 
 Không có sự tương quan (cộng tuyến) giữa X 2 và X 3 
 Không có sự tương quan giữa các U i và X 2 ,X 3 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Ước lượng các tham số 
Chúng ta sử dụng phương pháp bình phương nhỏ nhất OLS 
Hàm hồi quy mẫu tương ứng sẽ là : 
Hay: 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Theo nguyên lý của phương pháp OLS thì các tham số 
được chọn sao cho 
Như vậy , công thức tính của các tham số như sau : 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Ký hiệu: 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Người ta chứng minh được 
Ví dụ minh hoạ 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Bảng dưới đây cho các số liệu về doanh số bán (Y), chi phí chào hàng (X 2 ) và chi phí quảng cáo (X 3 ) của một công ty 
Hãy ước lượng hàm hồi quy tuyến tính của doanh số bán theo chi phí chào hàng và chi phí quảng cáo 
Doanh số bán Y i (trđ) 
Chi phí chào hàng X 2 
Chi phí quảng cáo X 3 
1270 
100 
180 
1490 
106 
248 
1060 
60 
190 
1626 
160 
240 
1020 
70 
150 
1800 
170 
260 
1610 
140 
250 
1280 
120 
160 
1390 
116 
170 
1440 
120 
230 
1590 
140 
220 
1380 
150 
150 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Giải 
Từ số liệu trên, ta tính được các tổng như sau : 
Có thể dùng Excel để tính toán các số liệu này, như sau 
Y i 
X 2i 
X 3i 
X 2i 2 
X 3i 2 
Y i 2 
X 2i X 3i 
X 2i Y i 
X 3i Y i 
1270 
100 
180 
10000 
32400 
1612900 
18000 
127000 
228600 
1490 
106 
248 
11236 
61504 
2220100 
26288 
157940 
369520 
1060 
60 
190 
3600 
36100 
1123600 
11400 
63600 
201400 
1626 
160 
240 
25600 
57600 
2643876 
38400 
260160 
390240 
1020 
70 
150 
4900 
22500 
1040400 
10500 
71400 
153000 
1800 
170 
260 
28900 
67600 
3240000 
44200 
306000 
468000 
1610 
140 
250 
19600 
62500 
2592100 
35000 
225400 
402500 
1280 
120 
160 
14400 
25600 
1638400 
19200 
153600 
204800 
1390 
116 
170 
13456 
28900 
1932100 
19720 
161240 
236300 
1440 
120 
230 
14400 
52900 
2073600 
27600 
172800 
331200 
1590 
140 
220 
19600 
48400 
2528100 
30800 
222600 
349800 
1380 
150 
150 
22500 
22500 
1904400 
22500 
207000 
207000 
16956 
1452 
2448 
188192 
518504 
24549576 
303608 
2128740 
3542360 
1413 
121 
204 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Vậy 
Kết quả của ví dụ trên chạy bằng Eviews như sau : 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Hệ số xác định của mô hình 
Vì sao khi thêm biến vào mô hình thì R 2 sẽ tăng lên? => Bài tập 
MÔ HÌNH HỒI QUY TUYẾN TÍNH 3 BiẾN 
Hệ số xác định của mô hình 
Đối với mô hình hồi quy bội , người ta tính R 2 có hiệu chỉnh như sau : 
k là số tham số trong mô hình 
có các đặc điểm sau : 
MÔ HÌNH HỒI QUY TUYẾN TÍNH 3 BiẾN 
Hệ số xác định của mô hình 
 Khi k>1 thì 
có thể âm, và khi nó âm, coi như bằng 0 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Hệ số xác định của mô hình 
Ví dụ : Tính hệ số xác định của mô hình hồi quy theo số liệu của ví dụ trước 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Hệ số xác định của mô hình 
Kết quả của ví dụ trên chạy bằng Eviews như sau : 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Phương sai của hệ số hồi quy 
Phương sai của các tham số hồi quy được tính theo các công thức sau: 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Phương sai của hệ số hồi quy 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Với 
Phương sai của hệ số hồi quy 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Khoảng tin cậy của các hệ số hồi quy 
Khoảng tin cậy của 
Khoảng tin cậy của 
Với độ tin cậy là 1- α 
Với độ tin cậy là 1- α 
Khoảng tin cậy của 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Khoảng tin cậy của các hệ số hồi quy 
Lưu ý khi tra bảng T-Student, trong trường hợp hàm hồi quy 3 biến thì bậc tự do là (n-3) 
Với độ tin cậy là 1- α 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Khoảng tin cậy của các hệ số hồi quy 
Ví dụ : Tính khoảng tin cậy của β 2 và β 3 mô hình hồi quy theo số liệu của ví dụ trước với độ tin cậy 95% 
Giải : tra bảng T-Student bậc tự do (n-3)=12-3=9 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Khoảng tin cậy của các hệ số hồi quy 
Khoảng tin cậy của β 2 là 
Khoảng tin cậy của β 3 là 
Kết quả của ví dụ trên chạy bằng Eviews như sau : 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Kiểm định giả thiết 
Kiểm định giả thiết về β 1 , β 2 β 3 
Bước 1 : Lập khoảng tin cậy 
Bước 2 : Nếu β 0 thuộc khoảng tin cậy thì chấp nhận H o . Nếu β 0 không thuộc khoảng tin cậy thì bác bỏ H o 
H o : β i = β o 
H 1 : β i ≠ β o 
Độ tin cậy là 1- α 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Kiểm định giả thiết 
Kiểm định giả thiết về β 1 , β 2 β 3 
Ví dụ : (theo số liệu trước), yêu cầu kiểm định các giả thiết 
H o : β 2 = 0 
H 1 : β 2 ≠ 0 
H o : β 3 = 0 
H 1 : β 3 ≠ 0 
Với độ tin cậy 95% 
Kết quả của ví dụ trên chạy bằng Eviews như sau : 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Kiểm định giả thiết 
Kiểm định giả thiết về R 2 
Bước 1 : tính 
H o : R 2 = 0 
H 1 : R 2 ≠ 0 
Độ tin cậy là 1- α 
Bước 2 : Tra bảng tìm F(2,n-3), mức ý nghĩa là α 
Bước 3 : Nếu F>F(2,n-3) , bác bỏ H 0 Nếu F≤F(2,n-3) , chấp nhận H 0 
MÔ HÌNH HỐI QUY TUYẾN TÍNH 3 BiẾN 
Kiểm định giả thiết 
Kiểm định giả thiết về R 2 
H o : R 2 = 0 
H 1 : R 2 ≠ 0 
Độ tin cậy là 95% 
Ví dụ : Yêu cầu kiểm định giả thiết 
Giải : 
Vì F>F(2,9) nên bác bỏ giả thiết H 0 
Kết quả của ví dụ trên chạy bằng Eviews như sau : 
MỘT SỐ DẠNG HÀM 
Hàm sản xuất Cobb-Douglas 
Hàm sản xuất Cobb-Douglas được biểu diễn như sau: 
Trong đó : 
Y i : sản lượng của doanh nghiệp 
X 2i : lượng vốn 
X 3i : lượng lao động 
U i : sai số ngẫu nhiên 
Hàm sản xuất Cobb-Douglas có thể đưa được về dạng tuyến tính bằng cách lấy logarit hai vế 
Đặt 
Dạng tuyến tính sẽ là : 
MỘT SỐ DẠNG HÀM 
Hàm sản xuất Cobb-Douglas 
Để hồi quy dạng tuyến tính logarit trong Eviews, ta nhập phương trình hồi quy như sau : 
Kết quả hồi quy 
Mặc dù chỉ có một biến độc lập X i nhưng nó xuất hiện với các luỹ thừa khác nhau khiến cho mô hình trở thành hồi quy ba biến 
MỘT SỐ DẠNG HÀM 
Hàm hồi quy đa thức bậc 2 
Để hồi quy dạng đa thức trong Eviews 
Kết quả hồi quy dạng đa thức 
Để chuẩn bị tốt cho buổi học sau, đề nghị sinh viên tự ôn tập lại kiến thức về ma trận gồm : các phép toán ma trận ( cộng, chuyển vị, nhân 2 ma trận ); tính định thức ; tìm ma trận nghịch đảo . Giảng viên sẽ hỏi phần này trên lớp trước khi vào bài mới 
Hàm hồi quy tổng thể (PRF) 
Trong đó 
Y là biến phụ thuộc 
X 2 ,X 3,, X k là các biến độc lập 
U i là các sai số ngẫu nhiên 
β 1 :Hệ số tự do 
β 2 , β 3 ,, β k là các hệ số hồi quy riêng 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
Hàm hồi quy tổng thể (PRF) 
Quan sát thứ 1 : 
Quan sát thứ 2 : 
Quan sát thứ n : 
HỐI QUY TUYẾN TÍNH K BIẾN 
Hàm hồi quy tổng thể (PRF) 
Ký hiệu 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
Ta có 
HỐI QUY TUYẾN TÍNH K BIẾN 
Các giả thiết của mô hình 
Giả thiết 1 : Các biến độc lập X 2 , X 3 ,,X k không ngẫu nhiên 
Giả thiết 2 : Các sai số ngẫu nhiên U i có giá trị trung bình bằng 0 và có phương sai không thay đổi 
Giả thiết 3 : Không có sự tương quan giữa các sai số U i 
HỐI QUY TUYẾN TÍNH K BIẾN 
Các giả thiết của mô hình 
Giả thiết 4 : Không có hiện tượng cộng tuyến giữa các biến độc lập X 2 , X 3 ,,X k 
Giả thiết 5 : Không có tương quan giữa các biến độc lập X 2 ,X 3 ,,X k với các sai số ngẫu nhiên U i 
Mô hình hồi quy tuyến tính bội 
Vì sao ? => Bài tập cộng điểm 
Gợi ý : 
Ước lượng các tham số 
SRF: 
hoặc: 
Hàm hồi quy mẫu : 
HỐI QUY TUYẾN TÍNH K BIẾN 
Hay : (Viết dưới dạng ma trận ) 
Ước lượng các tham số 
HỐI QUY TUYẾN TÍNH K BIẾN 
Với 
SRF: 
hoặc: 
HỐI QUY TUYẾN TÍNH K BIẾN 
Khi đó 
Theo nguyên lý của phương pháp OLS thì các tham số 
được chọn sao cho 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
Khi đó : 
Vì sao? => Bài tập cộng điểm 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
Ví dụ minh hoạ 
Bảng dưới đây cho các số liệu về lượng hàng bán được của một loại hàng hóa(Y), thu nhập của người tiêu dùng (X 2 ) và giá bán của loại hàng này (X 3 ) 
Tìm hàm hồi quy tuyến tính 
HỐI QUY TUYẾN TÍNH K BIẾN 
Y i (tấn/tháng) 
X 2 (triệu đồng/năm) 
X 3 (ngàn đồng/kg) 
20 
8 
2 
18 
7 
3 
19 
8 
4 
18 
8 
4 
17 
6 
5 
17 
6 
5 
16 
5 
6 
15 
5 
7 
13 
4 
8 
12 
3 
8 
Giải 
Từ số liệu trên, ta tính được các tổng như sau : 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
HỐI QUY TUYẾN TÍNH K BIẾN 
Vậy: 
Các hệ số hồi quy này có ý nghĩa gì ? 
Kết quả hồi quy bằng Eviews như sau : 
Hệ số xác định của mô hình 
HỐI QUY TUYẾN TÍNH K BIẾN 
Hệ số xác định: 
Hệ số xác định hiệu chỉnh: 
Kết quả hồi quy bằng Eviews như sau : 
Khoảng tin cậy và kiểm định giả thiết 
HỐI QUY TUYẾN TÍNH K BIẾN 
Vì sao? => Bài tập cộng điểm 
Khoảng tin cậy và kiểm định giả thiết 
HỐI QUY TUYẾN TÍNH K BIẾN 
Gọi c jj là phần tử nằm ở dòng j cột j của ma trận (X T X) -1 
Khi đó : 
Với 
(k là số tham số) 
Khoảng tin cậy và kiểm định giả thiết 
HỐI QUY TUYẾN TÍNH K BIẾN 
Khoảng tin cậy của β j là 
Hoặc tính giá trị tới hạn của β j là 
Bậc tự do là (n-k) 
Kết quả hồi quy bằng Eviews như sau : 
Khoảng tin cậy và kiểm định giả thiết 
HỐI QUY TUYẾN TÍNH K BIẾN 
Kiểm định giả thiết về R 2 
Với độ tin cậy 1- α 
Bước 1 : tính 
Bước 2 : Tra bảng tìm F(k-1,n-k), mức ý nghĩa là α 
Bước 3 : Nếu F>F(k-1,n-k) , bác bỏ H 0 Nếu F≤F(k-1,n-k) , chấp nhận H 0 
H o : R 2 = 0 
H 1 : R 2 ≠ 0 
Kết quả hồi quy bằng Eviews như sau : 
Một vài kết quả hồi quy khác bằng Eviews 
Theo keát quaû baøi taäp cuûa nhoùm 13 lôùp KK1_05 tröôøng Ñaïi hoïc Hoàng Baøng 
Các yếu tố ảnh hưởng đến giá bán 1 căn nhà 
X2 : dieän tích 
D1 : moâi tröôøng D2 : khu vöïc kinh doanh D3 : nhu caàu baùn D4 : an ninh khu vöïc D5 : vò tri nhaø D6 : thò tröôøng đoùng băng 
Theo keát quaû baøi taäp cuûa nhoùm 4 lôùp KK2_05 tröôøng Ñaïi hoïc Hoàng Baøng 
Vấn đề dự báo 
HỐI QUY TUYẾN TÍNH K BIẾN 
Cho 
Yêu cầu dự báo giá trị Y 0 của Y 
Vấn đề dự báo 
HỐI QUY TUYẾN TÍNH K BIẾN 
Dự báo điểm : 
Dự báo khoảng : 
Bậc tự do là (n-k) 
Vấn đề dự báo 
HỐI QUY TUYẾN TÍNH K BIẾN 
Ví dụ (số liệu trước) 
HỐI QUY TUYẾN TÍNH K BIẾN 
Ví dụ : Tính khoảng tin cậy của β 2 theo số liệu của ví dụ trước với độ tin cậy 95% 
yêu cầu kiểm định các giả thiết 
H o : β 2 = 0 
H 1 : β 2 ≠ 0 
Với độ tin cậy 95% 
Ví dụ (số liệu trước) 
HỐI QUY TUYẾN TÍNH K BIẾN 
Yêu cầu kiểm định các giả thiết 
Với độ tin cậy 95% 
Ví dụ (số liệu trước) 
HỐI QUY TUYẾN TÍNH K BIẾN 
H o : R 2 = 0 
H 1 : R 2 ≠ 0 
Ví dụ (số liệu trước) 
HỐI QUY TUYẾN TÍNH K BIẾN 
Yêu cầu dự báo giá trị của Y khi X 2 =9 và X 3 =9 với độ tin cậy 95% 
Hết