Phân tích hồi quy là gì? – Phân tích Vidhya

Giới thiệu

Một thành phần cơ bản của kỹ thuật thống kê, phân tích hồi quy là cần thiết để kiểm tra và đo lường mối liên hệ giữa các biến. Công dụng của nó rất nhiều và đa dạng, từ dự báo xu hướng tài chính đến đánh giá kết quả y tế. Sổ tay hướng dẫn chuyên sâu này khám phá bản chất của phân tích hồi quy, giải thích các loại, ứng dụng và khái niệm cơ bản khác nhau của nó.

Tổng quan

• Khám phá các kỹ thuật hồi quy khác nhau, cách sử dụng chúng và toán học cơ bản.
• Tiếp thu kiến ​​thức về các ý tưởng cơ bản, bao gồm phương trình hồi quy, đánh giá hệ số và chất lượng số liệu phù hợp.
• Xem xét các giả định cơ bản của phân tích hồi quy và tầm quan trọng của chúng đối với các kết quả đáng tin cậy.
• Nhận biết nhiều cách mà phân tích hồi quy có thể được sử dụng trong các bối cảnh khác nhau.
• Phân tích những lợi ích và hạn chế của phân tích hồi quy, xem xét khả năng chẩn đoán, định lượng các mối tương quan, khả năng giải thích các yếu tố gây nhiễu, cường độ dự đoán và giới hạn.

Phân tích hồi quy là gì?

Phân tích hồi quy là một phương pháp thống kê đáng tin cậy để xác định mối quan hệ giữa một biến phụ thuộc và một hoặc nhiều biến độc lập. Nó làm rõ những thay đổi trong các thành phần độc lập tác động như thế nào đến biến phụ thuộc, khiến nó trở thành một ý tưởng cơ bản trong tài chính, kinh tế và khoa học xã hội.

Các loại hồi quy

• Hồi quy tuyến tính cơ bản: Đơn giản như vậy hồi quy tuyến tính hiển thị, một đường đi qua các điểm dữ liệu được hiển thị biểu thị mối liên hệ giữa một biến dự đoán và một biến phản hồi. Mục tiêu là xác định doanh số bán hàng bằng cách sử dụng, chẳng hạn như số tiền chi cho quảng cáo hoặc ước tính mức của biến phụ thuộc về mặt số sao cho nó tương ứng với mức của biến độc lập.
• Hồi quy tuyến tính bội: Hồi quy tuyến tính bội kết hợp hai hoặc nhiều biến độc lập để dự đoán một biến phụ thuộc duy nhất, mở rộng khả năng hồi quy tuyến tính cơ bản. Phương pháp này ước tính giá trị tài sản dựa trên quy mô, vị trí và độ tuổi và phản ánh ảnh hưởng tích lũy của một số yếu tố đến biến phụ thuộc.
• Hồi quy logistic: Hồi quy logistic được sử dụng khi biến phụ thuộc là phân loại hoặc nhị phân (ví dụ: đúng hoặc sai, có/không). Thay vì khớp một đường thẳng để dự báo khả năng xảy ra một kết quả cụ thể, nó sử dụng hàm logistic (đường cong sigmoid). Ví dụ: nó có thể dự đoán liệu người tiêu dùng có mua hàng hay không (có hoặc không).
• Hồi quy đa thức: Hồi quy đa thức sử dụng đa thức bậc n để biểu thị mối quan hệ giữa các biến độc lập và biến phụ thuộc. Bằng cách thay đổi các yếu tố dự đoán, giờ đây nó có thể phù hợp với các kết nối phi tuyến, phức tạp hơn.

Cũng đọc: 7 kỹ thuật hồi quy bạn nên biết!

Phương trình hồi quy

Ý tưởng cơ bản là làm cho một phương trình toán học phù hợp với dữ liệu được quan sát. Trong hồi quy tuyến tính đơn giản, phương trình là:

Giải thích hệ số

Các hệ số đại diện cho điểm chặn và độ dốc. Chúng cho thấy rằng lượng y thay đổi khi x tăng thêm một đơn vị. Mỗi biến độc lập trong hồi quy bội đều có một hệ số biểu thị ảnh hưởng của nó đến biến phụ thuộc.

Đo lường mức độ phù hợp

• R bình phương (R²): Tỷ lệ biến động của biến phụ thuộc có thể được dự đoán dựa trên các biến độc lập. Cao hơn R² các giá trị gợi ý sự phù hợp tốt hơn.
• Bình phương R đã điều chỉnh: Cách tiếp cận này cung cấp ước tính chính xác hơn trong nhiều cài đặt hồi quy bằng cách điều chỉnh R² về số lượng yếu tố dự đoán trong mô hình.
• Giá trị P: Đánh giá ý nghĩa của các hệ số. Giá trị P thấp, thường nhỏ hơn 0,05, cho thấy mối liên quan có ý nghĩa thống kê.

Giả định trong hồi quy

• tuyến tính: Mối quan hệ giữa các biến phụ thuộc và độc lập phải tuyến tính.
• Sự độc lập: Các quan sát phải độc lập với nhau.
• Đồng tính: Phương sai của sai số phải nhất quán ở tất cả các cấp độ của các biến độc lập.
• Bình thường: Người ta thường phân phối các lỗi.

Ứng dụng của phân tích hồi quy

• Kinh doanh và Kinh tế: Phân tích hồi quy giúp doanh nghiệp dự báo doanh số, điều chỉnh giá và tìm kiếm các chỉ số thị trường. Nó cũng được sử dụng để hiểu các yếu tố kinh tế như GDP và thất nghiệp.
• Tài chính: Chúng cho phép đánh giá các mối đe dọa mà một khoản đầu tư và quản lý danh mục đầu tư nhất định phải đối mặt bằng cách chứng minh sự phụ thuộc giữa giá tài sản và các biến số khác, chẳng hạn như lãi suất hoặc lợi nhuận.
• Chăm sóc sức khỏe: Nó sử dụng thông tin về dữ liệu lâm sàng và nhân khẩu học của bệnh nhân để xác định các yếu tố liên quan đến sức khỏe kém. Nó cũng đánh giá hiệu quả của các can thiệp trị liệu và dự đoán kết quả của bệnh nhân.
• Tiếp thị: Phân tích hồi quy là phương pháp mà các nhà tiếp thị sử dụng để dự đoán doanh số bán hàng, đánh giá các chiến dịch quảng cáo và phân tích hành vi của người tiêu dùng.
• Khoa học Xã hội: Các nhà xã hội học và tâm lý học sử dụng phân tích hồi quy để hiểu mối quan hệ giữa các biến số và kết quả, chẳng hạn như trình độ học vấn và mô hình thu nhập.

Ưu điểm của phân tích hồi quy

• Sức mạnh dự đoán: Dữ liệu của nghiên cứu này được phân tích thông qua phân tích hồi quy để đi đến những phát hiện liên quan đến kết quả trong tương lai. Khi hiểu được sự phụ thuộc giữa các biến số, triển vọng trong tương lai, doanh số bán hàng và các yếu tố khác có thể được tính toán một cách chi tiết.
• Định lượng các mối quan hệ: Nó cung cấp một khuôn khổ toán học chính xác để tính toán hướng và cường độ tương quan giữa các biến khác nhau. Điều này giúp hiểu được việc sửa đổi một biến sẽ tác động như thế nào đến những biến khác.
• Kiểm soát các biến gây nhiễu: Hồi quy bội có thể bao gồm một số biến độc lập, giúp xác định ảnh hưởng của một biến trong khi tính toán các biến khác. Điều này đặc biệt hữu ích trong những tình huống thử thách trong thế giới thực.
• Công cụ chẩn đoán: Phân tích hồi quy giúp xác thực và cải thiện mô hình bằng cách cung cấp các công cụ chẩn đoán (chẳng hạn như bình phương R, giá trị p và biểu đồ dư) để đánh giá mức độ phù hợp của mô hình và tầm quan trọng của các yếu tố dự đoán.
• Tính linh hoạt: Phân tích hồi quy hoạt động với nhiều loại dữ liệu và kịch bản khác nhau, bao gồm các kết quả liên tục, phân loại và nhị phân. Hơn nữa, nó áp dụng cho nhiều ngành nghề, bao gồm kinh tế, kỹ thuật và khoa học xã hội.
• Dễ thực hiện: Nhờ các công cụ và phần mềm thống kê hiện đại, phân tích hồi quy giờ đây dễ dàng áp dụng hơn, ngay cả đối với những người không có kiến ​​thức sâu rộng về thống kê. Việc đơn giản hóa quy trình đạt được bằng cách sử dụng các công cụ tự động trong Python, Rvà các nền tảng khác.
• Kiểm tra giả thuyết: Phân tích hồi quy hỗ trợ việc kiểm tra các lý thuyết về mối tương quan giữa các biến. Nó đưa ra một cấu trúc để xác định xem các yếu tố dự báo cụ thể có tác động đáng kể đến biến phụ thuộc hay không.

Nhược điểm của phân tích hồi quy

• Phụ thuộc giả định: Một số giả định, bao gồm tính tuyến tính, tính độc lập, tính đồng nhất và tính chuẩn lỗi, củng cố các mô hình hồi quy. Việc phá vỡ những giả định này có thể dẫn đến kết quả sai lầm hoặc lừa đảo.
• Đa cộng tuyến: Nhiều biến số độc lập có thể ảnh hưởng đến kết quả, gây khó khăn cho việc xác định ảnh hưởng của các yếu tố dự báo cụ thể.
• Trang bị quá mức: Khi được đào tạo về dữ liệu huấn luyện, một mô hình sẽ phù hợp quá mức với dữ liệu huấn luyện và thực hiện dự đoán dữ liệu mới kém hơn nhiều. Điều này xảy ra khi mô hình thu thập tiếng ồn ngoài tín hiệu.
• Độ nhạy cảm với các ngoại lệ: Các ngoại lệ có thể làm thay đổi đáng kể các hệ số và kết quả của mô hình trong phân tích hồi quy.
• Bị giới hạn bởi mối quan hệ tuyến tính: Giả định về mối liên hệ tuyến tính giữa các biến trong hồi quy tuyến tính đơn giản có thể không đúng trong mọi trường hợp. Các nhà nghiên cứu cần các phương pháp nâng cao như hồi quy đa thức hoặc mô hình học máy để có những tương tác phức tạp hơn.
• Các vấn đề về khả năng giải thích: Có thể khó khăn để xác định xem mỗi yếu tố dự đoán ảnh hưởng như thế nào đến kết quả của một mô hình có nhiều yếu tố dự đoán, đặc biệt là trong hồi quy bội. Khó khăn này tăng lên nếu có sự tương tác giữa các biến.
• Yêu cầu về cỡ mẫu: Phân tích hồi quy đòi hỏi cỡ mẫu lớn để mang lại ước tính chính xác. Kích thước mẫu nhỏ có thể dẫn đến ước tính không ổn định và khái quát hóa không đầy đủ.

Phần kết luận

Là một công cụ cơ bản để phân tích dữ liệu, phân tích hồi quy tiếp tục cung cấp những hiểu biết sâu sắc và khả năng dự đoán cho nhiều ứng dụng. Tuy nhiên, độ tin cậy phụ thuộc vào việc chú ý kỹ đến các giả định, lựa chọn mô hình và xác nhận, ngay cả khi nó cung cấp các công cụ có giá trị để dự báo và hiểu mối quan hệ.

Các câu hỏi thường gặp