Nhiều tập lệnh python hồi quy tuyến tính

hồi quy

Phân tích hồi quy là một trong những lĩnh vực quan trọng nhất trong thống kê và học máy. Có nhiều phương pháp hồi quy có sẵn. Hồi quy tuyến tính là một trong số đó

hồi quy tuyến tính

Hồi quy tuyến tính có lẽ là một trong những kỹ thuật hồi quy quan trọng nhất và được sử dụng rộng rãi. Đó là một trong những phương pháp hồi quy đơn giản nhất. Một trong những ưu điểm chính của nó là dễ dàng giải thích kết quả

Gói Python cho hồi quy tuyến tính

Đã đến lúc bắt đầu triển khai hồi quy tuyến tính trong Python. Để làm điều này, bạn sẽ áp dụng các gói thích hợp cũng như các hàm và lớp của chúng

NumPy là một gói khoa học cơ bản của Python cho phép nhiều hoạt động hiệu suất cao trên các mảng một chiều và nhiều chiều. Nó cũng cung cấp nhiều thói quen toán học. Tất nhiên, đó là mã nguồn mở

Nếu bạn không quen thuộc với NumPy, bạn có thể sử dụng Hướng dẫn sử dụng NumPy chính thức và đọc Hướng dẫn NumPy. Những bước đầu tiên của bạn vào khoa học dữ liệu trong Python. Ngoài ra, Look Ma, No-Loops. Lập trình mảng với NumPy và Pure Python so với NumPy so với TensorFlow So sánh hiệu suất có thể cho bạn ý tưởng tốt về mức tăng hiệu suất mà bạn có thể đạt được khi áp dụng NumPy

Gói scikit-learning là một thư viện Python được sử dụng rộng rãi cho máy học, được xây dựng dựa trên NumPy và một số gói khác. Nó cung cấp phương tiện để xử lý trước dữ liệu, giảm kích thước, thực hiện hồi quy, phân loại, phân cụm, v.v. Giống như NumPy, scikit-learning cũng là mã nguồn mở

Bạn có thể kiểm tra trang Mô hình tuyến tính tổng quát trên trang web scikit-learn để tìm hiểu thêm về các mô hình tuyến tính và hiểu sâu hơn về cách thức hoạt động của gói này

Nếu bạn muốn triển khai hồi quy tuyến tính và cần chức năng ngoài phạm vi của scikit-learning, bạn nên xem xét các mô hình thống kê. Đó là gói Python mạnh mẽ để ước tính các mô hình thống kê, thực hiện các bài kiểm tra, v.v. Nó cũng là mã nguồn mở

Bạn có thể tìm thêm thông tin về mô hình thống kê trên trang web chính thức của nó

Bây giờ, để làm theo hướng dẫn này, bạn nên cài đặt tất cả các gói này vào một môi trường ảo

[venv] $ python -m pip install numpy scikit-learn statsmodels

Điều này sẽ cài đặt NumPy, scikit-learning, statsmodels và các phần phụ thuộc của chúng

Hồi quy tuyến tính đơn giản với scikit-learning

Bạn sẽ bắt đầu với trường hợp đơn giản nhất, đó là hồi quy tuyến tính đơn giản. Có năm bước cơ bản khi bạn triển khai hồi quy tuyến tính

1. Nhập các gói và lớp mà bạn cần
2. Cung cấp dữ liệu để làm việc và cuối cùng thực hiện các phép biến đổi thích hợp
3. Tạo một mô hình hồi quy và điều chỉnh nó với dữ liệu hiện có
4. Kiểm tra kết quả khớp mô hình để biết mô hình có đạt yêu cầu hay không
5. Áp dụng mô hình cho dự đoán

Các bước này ít nhiều mang tính tổng quát đối với hầu hết các cách tiếp cận và triển khai hồi quy. Trong suốt phần còn lại của hướng dẫn, bạn sẽ học cách thực hiện các bước này cho một số tình huống khác nhau

Bước 1. Nhập gói và lớp

Bước đầu tiên là nhập gói

>>> model = LinearRegression[]

>>> model = LinearRegression[]

>>> model = LinearRegression[]

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bây giờ, bạn có tất cả các chức năng cần thiết để triển khai hồi quy tuyến tính

Kiểu dữ liệu cơ bản của NumPy là kiểu mảng có tên là

>>> model = LinearRegression[]

>>> model = LinearRegression[]

Bạn sẽ sử dụng lớp

>>> model.fit[x, y]
LinearRegression[]

Bước 2. Cung cấp dữ liệu

Bước thứ hai là xác định dữ liệu để làm việc với. Đầu vào [biến hồi quy, 𝑥] và đầu ra [phản hồi, 𝑦] phải là mảng hoặc đối tượng tương tự. Đây là cách đơn giản nhất để cung cấp dữ liệu cho hồi quy

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Bây giờ, bạn có hai mảng. đầu vào,

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

Đây là giao diện của

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Như bạn có thể thấy,

>>> model.fit[x, y]
LinearRegression[]

>>> model = LinearRegression[].fit[x, y]

>>> model = LinearRegression[].fit[x, y]

>>> model.fit[x, y]
LinearRegression[]

>>> model = LinearRegression[].fit[x, y]

>>> model = LinearRegression[].fit[x, y]

Bước 3. Tạo một mô hình và phù hợp với nó

Bước tiếp theo là tạo một mô hình hồi quy tuyến tính và điều chỉnh nó bằng dữ liệu hiện có

Tạo một thể hiện của lớp

>>> model = LinearRegression[]

>>>

>>> model = LinearRegression[]

Câu lệnh này tạo biến

>>> model = LinearRegression[].fit[x, y]

>>> model = LinearRegression[]

>>> model = LinearRegression[]

• >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  0 là một Boolean, nếu

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1, quyết định tính phần chặn 𝑏₀ hoặc, nếu

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2, coi nó bằng 0. Nó mặc định là

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1

• >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  4 là một Boolean, nếu

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1, quyết định chuẩn hóa các biến đầu vào. Nó mặc định là

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2, trong trường hợp đó nó không chuẩn hóa các biến đầu vào

• >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  7 là một Boolean quyết định sao chép [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1] hay ghi đè lên các biến đầu vào [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2]. Đó là

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1 theo mặc định

• >>> print[f"intercept: {model.intercept_}"]
  intercept: 5.633333333333329
  
  >>> print[f"slope: {model.coef_}"]
  slope: [0.54]
  

  1 là số nguyên hoặc

  >>> print[f"intercept: {model.intercept_}"]
  intercept: 5.633333333333329
  
  >>> print[f"slope: {model.coef_}"]
  slope: [0.54]
  

  2. Nó đại diện cho số lượng công việc được sử dụng trong tính toán song song. Nó mặc định là

  >>> print[f"intercept: {model.intercept_}"]
  intercept: 5.633333333333329
  
  >>> print[f"slope: {model.coef_}"]
  slope: [0.54]
  

  2, thường có nghĩa là một công việc.

  >>> print[f"intercept: {model.intercept_}"]
  intercept: 5.633333333333329
  
  >>> print[f"slope: {model.coef_}"]
  slope: [0.54]
  

  4 có nghĩa là sử dụng tất cả các bộ xử lý có sẵn

>>> model = LinearRegression[].fit[x, y]

Đã đến lúc bắt đầu sử dụng mô hình. Trước tiên, bạn cần gọi cho

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> model = LinearRegression[].fit[x, y]

>>>

>>> model.fit[x, y]
LinearRegression[]

Với

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

>>> model = LinearRegression[].fit[x, y]

>>>

>>> model = LinearRegression[].fit[x, y]

Câu lệnh này thực hiện tương tự như hai câu trước. Nó chỉ ngắn hơn

Bước 4. Nhận kết quả

Khi bạn đã lắp mô hình của mình, bạn có thể nhận kết quả để kiểm tra xem mô hình có hoạt động tốt hay không và để giải thích nó

Bạn có thể nhận được hệ số xác định, 𝑅², với

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

>>> model = LinearRegression[].fit[x, y]

>>>

>>> r_sq = model.score[x, y]
>>> print[f"coefficient of determination: {r_sq}"]
coefficient of determination: 0.7158756137479542

Khi bạn đang áp dụng

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

Các thuộc tính của

>>> model = LinearRegression[].fit[x, y]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

Đoạn mã trên minh họa cách lấy 𝑏₀ và 𝑏₁. Bạn có thể nhận thấy rằng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Ghi chú. Trong scikit-learning, by , dấu gạch dưới ở cuối cho biết rằng một thuộc tính được ước tính. Trong ví dụ này,

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Giá trị của 𝑏₀ xấp xỉ 5. 63. Điều này minh họa rằng mô hình của bạn dự đoán phản hồi 5. 63 khi 𝑥 bằng không. Giá trị 𝑏₁ = 0. 54 có nghĩa là phản hồi dự đoán tăng 0. 54 khi 𝑥 tăng thêm một

Bạn sẽ nhận thấy rằng bạn cũng có thể cung cấp

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

Như bạn có thể thấy, ví dụ này rất giống với ví dụ trước, nhưng trong trường hợp này,

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bước 5. Dự đoán phản hồi

Khi bạn có một mô hình ưng ý, thì bạn có thể sử dụng nó để dự đoán với dữ liệu hiện có hoặc dữ liệu mới. Để có được phản hồi dự đoán, hãy sử dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Khi áp dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Trong trường hợp này, bạn nhân mỗi phần tử của

>>> model.fit[x, y]
LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Đầu ra ở đây chỉ khác với ví dụ trước về kích thước. Phản hồi dự đoán bây giờ là một mảng hai chiều, trong khi ở trường hợp trước, nó có một chiều

Nếu bạn giảm số chiều của

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Trong thực tế, mô hình hồi quy thường được áp dụng để dự báo. Điều này có nghĩa là bạn có thể sử dụng các mô hình phù hợp để tính toán đầu ra dựa trên đầu vào mới

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Ở đây

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model = LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bạn có thể tìm thêm thông tin về

>>> model = LinearRegression[]

Nhiều hồi quy tuyến tính với scikit-learning

Bạn có thể triển khai hồi quy tuyến tính bội theo các bước tương tự như đối với hồi quy đơn giản. Sự khác biệt chính là mảng

>>> model.fit[x, y]
LinearRegression[]

Bước 1 và 2. Nhập các gói và lớp và cung cấp dữ liệu

Trước tiên, bạn nhập

>>> model = LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Đó là một cách đơn giản để xác định đầu vào

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Trong hồi quy tuyến tính bội,

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

Bước 3. Tạo một mô hình và phù hợp với nó

Bước tiếp theo là tạo mô hình hồi quy dưới dạng một thể hiện của

>>> model = LinearRegression[]

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>>

>>> model = LinearRegression[].fit[x, y]

Kết quả của câu lệnh này là biến

>>> model = LinearRegression[].fit[x, y]

>>> model = LinearRegression[]

Bước 4. Nhận kết quả

Bạn có thể thu được các thuộc tính của mô hình giống như trong trường hợp hồi quy tuyến tính đơn giản

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bạn nhận được giá trị của 𝑅² bằng cách sử dụng

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Trong ví dụ này, hệ số chặn xấp xỉ 5. 52, và đây là giá trị của phản hồi dự đoán khi 𝑥₁ = 𝑥₂ = 0. Tăng 𝑥₁ lên 1 thì phản hồi dự đoán tăng lên 0. 45. Tương tự, khi 𝑥₂ tăng lên 1, phản hồi tăng lên 0. 26

Bước 5. Dự đoán phản hồi

Dự đoán cũng hoạt động giống như trong trường hợp hồi quy tuyến tính đơn giản

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Phản hồi dự đoán thu được với

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bạn có thể dự đoán các giá trị đầu ra bằng cách nhân từng cột của đầu vào với trọng số thích hợp, tính tổng các kết quả và thêm phần chặn vào tổng

Bạn cũng có thể áp dụng mô hình này cho dữ liệu mới

>>>

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Đó là dự đoán sử dụng mô hình hồi quy tuyến tính

Hồi quy đa thức với scikit-learning

Thực hiện hồi quy đa thức với scikit-learning rất giống với hồi quy tuyến tính. Chỉ còn một bước nữa. bạn cần chuyển đổi mảng đầu vào để bao gồm các thuật ngữ phi tuyến tính, chẳng hạn như 𝑥²

Bước 1. Nhập gói và lớp

Ngoài

>>> model = LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Quá trình nhập hiện đã hoàn tất và bạn có mọi thứ bạn cần để làm việc với

Bước 2a. Cung cấp dữ liệu

Bước này xác định đầu vào và đầu ra và giống như trong trường hợp hồi quy tuyến tính

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Bây giờ bạn có đầu vào và đầu ra ở định dạng phù hợp. Hãy nhớ rằng bạn cần đầu vào là một mảng hai chiều. Đó là lý do tại sao

>>> model.fit[x, y]
LinearRegression[]

Bước 2b. Chuyển đổi dữ liệu đầu vào

Đây là bước mới mà bạn cần thực hiện cho hồi quy đa thức

Như bạn đã học trước đó, bạn cần bao gồm 𝑥²—và có lẽ các thuật ngữ khác—như các tính năng bổ sung khi triển khai hồi quy đa thức. Vì lý do đó, bạn nên chuyển đổi mảng đầu vào

>>> model.fit[x, y]
LinearRegression[]

Có thể chuyển đổi mảng đầu vào theo nhiều cách, chẳng hạn như sử dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model = LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Biến

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

Bạn có thể cung cấp một số tham số tùy chọn cho

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

• >>> import numpy as np
  >>> from sklearn.linear_model import LinearRegression
  

  64 là một số nguyên [

  >>> import numpy as np
  >>> from sklearn.linear_model import LinearRegression
  

  27 theo mặc định] đại diện cho bậc của hàm hồi quy đa thức

• >>> import numpy as np
  >>> from sklearn.linear_model import LinearRegression
  

  66 là Boolean [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2 theo mặc định] quyết định chỉ bao gồm các tính năng tương tác [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1] hay tất cả các tính năng [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2]

• >>> import numpy as np
  >>> from sklearn.linear_model import LinearRegression
  

  70 là một Boolean [_______32_______1 theo mặc định] quyết định có bao gồm độ lệch hoặc chặn, cột của các giá trị

  >>> import numpy as np
  >>> from sklearn.linear_model import LinearRegression
  

  26 [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  1] hay không [

  >>> r_sq = model.score[x, y]
  >>> print[f"coefficient of determination: {r_sq}"]
  coefficient of determination: 0.7158756137479542
  

  2]

Ví dụ này sử dụng các giá trị mặc định của tất cả các tham số ngoại trừ

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Trước khi áp dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Khi

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Đó là phép biến đổi mảng đầu vào với

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bạn cũng có thể sử dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Với

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Mảng đầu vào đã sửa đổi chứa hai cột. một cái có đầu vào ban đầu và cái kia có hình vuông của chúng. Bạn có thể tìm thêm thông tin về

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bước 3. Tạo một mô hình và phù hợp với nó

Bước này cũng giống như trong trường hợp hồi quy tuyến tính. Bạn tạo và phù hợp với mô hình

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Mô hình hồi quy hiện đã được tạo và trang bị. Nó đã sẵn sàng cho ứng dụng. Bạn nên nhớ rằng đối số đầu tiên của

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

Bước 4. Nhận kết quả

Bạn có thể thu được các thuộc tính của mô hình giống như trong trường hợp hồi quy tuyến tính

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Một lần nữa,

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bạn có thể thu được một kết quả rất giống với các đối số biến đổi và hồi quy khác nhau

>>>

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Nếu bạn gọi

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Cột đầu tiên của

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

Phần chặn đã được bao gồm trong cột ngoài cùng bên trái và bạn không cần bao gồm lại phần chặn này khi tạo phiên bản của

>>> model = LinearRegression[]

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Biến

>>> model = LinearRegression[].fit[x, y]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

Cách tiếp cận này mang lại kết quả sau, tương tự như trường hợp trước

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Bạn thấy rằng bây giờ

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

Bước 5. Dự đoán phản hồi

Nếu bạn muốn nhận được phản hồi dự đoán, chỉ cần sử dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Như bạn có thể thấy, dự đoán hoạt động gần giống như trong trường hợp hồi quy tuyến tính. Nó chỉ yêu cầu đầu vào đã sửa đổi thay vì đầu vào ban đầu

Bạn có thể áp dụng quy trình giống hệt nếu bạn có nhiều biến đầu vào. Bạn sẽ có một mảng đầu vào có nhiều hơn một cột, nhưng mọi thứ khác sẽ giống nhau. Đây là một ví dụ

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Ví dụ hồi quy này mang lại các kết quả và dự đoán sau

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Trong trường hợp này, có sáu hệ số hồi quy, bao gồm cả hệ số chặn, như thể hiện trong hàm hồi quy ước lượng 𝑓[𝑥₁, 𝑥₂] = 𝑏₀ + 𝑏₁𝑥₁ + 𝑏₂𝑥₂ + 𝑏₃𝑥₁² + 𝑏₄𝑥₁𝑥₅ + 𝑥₥²

Bạn cũng có thể nhận thấy rằng hồi quy đa thức mang lại hệ số xác định cao hơn so với hồi quy tuyến tính bội cho cùng một vấn đề. Lúc đầu, bạn có thể nghĩ rằng nhận được 𝑅² lớn như vậy là một kết quả tuyệt vời. Có thể là

Tuy nhiên, trong các tình huống thực tế, việc có một mô hình phức tạp và 𝑅² rất gần với một mô hình cũng có thể là dấu hiệu của việc trang bị quá mức. Để kiểm tra hiệu suất của một mô hình, bạn nên kiểm tra nó với dữ liệu mới—nghĩa là với các quan sát không được sử dụng để điều chỉnh hoặc đào tạo mô hình. Để tìm hiểu cách chia tập dữ liệu của bạn thành các tập con đào tạo và kiểm tra, hãy xem Chia tập dữ liệu của bạn bằng scikit-learn's train_test_split[]

Hồi quy tuyến tính nâng cao với mô hình thống kê

Bạn cũng có thể triển khai hồi quy tuyến tính trong Python bằng cách sử dụng gói statsmodels. Thông thường, điều này là mong muốn khi bạn cần kết quả chi tiết hơn

Quy trình này tương tự như quy trình của scikit-learning

Bước 1. gói nhập khẩu

Trước tiên, bạn cần thực hiện một số thao tác nhập. Ngoài

>>> model = LinearRegression[]

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Bây giờ bạn có các gói mà bạn cần

Bước 2. Cung cấp dữ liệu và chuyển đổi đầu vào

Bạn có thể cung cấp đầu vào và đầu ra giống như cách bạn đã làm khi sử dụng scikit-learning

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Mảng đầu vào và đầu ra được tạo, nhưng công việc vẫn chưa hoàn thành

Bạn cần thêm cột đơn vị vào đầu vào nếu bạn muốn mô hình thống kê tính toán hệ số chặn 𝑏₀. Nó không tính đến 𝑏₀ theo mặc định. Đây chỉ là một cuộc gọi chức năng

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Đó là cách bạn thêm cột một vào

>>> model.fit[x, y]
LinearRegression[]

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>> model.fit[x, y]
LinearRegression[]

>>>

>>> x
array[[[ 5],
       [15],
       [25],
       [35],
       [45],
       [55]]]

>>> y
array[[ 5, 20, 14, 32, 22, 38]]

Bạn có thể thấy rằng

>>> model.fit[x, y]
LinearRegression[]

Bước 3. Tạo một mô hình và phù hợp với nó

Mô hình hồi quy dựa trên bình phương nhỏ nhất thông thường là một thể hiện của lớp

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>>

>>> model = LinearRegression[]

Bạn nên cẩn thận ở đây. Lưu ý rằng đối số đầu tiên là đầu ra, theo sau là đầu vào. Đây là thứ tự ngược lại của các hàm scikit-learning tương ứng

Có thêm một số thông số tùy chọn. Để tìm thêm thông tin về lớp học này, bạn có thể truy cập trang tài liệu chính thức

Khi mô hình của bạn được tạo, bạn có thể áp dụng

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>>

>>> model = LinearRegression[]

Bằng cách gọi

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Bước 4. Nhận kết quả

Biến

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Bạn có thể gọi

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>>

>>> model = LinearRegression[]

Bảng này rất toàn diện. Bạn có thể tìm thấy nhiều giá trị thống kê liên quan đến hồi quy tuyến tính, bao gồm 𝑅², 𝑏₀, 𝑏₁ và 𝑏₂

Trong trường hợp cụ thể này, bạn có thể nhận được cảnh báo có nội dung

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

Bạn có thể trích xuất bất kỳ giá trị nào từ bảng trên. Đây là một ví dụ

>>>

>>> model = LinearRegression[]

Đó là cách bạn có được một số kết quả của hồi quy tuyến tính

1. >>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
   >>> y = np.array[[5, 20, 14, 32, 22, 38]]
   

   30 giữ 𝑅²

2. >>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
   >>> y = np.array[[5, 20, 14, 32, 22, 38]]
   

   31 đại diện cho 𝑅² đã điều chỉnh—tức là, 𝑅² đã điều chỉnh theo số lượng tính năng đầu vào

3. >>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
   >>> y = np.array[[5, 20, 14, 32, 22, 38]]
   

   32 đề cập đến mảng có 𝑏₀, 𝑏₁ và 𝑏₂

Bạn cũng có thể nhận thấy rằng những kết quả này giống hệt với kết quả thu được bằng scikit-learning cho cùng một vấn đề

Để tìm thêm thông tin về kết quả hồi quy tuyến tính, vui lòng truy cập trang tài liệu chính thức

Bước 5. Dự đoán phản hồi

Bạn có thể nhận được phản hồi dự đoán về các giá trị đầu vào được sử dụng để tạo mô hình bằng cách sử dụng

>>> x = np.array[[5, 15, 25, 35, 45, 55]].reshape[[-1, 1]]
>>> y = np.array[[5, 20, 14, 32, 22, 38]]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> model = LinearRegression[]

Đây là phản hồi dự đoán cho đầu vào đã biết. Nếu bạn muốn dự đoán với các biến hồi quy mới, bạn cũng có thể áp dụng

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>>

>>> model = LinearRegression[]

Bạn có thể nhận thấy rằng kết quả dự đoán giống như kết quả thu được với scikit-learning cho cùng một vấn đề

Ngoài hồi quy tuyến tính

Hồi quy tuyến tính đôi khi không phù hợp, đặc biệt đối với các mô hình phi tuyến có độ phức tạp cao

May mắn thay, có những kỹ thuật hồi quy khác phù hợp với những trường hợp hồi quy tuyến tính không hoạt động tốt. Một số trong số đó là máy vectơ hỗ trợ, cây quyết định, rừng ngẫu nhiên và mạng lưới thần kinh

Có rất nhiều thư viện Python để hồi quy bằng các kỹ thuật này. Hầu hết chúng đều miễn phí và mã nguồn mở. Đó là một trong những lý do tại sao Python là một trong những ngôn ngữ lập trình chính cho máy học

Gói scikit-learning cung cấp phương tiện để sử dụng các kỹ thuật hồi quy khác theo cách rất giống với những gì bạn đã thấy. Nó chứa các lớp dành cho máy vectơ hỗ trợ, cây quyết định, v.v., với các phương thức

>>> print[f"intercept: {model.intercept_}"]
intercept: 5.633333333333329

>>> print[f"slope: {model.coef_}"]
slope: [0.54]

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression

>>> new_model = LinearRegression[].fit[x, y.reshape[[-1, 1]]]
>>> print[f"intercept: {new_model.intercept_}"]
intercept: [5.63333333]

>>> print[f"slope: {new_model.coef_}"]
slope: [[0.54]]

Phần kết luận

Bây giờ bạn đã biết hồi quy tuyến tính là gì và cách bạn có thể triển khai nó với Python và ba gói mã nguồn mở. NumPy, scikit-learning và mô hình thống kê. Bạn sử dụng NumPy để xử lý mảng. Hồi quy tuyến tính được thực hiện với những điều sau đây

• scikit-learning nếu bạn không cần kết quả chi tiết và muốn sử dụng phương pháp nhất quán với các kỹ thuật hồi quy khác
• statsmodels nếu bạn cần các tham số thống kê nâng cao của mô hình

Cả hai cách tiếp cận đều đáng để học cách sử dụng và khám phá thêm. Các liên kết trong bài viết này có thể rất hữu ích cho điều đó

Trong hướng dẫn này, bạn đã học các bước sau để thực hiện hồi quy tuyến tính trong Python

1. Nhập các gói và lớp bạn cần
2. Cung cấp dữ liệu để làm việc và cuối cùng thực hiện các phép biến đổi phù hợp
3. Tạo một mô hình hồi quy và điều chỉnh nó với dữ liệu hiện có
4. Kiểm tra kết quả khớp mô hình để biết mô hình có đạt yêu cầu hay không
5. Áp dụng mô hình cho dự đoán

Và với điều đó, bạn tốt để đi. Nếu bạn có câu hỏi hoặc ý kiến, xin vui lòng đặt chúng trong phần bình luận bên dưới

Lấy bài kiểm tra. Kiểm tra kiến ​​thức của bạn với bài kiểm tra tương tác “Hồi quy tuyến tính trong Python” của chúng tôi. Sau khi hoàn thành, bạn sẽ nhận được điểm số để có thể theo dõi quá trình học tập của mình theo thời gian

Lấy bài kiểm tra "