Hướng dẫn minimize rmse python - giảm thiểu trăn rmse

Sử dụng bình phương tối thiểu phi tuyến tính để phù hợp với một hàm, f, vào dữ liệu.

Giả sử ydata = f(xdata, *params) + eps.

Hàm mô hình, F (x, xông). Nó phải lấy biến độc lập làm đối số đầu tiên và các tham số để phù hợp như các đối số còn lại riêng biệt.

Biến độc lập nơi dữ liệu được đo. Thường nên là một chuỗi độ dài m hoặc một mảng (k, m) cho các hàm với các dự đoán k, nhưng thực sự có thể là bất kỳ đối tượng nào.

Dữ liệu phụ thuộc, một mảng m chiều dài - trên danh nghĩa

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Dự đoán ban đầu cho các tham số (độ dài n). Nếu không có, thì tất cả các giá trị ban đầu sẽ là 1 (nếu số lượng tham số cho hàm có thể được xác định bằng cách sử dụng hướng nội, nếu không một giá trị được nâng lên).

Xác định sự không chắc chắn trong ydata. Nếu chúng ta xác định phần dư là

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

• Một sigma 1-D nên chứa các giá trị độ lệch chuẩn của các lỗi trong ydata. Trong trường hợp này, hàm được tối ưu hóa là

  import numpy as np
  import scipy.optimize as opt
  def functionyouwanttofit(x,y,z,t,u):
      return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
  def calc_chi2(parameters):
      x,y,z,t,u = parameters
      data = np.array([100,250,300,500])
      chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
      return chi2
  
  # baby example for init, min & max values
  x_init = 0
  x_min = -1
  x_max = 10
  y_init = 1
  y_min = -2
  y_max = 9
  z_init = 2
  z_min = 0
  z_max = 1000
  t_init = 10
  t_min = 1
  t_max = 100
  u_init = 10
  u_min = 1
  u_max = 100
  parameters = [x_init,y_init,z_init,t_init,u_init]
  bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
  result = opt.minimize(calc_chi2,parameters,bounds=bounds)
  

  2.

• Một sigma 2 chiều phải chứa ma trận sai số hiệp phương sai trong ydata. Trong trường hợp này, hàm tối ưu hóa là

  import numpy as np
  import scipy.optimize as opt
  def functionyouwanttofit(x,y,z,t,u):
      return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
  def calc_chi2(parameters):
      x,y,z,t,u = parameters
      data = np.array([100,250,300,500])
      chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
      return chi2
  
  # baby example for init, min & max values
  x_init = 0
  x_min = -1
  x_max = 10
  y_init = 1
  y_min = -2
  y_max = 9
  z_init = 2
  z_min = 0
  z_max = 1000
  t_init = 10
  t_min = 1
  t_max = 100
  u_init = 10
  u_min = 1
  u_max = 100
  parameters = [x_init,y_init,z_init,t_init,u_init]
  bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
  result = opt.minimize(calc_chi2,parameters,bounds=bounds)
  

  3.

  Mới trong phiên bản 0.19.

Không có (mặc định) tương đương với Sigma 1-D chứa đầy những cái.

Nếu đúng, Sigma được sử dụng theo nghĩa tuyệt đối và PCOV hiệp phương sai tham số ước tính phản ánh các giá trị tuyệt đối này.

Nếu sai (mặc định), chỉ có cường độ tương đối của các giá trị Sigma có vấn đề. Ma trận hiệp phương sai tham số được trả về dựa trên tỷ lệ sigma theo hệ số không đổi. Hằng số này được đặt bằng cách yêu cầu Chisq giảm cho các tham số tối ưu POPT khi sử dụng sigma được chia tỷ lệ bằng với sự thống nhất. Nói cách khác, Sigma được chia tỷ lệ để phù hợp với phương sai mẫu của phần dư sau khi phù hợp. Mặc định là sai. Về mặt toán học,

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Nếu đúng, hãy kiểm tra xem các mảng đầu vào không chứa NAN của INF và tăng giá trị horror nếu chúng làm được. Đặt tham số này thành sai có thể âm thầm tạo ra kết quả vô nghĩa nếu các mảng đầu vào có chứa NAN. Mặc định là đúng.

Giới hạn dưới và trên trên các tham số. Mặc định không có giới hạn. Mỗi phần tử của tuple phải là một mảng có độ dài bằng số lượng tham số hoặc vô hướng (trong trường hợp giới hạn được coi là giống nhau cho tất cả các tham số). Sử dụng

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Mới trong phiên bản 0.17.

Phương pháp sử dụng để tối ưu hóa. Xem

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Mới trong phiên bản 0.17.

Phương pháp sử dụng để tối ưu hóa. Xem

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

jacballable, chuỗi hoặc không, tùy chọn

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Mới trong phiên bản 0.18.

full_outputboolean, tùy chọn

Nếu đúng, chức năng này trả về thông tin additioal: Infodict, Mesg và IER.

Các giá trị tối ưu cho các tham số sao cho tổng số dư bình phương của

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Hiệp phương sai ước tính của popt. Các đường chéo cung cấp phương sai của ước tính tham số. Để tính toán một lỗi độ lệch chuẩn trên các tham số sử dụng

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Làm thế nào tham số Sigma ảnh hưởng đến hiệp phương sai ước tính phụ thuộc vào đối số tuyệt đối_sigma, như được mô tả ở trên.

Nếu ma trận Jacobian tại giải pháp không có thứ hạng đầy đủ, thì phương thức LM LM trả về một ma trận chứa đầy

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

Một từ điển của các đầu ra tùy chọn với các khóa:

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Số lượng các cuộc gọi chức năng. Các phương pháp ‘TRF, và‘ Dogbox, không đếm các chức năng gọi cho xấp xỉ bằng số Jacobian, trái ngược với phương thức ‘LM.

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Các giá trị hàm được đánh giá tại giải pháp.

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Một hoán vị của ma trận R của hệ số QR của ma trận Jacobian gần đúng cuối cùng, cột được lưu trữ khôn ngoan. Cùng với IPVT, hiệp phương sai của ước tính có thể được xấp xỉ. Phương pháp ‘LM chỉ cung cấp thông tin này.

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Một mảng nguyên có chiều dài n xác định ma trận hoán vị, p, sao cho fjac*p = q*r, trong đó r là hình tam giác trên với các phần tử chéo có cường độ không tăng. Cột J của P là cột IPVT (J) của ma trận nhận dạng. Phương pháp ‘LM chỉ cung cấp thông tin này.

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

Vectơ (chuyển vị (q) * fvec). Phương pháp ‘LM chỉ cung cấp thông tin này.

Mới trong phiên bản 1.9.

Một thông báo chuỗi cung cấp thông tin về giải pháp.

Mới trong phiên bản 1.9.

Một thông báo chuỗi cung cấp thông tin về giải pháp.

Mới trong phiên bản 1.9.

Một thông báo chuỗi cung cấp thông tin về giải pháp.

Một lá cờ số nguyên. Nếu nó bằng 1, 2, 3 hoặc 4, giải pháp đã được tìm thấy. Nếu không, giải pháp đã không được tìm thấy. Trong cả hai trường hợp, biến đầu ra tùy chọn MESG cung cấp thêm thông tin.

Nếu YDATA hoặc XDATA chứa Nans hoặc nếu các tùy chọn không tương thích được sử dụng.

Lỗi runtime

Nếu tối thiểu hóa bình phương nhỏ nhất thất bại.

Tối ưu hóa

Nếu hiệp phương sai của các tham số không thể ước tính được.

Ghi chú

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

>>> def func(x, a, b, c):
...     return a * np.exp(-b * x) + c

Người dùng nên đảm bảo rằng đầu vào XDATA, YDATA và đầu ra của F là

>>> def func(x, a, b, c):
...     return a * np.exp(-b * x) + c

>>> xdata = np.linspace(0, 4, 50)
>>> y = func(xdata, 2.5, 1.3, 0.5)
>>> rng = np.random.default_rng()
>>> y_noise = 0.2 * rng.normal(size=xdata.size)
>>> ydata = y + y_noise
>>> plt.plot(xdata, ydata, 'b-', label='data')

Với

>>> import matplotlib.pyplot as plt
>>> from scipy.optimize import curve_fit

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

>>> popt, pcov = curve_fit(func, xdata, ydata)
>>> popt
array([2.56274217, 1.37268521, 0.47427475])
>>> plt.plot(xdata, func(xdata, *popt), 'r-',
...          label='fit: a=%5.3f, b=%5.3f, c=%5.3f' % tuple(popt))

Các ràng buộc hộp có thể được xử lý bằng các phương pháp ‘TRF, và‘ Dogbox. Tham khảo tài liệu của

import numpy as np
import scipy.optimize as opt
def functionyouwanttofit(x,y,z,t,u):
    return np.array([x+y+z+t+u , x+y+z+t-u , x+y+z-t-u , x+y-z-t-u ]) # baby test here but put what you want
def calc_chi2(parameters):
    x,y,z,t,u = parameters
    data = np.array([100,250,300,500])
    chi2 = sum( (data-functiontofit(x,y,z,t,u))**2 )
    return chi2

# baby example for init, min & max values
x_init = 0
x_min = -1
x_max = 10
y_init = 1
y_min = -2
y_max = 9
z_init = 2
z_min = 0
z_max = 1000
t_init = 10
t_min = 1
t_max = 100
u_init = 10
u_min = 1
u_max = 100
parameters = [x_init,y_init,z_init,t_init,u_init]
bounds = [[x_min,x_max],[y_min,y_max],[z_min,z_max],[t_min,t_max],[u_min,u_max]]
result = opt.minimize(calc_chi2,parameters,bounds=bounds)

>>> popt, pcov = curve_fit(func, xdata, ydata, bounds=(0, [3., 1., 0.5]))
>>> popt
array([2.43736712, 1.        , 0.34463856])
>>> plt.plot(xdata, func(xdata, *popt), 'g--',
...          label='fit: a=%5.3f, b=%5.3f, c=%5.3f' % tuple(popt))

>>> plt.xlabel('x')
>>> plt.ylabel('y')
>>> plt.legend()
>>> plt.show()