sklearn.cross_decomposition.PLSRegression

class sklearn.cross_decomposition.PLSRegression(n_components=2, *, scale=True, max_iter=500, tol=1e-06, copy=True)[source]

[源码]

PLS回归

PLSRegression实现一维响应时称为PLS2或PLS1的PLS 2块回归。 此类继承_PLS,其mode=”A”,deflation_mode =“regression”,norm_y_weights = False且algorithm=“ nipals”。

用户指南中阅读更多内容。

0.8版的新功能。

参数 说明
n_components int, (default 2)
要保留的组件数。
scale boolean, (default True)
是否收缩数据
max_iter an integer, (default 500)
NIPALS内循环的最大迭代次数(仅当algorithm =“ nipals”时使用)
tol non-negative real
迭代算法中使用的公差默认为1e-06。
copy boolean, default True
是否应在副本上进行收缩。 除非您不担心副作用,否则将默认值设为True
属性 说明
x_weights_ array, [p, n_components]
X块的权重向量。
y_weights_ array, [q, n_components]
Y块的权重向量。
x_loadings_ array, [p, n_components]
X块的加载向量。
y_loadings_ array, [q, n_components]
Y块的加载向量。
x_scores_ array, [n_samples, n_components]
X得分。
y_scores_ array, [n_samples, n_components]
Y得分。
x_rotations_ array, [p, n_components]
X块的潜在旋转。
y_rotations_ array, [q, n_components]
Y块的潜在旋转。
coef_ array, [p, q]
线性模型的系数:Y = X coef_ + Err
n_iter_ array-like
每个组件的NIPALS内部循环的迭代次数。

矩阵:

T: x_scores_
U: y_scores_
W: x_weights_
C: y_weights_
P: x_loadings_
Q: y_loadings_

计算如下:

X = T P.T + Err and Y = U Q.T + Err
T[:, k] = Xk W[:, k] for k in range(n_components)
U[:, k] = Yk C[:, k] for k in range(n_components)
x_rotations_ = W (P.T W)^(-1)
y_rotations_ = C (Q.T C)^(-1)

其中Xk和Yk是迭代k的残差矩阵。

解说PLS的幻灯片

对于每个分量k,找到优化的权重u,v:

max corr(Xk u,Yk v)* std(Xk u)std(Yk u),使得| u | = 1

注意,它使得分和块内方差之间的相关性最大化。

X(Xk + 1)块的残差矩阵是通过对当前X分数x_score的收缩获得的。

Y(Yk + 1)块的残差矩阵是通过对当前X分数进行收缩获得的。这将执行称为PLS2的PLS回归。该模式是面向预测的。

此实现与R语言提供的3个PLS包(R项目)提供的结果相同:

    带函数pls(X,Y,mode =“regression”)的“mixOmics”

    带函数plsreg2(X,Y)的“plspm”

    带函数oscorespls.fit(X,Y)的“pls”

参考资料

Jacob A. Wegelin. A survey of Partial Least Squares (PLS) methods, with emphasis on the two-block case. Technical Report 371, Department of Statistics, University of Washington, Seattle, 2000.

法语版但仍然可以参考: Tenenhaus, M. (1998). La regression PLS: theorie et pratique. Paris: Editions Technic.

示例

>>> from sklearn.cross_decomposition import PLSRegression
>>> X = [[0.0.1.], [1.,0.,0.], [2.,2.,2.], [2.,5.,4.]]
>>> Y = [[0.1-0.2], [0.91.1], [6.25.9], [11.912.3]]
>>> pls2 = PLSRegression(n_components=2)
>>> pls2.fit(X, Y)
PLSRegression()
>>> Y_pred = pls2.predict(X)
方法 说明
fit(self, X, Y) 训练数据模型
fit_transform(self, X[, y]) 在训练集上学习并应用降维
get_params(self[, deep]) 获取此估计量的参数。
inverse_transform(self, X) 将数据转换回其原始空间。
predict(self, X[, copy]) 应用在训练集上学到的降维。
score(self, X, y[, sample_weight]) 返回预测的确定系数R^2。
set_params(self, **params) 设置此估算器的参数。
transform(self, X[, Y, copy]) 应用在训练集上学到的降维。
__init__(self, n_components=2, *, scale=True, max_iter=500, tol=1e-06, copy=True)

[源码]

初始化self。有关准确的签名,请参见help(type(self))。

fit(self, X, Y)

[源码]

训练数据。

参数 说明
X array-like of shape (n_samples, n_features)
训练向量,其中n_samples是样本数,n_features是预测变量数。
Y array-like of shape (n_samples, n_targets)
目标向量,其中n_samples是样本数,n_targets是响应变量数。
fit_transform(self, X, y=None)

[源码]

在训练集上学习并应用降维。

参数 说明
X array-like of shape (n_samples, n_features)
训练向量,其中n_samples是样本数,n_features是预测变量数。
y array-like of shape (n_samples, n_targets)
目标向量,其中n_samples是样本数,n_targets是响应变量数。
返回值 说明
如果未指定Y,则为x_scores,否则为(x_scores,y_scores)。 -
get_params(self, deep=True)

[源码]

获取此估计量的参数。

参数 说明
deep bool, default=True
如果为True,则将返回此估算器和作为估算器的所包含子对象的参数。
返回值 说明
params mapping of string to any
参数名称映射到其值。
inverse_transform(self, X)

[源码]

将数据转换回其原始空间。

参数 说明
X array-like of shape (n_samples, n_components)
新数据,其中n_samples是样本数,n_components是pls分量数。
返回值 说明
x_reconstructed array-like of shape (n_samples, n_features)

仅当n_components = n_features时,此转换才是精确的

predict(self, X, copy=True)

[源码]

参数 说明
X array-like of shape (n_samples, n_features) 训练向量,其中n_samples是样本数,n_features是预测变量数。
copy boolean, default True
是复制X和Y,还是执行就地归一化。

该调用需要估计p x q矩阵,这在高维空间中可能是个问题。

score(self, X, y, sample_weight=None)

[源码]

返回预测的确定系数R^2。

系数R^2定义为(1- u / v),其中u是平方的残差和((y_true-y_pred)** 2).sum(),而v是平方的总和((y_true- y_true.mean())** 2).sum()。 可能的最高得分为1.0,并且可能为负(因为该模型可能会更差)。 不管输入特征如何,常数模型始终预测y的期望值将获得0.0的R^2分数。

参数 说明
X array-like of shape (n_samples, n_features)
测试样本。 对于某些估计量,可以是预先计算的内核矩阵或通用对象列表,shape =(n_samples,n_samples_fitted),其中n_samples_fitted是用于估计量拟合的样本数。
y array-like of shape (n_samples,) or (n_samples, n_outputs)
X的真实值。
sample_weight array-like of shape (n_samples,), default=None
样本权重。
返回值 说明
score float
self.predict(X)对于y的R^2

使用版本0.23的multioutput ='uniform_average'在回归器上调用score时,使用的R2分数,来保持与r2_score的默认值一致。 这会影响所有多输出回归器的score方法(MultiOutputRegressor除外)。

set_params(self, **params)

[源码]

设置此估算器的参数。

该方法适用于简单的估计器以及嵌套对象(例如管道)。 后者的参数格式为<component> __ <parameter>,以便可以更新嵌套对象的每个组件。

参数 说明
**params dict
估算器参数。
返回值 说明
self object
估算器实例。
transform(self, X, Y=None, copy=True)

[源码]

应用在训练集上学到的降维。

参数 说明
X array-like of shape (n_samples, n_features)
训练向量,其中n_samples是样本数,n_features是预测变量数。
Y array-like of shape (n_samples, n_targets)
目标向量,其中n_samples是样本数,n_targets是响应变量数。
copy boolean, default True
是复制X和Y,还是直接执行规范化.
返回值
如果未指定Y,则为x_scores,否则为(x_scores,y_scores)。

sklearn.cross_decomposition.PLSRegression使用示例