增量PCA

当要分解的数据集太大,无法适应内存时,通常使用增量主成分分析(IPCA)代替主成分分析(PCA)。它仍然依赖于输入数据的特征,但是更改批处理的大小可以控制内存的使用。

此示例可用作视觉检查,以确保IPCA能够找到与PCA类似的数据投影(到符号翻转),同时一次只处理几个样本。这可以被看作是一个“玩具示例”,因为IPCA是针对不适合主内存的大型数据集的,需要增量方法。

print(__doc__)

# Authors: Kyle Kastner
# License: BSD 3 clause

import numpy as np
import matplotlib.pyplot as plt

from sklearn.datasets import load_iris
from sklearn.decomposition import PCA, IncrementalPCA

iris = load_iris()
X = iris.data
y = iris.target

n_components = 2
ipca = IncrementalPCA(n_components=n_components, batch_size=10)
X_ipca = ipca.fit_transform(X)

pca = PCA(n_components=n_components)
X_pca = pca.fit_transform(X)

colors = ['navy''turquoise''darkorange']

for X_transformed, title in [(X_ipca, "Incremental PCA"), (X_pca, "PCA")]:
    plt.figure(figsize=(88))
    for color, i, target_name in zip(colors, [012], iris.target_names):
        plt.scatter(X_transformed[y == i, 0], X_transformed[y == i, 1],
                    color=color, lw=2, label=target_name)

    if "Incremental" in title:
        err = np.abs(np.abs(X_pca) - np.abs(X_ipca)).mean()
        plt.title(title + " of iris dataset\nMean absolute unsigned error "
                  "%.6f" % err)
    else:
        plt.title(title + " of iris dataset")
    plt.legend(loc="best", shadow=False, scatterpoints=1)
    plt.axis([-44-1.51.5])

plt.show()

脚本的总运行时间:(0分0.232秒)

Download Python source code: plot_incremental_pca.py

Download Jupyter notebook: plot_incremental_pca.ipynb