{
"cells": [
{
"cell_type": "markdown",
"metadata": {},
"source": [
"# 主成分分析\n",
"４次元のirisデータを２次元に次元削減"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"## ライブラリの読み込みとデータの確認"
]
},
{
"cell_type": "code",
"execution_count": 92,
"metadata": {},
"outputs": [],
"source": [
"# 数値計算、ビジュアライゼーションライブラリの読み込み\n",
"import numpy as np\n",
"import pandas as pd\n",
"import matplotlib.pyplot as plt\n",
"from sklearn.preprocessing import StandardScaler\n",
"from sklearn.decomposition import PCA\n",
"from sklearn.datasets import load_iris\n",
"iris_dataset = load_iris()\n"
]
},
{
"cell_type": "code",
"execution_count": 93,
"metadata": {},
"outputs": [
{
"name": "stdout",
"output_type": "stream",
"text": [
"dict_keys(['data', 'target', 'target_names', 'DESCR', 'feature_names', 'filename'])\n"
]
}
],
"source": [
"# irisデータセットのキーの確認\n",
"print(iris_dataset.keys())"
]
},
{
"cell_type": "code",
"execution_count": 94,
"metadata": {},
"outputs": [
{
"name": "stdout",
"output_type": "stream",
"text": [
"['setosa' 'versicolor' 'virginica']\n"
]
}
],
"source": [
"# irisデータセットの品種の確認\n",
"print(iris_dataset['target_names'])"
]
},
{
"cell_type": "code",
"execution_count": 95,
"metadata": {},
"outputs": [
{
"name": "stdout",
"output_type": "stream",
"text": [
"['sepal length (cm)', 'sepal width (cm)', 'petal length (cm)', 'petal width (cm)']\n"
]
}
],
"source": [
"# irisデータセットの特微量の確認\n",
"print(iris_dataset['feature_names'])"
]
},
{
"cell_type": "code",
"execution_count": 96,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" sepal length (cm) | \n",
" sepal width (cm) | \n",
" petal length (cm) | \n",
" petal width (cm) | \n",
"
\n",
" \n",
" \n",
" \n",
" | 0 | \n",
" 5.1 | \n",
" 3.5 | \n",
" 1.4 | \n",
" 0.2 | \n",
"
\n",
" \n",
" | 1 | \n",
" 4.9 | \n",
" 3.0 | \n",
" 1.4 | \n",
" 0.2 | \n",
"
\n",
" \n",
" | 2 | \n",
" 4.7 | \n",
" 3.2 | \n",
" 1.3 | \n",
" 0.2 | \n",
"
\n",
" \n",
" | 3 | \n",
" 4.6 | \n",
" 3.1 | \n",
" 1.5 | \n",
" 0.2 | \n",
"
\n",
" \n",
" | 4 | \n",
" 5.0 | \n",
" 3.6 | \n",
" 1.4 | \n",
" 0.2 | \n",
"
\n",
" \n",
"
\n",
"
\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" sepal length (cm) | \n",
" sepal width (cm) | \n",
" petal length (cm) | \n",
" petal width (cm) | \n",
"
\n",
" \n",
" \n",
" \n",
" | 0 | \n",
" -0.900681 | \n",
" 1.019004 | \n",
" -1.340227 | \n",
" -1.315444 | \n",
"
\n",
" \n",
" | 1 | \n",
" -1.143017 | \n",
" -0.131979 | \n",
" -1.340227 | \n",
" -1.315444 | \n",
"
\n",
" \n",
" | 2 | \n",
" -1.385353 | \n",
" 0.328414 | \n",
" -1.397064 | \n",
" -1.315444 | \n",
"
\n",
" \n",
" | 3 | \n",
" -1.506521 | \n",
" 0.098217 | \n",
" -1.283389 | \n",
" -1.315444 | \n",
"
\n",
" \n",
" | 4 | \n",
" -1.021849 | \n",
" 1.249201 | \n",
" -1.340227 | \n",
" -1.315444 | \n",
"
\n",
" \n",
"
\n",
"
\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" PC1 | \n",
" PC2 | \n",
" PC3 | \n",
" PC4 | \n",
"
\n",
" \n",
" \n",
" \n",
" | 0 | \n",
" -2.684126 | \n",
" 0.319397 | \n",
" -0.027915 | \n",
" -0.002262 | \n",
"
\n",
" \n",
" | 1 | \n",
" -2.714142 | \n",
" -0.177001 | \n",
" -0.210464 | \n",
" -0.099027 | \n",
"
\n",
" \n",
" | 2 | \n",
" -2.888991 | \n",
" -0.144949 | \n",
" 0.017900 | \n",
" -0.019968 | \n",
"
\n",
" \n",
" | 3 | \n",
" -2.745343 | \n",
" -0.318299 | \n",
" 0.031559 | \n",
" 0.075576 | \n",
"
\n",
" \n",
" | 4 | \n",
" -2.728717 | \n",
" 0.326755 | \n",
" 0.090079 | \n",
" 0.061259 | \n",
"
\n",
" \n",
"
\n",
"
"
]
},
"metadata": {
"needs_background": "light"
},
"output_type": "display_data"
}
],
"source": [
"# 第一主成分と第二主成分でプロットする\n",
"plt.scatter(transformed[:, 0], transformed[:, 1], alpha=0.8, c=list(dfs.iloc[:, 0]))\n",
" \n",
"# グラフを表示する\n",
"plt.title('principal component')\n",
"plt.xlabel('pc1')\n",
"plt.ylabel('pc2')\n",
"\n",
"plt.show()"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"* ４つの特徴量からなるデータを２次元に次元削減し、平面上にプロットしています。\n",
"* 色の違いは品種の違いを意味します。\n",
"* 第一主成分（pc1）を x軸\n",
"* 第二主成分（pc2）を y軸\n",
"\n",
"結果、第二主成分(PC2)までで、3品種の区別ができそうなことがわかります。\n"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"## 寄与率と累積寄与率の確認"
]
},
{
"cell_type": "code",
"execution_count": 104,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" 0 | \n",
"
\n",
" \n",
" \n",
" \n",
" | PC1 | \n",
" 0.924619 | \n",
"
\n",
" \n",
" | PC2 | \n",
" 0.053066 | \n",
"
\n",
" \n",
" | PC3 | \n",
" 0.017103 | \n",
"
\n",
" \n",
" | PC4 | \n",
" 0.005212 | \n",
"
\n",
" \n",
"
\n",
"
"
]
},
"metadata": {
"needs_background": "light"
},
"output_type": "display_data"
}
],
"source": [
"# 累積寄与率の視覚化\n",
"import matplotlib.ticker as ticker\n",
"plt.gca().get_xaxis().set_major_locator(ticker.MaxNLocator(integer=True))\n",
"plt.plot([0] + list( np.cumsum(pca.explained_variance_ratio_)), \"-o\")\n",
"plt.xlabel(\"Number of principal components\")\n",
"plt.ylabel(\"Cumulative contribution rate\")\n",
"plt.grid()\n",
"plt.show()"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"結果、第二主成分(PC2)までで元のデータの 97% が表現できていることがわかります。\n"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"## 固有値と固有ベクトルの確認"
]
},
{
"cell_type": "code",
"execution_count": 106,
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" 0 | \n",
"
\n",
" \n",
" \n",
" \n",
" | PC1 | \n",
" 4.228242 | \n",
"
\n",
" \n",
" | PC2 | \n",
" 0.242671 | \n",
"
\n",
" \n",
" | PC3 | \n",
" 0.078210 | \n",
"
\n",
" \n",
" | PC4 | \n",
" 0.023835 | \n",
"
\n",
" \n",
"
\n",
"
\n",
"\n",
"
\n",
" \n",
" \n",
" | \n",
" 0 | \n",
" 1 | \n",
" 2 | \n",
" 3 | \n",
"
\n",
" \n",
" \n",
" \n",
" | PC1 | \n",
" 0.361387 | \n",
" -0.084523 | \n",
" 0.856671 | \n",
" 0.358289 | \n",
"
\n",
" \n",
" | PC2 | \n",
" 0.656589 | \n",
" 0.730161 | \n",
" -0.173373 | \n",
" -0.075481 | \n",
"
\n",
" \n",
" | PC3 | \n",
" -0.582030 | \n",
" 0.597911 | \n",
" 0.076236 | \n",
" 0.545831 | \n",
"
\n",
" \n",
" | PC4 | \n",
" -0.315487 | \n",
" 0.319723 | \n",
" 0.479839 | \n",
" -0.753657 | \n",
"
\n",
" \n",
"
\n",
"