scikit-learn机器学习笔记——KMeans聚类 原创

1495-冯同学

发表文章数:80

首页 » 算法 » 正文

KMeans步骤

1、随机设置K个特征空间内的点作为初始的聚类中心;
2、对于其他每个点计算到K个中心的距离,未知的点选择最近的一个聚类 中心点作为标记类别;
3、接着对着标记的聚类中心之后,重新计算出每个聚类的新中心点(平均值);
4、如果计算得出的新中心点与原中心点一样,那么结束,否则重新进行 第二步过程。
scikit-learn机器学习笔记——KMeans聚类
                    原创
scikit-learn机器学习笔记——KMeans聚类
                    原创
scikit-learn机器学习笔记——KMeans聚类
                    原创

KMeans API

• sklearn.cluster.KMeans(n_clusters=,init=‘k-means++’)

• k-means聚类
• n_clusters:开始的聚类中心数量
• init:初始化方法,默认为’k-means ++’
• labels_:默认标记的类型,可以和真实值比较(不是值比较)

KMeans性能评估指标

轮廓系数:

 

s

c

i

=

b

i

a

i

max

(

b

i

,

a

i

)

/begin{aligned} &/text { } s c_{i}=/frac{b_{i-} a_{i}}{/max /left(b_{i}, a_{i}/right)} /end{aligned}

 sci=max(bi,ai)biai

注 : 对于每个点

i

i

i 为已聚类数据中的样本,

b

i

b_{i}

bi

i

i

i 到其它族群的所有样本的平均 距离,

a

i

a_{i}

ai

i

i

i 到本身族的距离平均值。

最终计算出所有的样本点的轮廓系数平均值。

如果

s

c

i

s c_{i}

sci 小于0,说明

a

i

a_{i}

ai 的平均距离大于最近的其他族。 聚类效果不好。

如果

s

c

i

s c_{i}

sci 越大,说明

a

i

a_{i}

ai 的平均距离小于最近的其他族。 聚类效果好。

轮廓系数的值是介于 [-1,1],越趋近于1代表内聚度和分离度都相对较优。

Kmeans性能评估指标API

• sklearn.metrics.silhouette_score(X, labels)
• 计算所有样本的平均轮廓系数
• X:特征值
• labels:被聚类标记的目标值

KMeans应用实例

from sklearn.cluster import KMeans
import pandas as pd
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
from sklearn.metrics import silhouette_score

aisles = pd.read_csv('./aisles.csv')
prior = pd.read_csv('./order_products__prior.csv')
orders = pd.read_csv('./orders.csv')
products = pd.read_csv('./products.csv')

mg1 = pd.merge(aisles, products, left_on='aisle_id',right_on='aisle_id')

mg2 = pd.merge(mg1, prior, left_on='product_id', right_on='product_id')

mg3 = pd.merge(mg2, orders, left_on='order_id', right_on='order_id')

cross = pd.crosstab(mg3['user_id'], mg3['aisle'])

print(cross.head(5))
print(cross.shape)

pca = PCA(n_components=0.9)
pca_cross = pca.fit_transform(cross)

print(pca_cross.shape)

X_train = pca_cross[:300]

km = KMeans(n_clusters=3)

km.fit(X_train)

pre = km.predict(X_train)

colors = ['orange', 'red', 'blue']
colr = [colors[i] for i in pre]

plt.figure(figsize=(10,10), dpi=80)

plt.scatter(X_train[:,1], X_train[:,5], color=colr)
plt.xlabel('1')
plt.ylabel('5')

plt.show()

score = silhouette_score(X_train, pre)

print("平均轮廓系数:", score)
aisle    air fresheners candles  asian foods  ...  white wines  yogurt
user_id                                       ...                     
1                             0            0  ...            0       1
2                             0            3  ...            0      42
3                             0            0  ...            0       0
4                             0            0  ...            0       0
5                             0            2  ...            0       3
[5 rows x 134 columns]
(206209, 134)
(206209, 27)
平均轮廓系数: 0.656079899994259

scikit-learn机器学习笔记——KMeans聚类
                    原创

未经允许不得转载:作者:1495-冯同学, 转载或复制请以 超链接形式 并注明出处 拜师资源博客
原文地址:《scikit-learn机器学习笔记——KMeans聚类 原创》 发布于2021-02-16

分享到:
赞(0) 打赏

评论 抢沙发

评论前必须登录!

  注册



长按图片转发给朋友

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

Vieu3.3主题
专业打造轻量级个人企业风格博客主题!专注于前端开发,全站响应式布局自适应模板。

登录

忘记密码 ?

您也可以使用第三方帐号快捷登录

Q Q 登 录
微 博 登 录