1601 降维与PCA

🔄 回顾无监督学习的两大阵营

在之前的课程中，我们学习了聚类（Clustering）——在没有标签的情况下，让计算机自动发现数据中的“群体”。比如K-Means把客户分成不同的群体。

今天我们要学习的，是无监督学习的另一个重要工具——降维（Dimensionality Reduction）。

类比：聚类和降维就像两个“盲人摸象”的工具：

• 聚类 → 把相似的事物归拢到一起（分组）
• 降维 → 把复杂的事物简化展示（透视）

🌊 情景模拟：瑞士卷的启示

展示一张“瑞士卷”3D数据图（即Swiss Roll数据集）：

• 从3D视角看：数据像一卷蛋糕，卷曲缠绕，肉眼很难看清它的内部结构。
• 但如果我们将它“展开”成2D平面，就会发现：数据其实是沿着一条长带分布的，颜色从一端渐变到另一端。

核心提问：

• 3D版本的数据，你很难看出“数据是怎么分布的”。
• 2D展开版本，你一眼就能看出“数据是沿着一条渐变路径延伸的”。

降维的核心价值就在这里：

降维不是为了“丢掉信息”，而是为了“找到合适的视角”，让你看清楚数据的骨架。

📌 本节课定位

在无监督学习章节中，降维与聚类并列为两大探索工具：

• 聚类：从样本角度找“群体”（哪些样本聚在一起）
• 降维：从特征角度找“骨架”（数据在哪个方向上变化最大）

两者可以单独使用，也可以组合使用——先降维可视化观察数据结构，再选择合适的方法做深入分析。

💡 和特征处理章节的“降维”有什么区别？

1. 核心思想：找一条“最佳投影线”

想象桌子上撒了一把长条形的豆子（二维数据：X轴和Y轴）。

• 原始坐标：你要用(x, y)两个数描述每颗豆子的位置。
• 降维目标：只用一个数（一维）描述每颗豆子。

怎么做？

• ❌ 错误做法：只取X坐标，抛弃Y坐标（丢掉了豆子在Y方向的高低差异）。
• ✅ PCA做法：画一条穿过豆子群中间、且豆子们在这条线上的投影分散得最开的斜线。

2. 关键术语（只讲意象，不讲公式）

3. 为什么“方差越大=信息越多”？（核心难点，重点展开）

想象你在拍摄一张集体照，有5个人站在一条直线上：

• 情况A（方差小） ：5个人都挤在画面正中央的一小块区域。你很难分清谁是谁，因为你无法从“位置”这个维度区分他们——区分度低，信息量少。
• 情况B（方差大） ：5个人均匀分布，一个人站在最左边，一个在最右边，其余均匀分布。你可以很清楚地通过“位置”来分辨每一个人——区分度高，信息量丰富。

PCA找的正是那个“最能拉开人与人距离”的方向——也就是方差最大的方向。

4. 降维作为“探索工具”的三大用途

5. ⚠️ 降维的代价

降维后，新生成的“主成分”失去了原始特征的具体名字（比如“花瓣长度”变成了PC1），变成了一个“综合指标”。

在探索性分析中，这不一定是坏事——因为我们的目的不是“解释每个主成分叫什么”，而是“观察数据的整体结构”。

但在需要向业务方汇报时，记得给主成分起“综合指数”这样的名字，方便对方理解。

1. 经典案例：鸢尾花（Iris）数据集

• 原始特征：花萼长度、花萼宽度、花瓣长度、花瓣宽度（4维）。
• 目标：将其降维到2维，用散点图展示三种鸢尾花的分布。
• 核心问题：我们提前知道鸢尾花有3种。但如果不知道呢？仅凭PCA降维后的散点图，我们能推断出“数据大概分成3类”吗？

这就是降维作为“探索工具”的价值——在没有任何标签的情况下，先降维画图，看看数据是否存在自然分组，再决定后续使用什么聚类方法（K-Means? 层次聚类? DBSCAN?）。

2. 完整代码

 1import numpy as np
 2import matplotlib.pyplot as plt
 3from sklearn.datasets import load_iris
 4from sklearn.decomposition import PCA
 5
 6# 第一步：加载数据
 7iris = load_iris()
 8X = iris.data          # 4维特征
 9y = iris.target        # 标签（本节课先用标签来着色，是为了验证降维效果）
10target_names = iris.target_names
11
12print("原始数据形状:", X.shape)  # (150, 4)
13
14# 第二步：创建PCA对象，指定降到2维
15pca = PCA(n_components=2)
16X_pca = pca.fit_transform(X)
17
18print("降维后形状:", X_pca.shape)  # (150, 2)
19
20# 第三步：可视化（2D散点图）
21plt.figure(figsize=(10, 8))
22colors = ['red', 'green', 'blue']
23for i, color, name in zip([0, 1, 2], colors, target_names):
24    plt.scatter(X_pca[y == i, 0], X_pca[y == i, 1], 
25                color=color, label=name, alpha=0.7, s=50)
26
27plt.xlabel('第一主成分 (PC1)')
28plt.ylabel('第二主成分 (PC2)')
29plt.title('鸢尾花 4维 → 2维 PCA 降维可视化')
30plt.legend()
31plt.grid(True)
32plt.show()
33
34# 第四步：查看每个主成分保留了多少信息
35print("各主成分解释方差比例:", pca.explained_variance_ratio_)
36print("前两个主成分累计保留信息:", sum(pca.explained_variance_ratio_))

3. 运行结果解读——从“探索”角度看问题

假设输出为：

1各主成分解释方差比例: [0.92, 0.05, 0.02, 0.01]
2前两个主成分累计保留信息: 0.97

解读（站在“探索性分析”的视角） ：

核心结论：

仅仅通过PCA降维可视化，即使没有任何标签，我们也能推断出：这组数据大概可以分成3类，且其中一类与其他两类差异较大。 这就是降维作为“探路者”的价值——它告诉我们应该往哪个方向继续探索（比如：尝试K-Means，K=3）。

4. 课堂互动提问

• 如果我们在做完PCA后，看到散点图上3个簇非常清晰，下一步应该做什么？
• 答案：可以尝试用K-Means（K=3）进行聚类，然后用聚类结果与真实标签对比，验证降维后的可视化是否“可信”。