6-2分类编码、二值化与非线性转换

复习上节课：我们学会了把“体重（kg）”和“时长（分钟）”缩放到同一量级。

新问题（灵魂拷问）： 现在我们有一张“学生信息表”：

问题：如果我们想把“性别”和“班级”作为特征输入给逻辑回归或 KNN 模型，直接把这些汉字扔进去，代码会直接报错！

思考：机器学习模型是个“数学计算器”，它只认识数字（整数和小数），完全不认识“男”“女”“计应1班”。

引出解决方案：我们必须把这些文本标签翻译成数字。这就是 分类特征编码。

1. 场景模拟：给颜色编个号 假设特征“颜色”有 3 个取值：红、绿、蓝。 如果按照直觉编码：红=1，绿=2，蓝=3。 计算距离时：红(1)与绿(2)的距离是 1，红(1)与蓝(3)的距离是 2。
推导出的荒谬结论：模型会认为 “红色跟绿色更像，红色跟蓝色更不像” ！ 但在现实世界中，颜色只是“类别”，没有数学上的远近之分。红色并不比蓝色更接近绿色！

2. 解决方案 ①：独热编码（One-Hot Encoding） —— 解决“无序类别”的最佳方案

• 原理：一个类别有 N 种取值，就创建 N 个新的 0/1 特征列。
• 例子（红绿蓝）：
  • 红色 → [1, 0, 0]
  • 绿色 → [0, 1, 0]
  • 蓝色 → [0, 0, 1]
• 结论：任意两个颜色之间的距离都是 \( \sqrt{1^2+1^2} = \sqrt{2} \)，绝对平等，没有谁比谁更近！

3. 代码实操（Pandas 一键生成）

 1import pandas as pd
 2
 3# 原始数据（颜色）
 4df = pd.DataFrame({'颜色': ['红', '绿', '蓝', '红']})
 5
 6# 一键独热编码
 7df_encoded = pd.get_dummies(df, columns=['颜色'])
 8
 9print(df_encoded)
10# 输出结果：
11#    颜色_红  颜色_绿  颜色_蓝
12# 0     1      0      0
13# 1     0      1      0
14# 2     0      0      1
15# 3     1      0      0

4. 解决方案 ②：标签编码（Label Encoding） —— 只用于“有序类别”

• 什么时候用？当类别本身有明确的高低、等级顺序时。比如：学历 = 小学(0)、初中(1)、高中(2)、大学(3)。
• 代码：from sklearn.preprocessing import LabelEncoder。但职高阶段强烈推荐优先使用独热编码，除非特征取值非常多（超过几十个）且有序。

1. 二值化（Binarizer）—— 把数字变成“是与否”开关

场景：预测学生是否玩游戏上瘾。特征“每日在线时长（分钟）”并不需要精确的 125 分钟，我们只关心“是否超过 2 小时（120 分钟）”。

• 操作：设定阈值，大于阈值的变为 1，小于等于的变为 0。
• 代码：

1from sklearn.preprocessing import Binarizer
2
3data = [[50], [130], [200], [30]]
4binarizer = Binarizer(threshold=120)  # 阈值设为120分钟
5result = binarizer.fit_transform(data)
6print(result)  # 输出：[[0], [1], [1], [0]]   （超过2小时为1）

2. 非线性转换（对数变换）—— 收拾“极端大数”刺头

场景：分析居民收入。马云年收入 1 个亿（100000000），普通人年收入 5 万（50000）。

• 问题：如果直接做归一化，马云那个 1 亿会把所有普通人的收入压成接近 0，模型完全看不到普通人的差异。
• 对策：取对数 \( \log(数据) \)，把巨大的差距压缩成较小的差距。
• 代码：

1import numpy as np
2incomes = [50000, 60000, 100000000]  # 普通人和马云
3log_incomes = np.log1p(incomes)  # log1p 是 log(1+x)，防止出现 0 导致负无穷
4print(log_incomes)
5# 输出：普通人的值从 5万 变成了 10.8，马云从 1亿 变成了 18.4，差距被大大缩小！