术语表

降维

利用降维技术简化高维数据。提高 ML 模型的性能、可视化和效率！

降维是机器学习（ML）和数据分析中的一个重要过程，用于减少数据集中的特征（或维度）数量，同时尽可能多地保留有意义的信息。高维数据常见于计算机视觉和自然语言处理（NLP）等领域，会导致计算效率低下、模型复杂和过度拟合的风险。通过降低维度，我们旨在简化模型、提高训练速度、增强性能并促进数据可视化。

降维为何重要？

处理高维数据集会面临一些挑战，通常被称为"维度诅咒"。随着特征数量的增加，数据空间的体积也呈指数增长，需要更多的数据才能保持统计意义。降维可以通过以下方式帮助缓解这些问题：

降低计算成本：更少的维度意味着训练算法所需的计算量更少，从而加快了模型开发和推理的速度。
提高模型性能：去除无关或冗余特征可以减少噪音，帮助模型更好地泛化到未见过的数据中，从而提高准确率和其他性能指标。
实现数据可视化：人类很难将三维以上的数据可视化。使用主成分分析（PCA）或t 分布随机邻域嵌入（t-SNE）等技术将数据还原为二维或三维，可以实现可视化探索和洞察发现。
尽量减少冗余：高维数据通常包含相关特征。降维技术可以组合或选择特征，从而更紧凑地表示数据。

有两种主要的降维方法，通常在数据预处理过程中使用：

特征选择：这包括从与任务最相关的原始特征中选择一个子集。根据统计分数或模型重要性对特征进行排序，放弃不太重要的特征。关键的一点是，所选特征要保持原样不变。
特征提取：这种方法通过组合或转换原始特征来创建新的低维特征。与特征选择不同的是，生成的特征与原始特征不同，但能捕捉到基本信息。常用的特征提取技术包括 PCA、线性判别分析（LDA）和自动编码器。许多库，如Scikit-learn 都提供了这些方法的实现。

将降维与特征工程区分开来很重要，特征工程是一个更广泛的过程，可能涉及创建新特征、转换现有特征或降维等步骤。

降维技术被广泛应用于各个领域：

图像处理：高分辨率图像包含数百万像素（特征）。PCA 等技术或使用自动编码器的瓶颈层，可以在将数据输入卷积神经网络（CNN）以执行图像分类或医学图像分析等任务之前降低维度，从而加快以下模型的训练速度 Ultralytics YOLO.一篇研究论文阐述了如何使用 PCA 和 LDA 进行图像分类。
自然语言处理（NLP）：使用TF 或单词嵌入等方法表示的文本文档可能会产生非常高维的向量。潜在语义分析（LSA）或潜在德里赫利分配（LDA）等技术通过识别潜在主题或语义结构来降低维度，从而帮助完成文本摘要或情感分析等任务。斯坦福 NLP 小组等组织提供的资源对这些领域有更深入的研究。

降维是人工智能和人工智能领域管理现代数据集复杂性的一项基本技术。通过特征选择或特征提取来简化数据，从业人员可以建立更高效、稳健和可解释的模型。无论是在Ultralytics HUB等平台上加快训练速度，还是部署计算要求更低的模型，了解和应用降维对于优化工作流程都至关重要。