提示调优

提示调优是一种资源高效的技术，用于将预训练的基础模型适配到特定的下游任务，而无需承担重新训练整个网络的计算成本。 与传统微调不同，后者会更新模型全部或大部分参数，而提示调优则冻结预训练模型的权重，仅优化一小部分可学习向量——称为"软提示"——这些向量被附加在输入数据之前。 这种方法使单个庞大的基础模型能够同时服务于多个专业化应用，显著降低存储需求和推理切换延迟成本。

提示词调优的机制

在标准机器学习（ML）工作流中， 诸如文本或图像之类的输入会被转换为称为 嵌入的数值表示形式。提示调优会在该输入序列中插入额外的可训练 嵌入向量。训练阶段，系统通过 反向传播计算梯度，但优化算法仅更新 软提示的数值，而不会触及庞大的模型结构。

该方法属于参数高效微调（PEFT）的一种形式。通过学习这些连续向量，模型被"引导"至期望输出。虽然该概念源于自然语言处理（NLP）领域，但已成功应用于计算机视觉（CV）任务，常被称为视觉提示微调（VPT）。

区分相关概念

要理解提示调优的实用性，必须将其与人工智能领域中的类似术语区分开来：

• 提示工程：这 涉及手动编写人类可读的文本指令（硬提示），以引导生成式人工智能模型。该过程无需编码或 训练。反之，提示调优则采用自动化的 监督学习来寻找最优的数值嵌入，这些嵌入可能与自然语言单词不对应。
• 全模型微调：传统方法会更新整个神经网络，这往往导致原始训练的"灾难性遗忘"。提示微调则能保留模型的原始能力，使其更易于在不相干任务间进行迁移学习。
• 少样本学习：通常指在大型语言模型的上下文窗口中提供少量示例。提示调优则有所不同，因为它会永久学习参数并保存以供重复使用，而非仅提供临时上下文。

实际应用

提示词调优技术使人工智能能在资源受限的环境中实现可扩展部署，这一核心理念与Ultralytics 在模型管理方面的理念不谋而合。

1. 多语言客户支持：全球性企业可采用单一核心的固定语言模型。通过训练适用于西班牙语、日语和德语的轻量级软提示，系统能实现即时语言切换。此方案避免了托管三个独立千兆字节级模型的巨额成本，转而依赖千字节级提示文件。
2. 医疗健康领域的人工智能：医学影像常面临数据稀缺问题。研究人员可采用通用视觉骨干模型（如视觉Transformer），通过提示词调优使其适应特定病变检测，例如视网膜疾病或肿瘤。这种方法既能保障患者数据隐私，又能快速适配新型医疗设备，无需进行完整模型重新训练。

实施实例

以下 PyTorch 示例演示了核心 机制概念：冻结模型的主层，并创建一个独立的可训练参数（即"软 提示"），该参数经过优化可影响输出。

import torch
import torch.nn as nn

# 1. Define a dummy backbone (e.g., a pre-trained layer)
backbone = nn.Linear(10, 5)

# 2. Freeze the backbone weights (crucial for prompt tuning)
for param in backbone.parameters():
    param.requires_grad = False

# 3. Create a 'soft prompt' vector that IS trainable
# This represents the learnable embeddings prepended to inputs
soft_prompt = nn.Parameter(torch.randn(1, 10), requires_grad=True)

# 4. Initialize an optimizer that targets ONLY the soft prompt
optimizer = torch.optim.SGD([soft_prompt], lr=0.1)

# Verify that only the prompt is being trained
trainable_params = sum(p.numel() for p in [soft_prompt] if p.requires_grad)
print(f"Optimizing {trainable_params} parameters (Soft Prompt only)")

与现代边缘人工智能的相关性

随着模型规模不断扩大，低成本适配能力变得至关重要。尽管YOLO26等架构已高度优化效率，但冻结骨干网络和高效适配的核心原则仍是边缘AI发展的基石。类似提示调优的技术使内存有限的设备能够通过简单替换小型配置文件（而非重新加载庞大神经网络），实现从目标检测到分割的多样化任务处理。

对于希望高效进行模型训练和部署的开发者而言，Ultralytics 等工具可确保模型针对特定硬件目标进行优化，同时运用现代MLOps的最佳实践。