模型蒸馏通过调用教师模型产生问答对，再通过精调得到成本更低、特定任务效果更好的学生模型。

知识蒸馏是指学生模型学习真实标签（硬标签）和教师模型的输出概率分布（软标签）。

登录到本平台，选择模型蒸馏板块，创建蒸馏作业。

创建蒸馏作业

如果您在模型蒸馏作业列表中有创建好的模型任务，可以直接点击“新建任务”创作模型的迭代版本，如果已有运行中的版本，再次创建的运行任务不可切换教师模型和学生模型的类型。

选择蒸馏方式

在选择蒸馏方式中，选择知识蒸馏。

基本信息

填写好作业名称后，再进行500字内的作业描述即可。

在作业类型中，支持创建文本生成或图像理解作业。

训练框架配置

数据配置

• 原始数据来源支持选择平台数据集、对象存储BOS、分布式存储AFS。
• 若要发起蒸馏，仅支持选择一个数据集并多于100条，若数据集超过10000条，蒸馏数据构造耗时可能较长，请耐心等待。数据格式可以选择Prompt+Response、Role(user+assistant)数据进行蒸馏。

教师模型版本

文本生成作业中，教师模型版本默认值为Qwen3-32B，分别支持Qwen3-14B、Qwen3-8B，以及可以选择训练后或导入的模型。

图像理解作业中，教师模型版本默认值为Qwen2.5-VL-32B-Instruct，同时支持选择Qwen2.5-VL-7B-Instruct，以及可以选择训练后或导入的模型。

学生模型版本

文本生成作业中，学生模型版本当前支持Qwen3-0.6B。

图像理解作业中，学生模型版本当前支持Qwen2.5-VL-3B-Instruct。

训练方法与参数配置

支持配置软标签参数，软标签是指指每个 token 输出概率分布中，保留前 k 个词（token）和其对应概率（即软标签）。k 越大，信息保留越多，占用资源越多。默认值为1，该配置下蒸馏效率较高。

共有两种训练方式，根据模型的类型选择不同的方式。

训练方法	简单描述
全量更新	全量更新在训练过程中对大模型的全部参数进行更新
LoRA	训练过程中只更新低秩部分的参数，需要的计算资源更少，训练过程更快，可以减少过拟合的风险。

• 参数配置

所有蒸馏任务都提供基础的超参数选择，**迭代轮次（Epoch）**控制模型训练过程中遍历整个数据集的次数；**学习率（Learning Rate）**控制模型参数更新步长的速度；**序列长度(Sequence Length)**控制单条数据的最大长度，包括输入和输出。其他超参数详见模型蒸馏页面，可自由配置。

发布蒸馏模型

以上所有操作完成后，点击“确定”，则发起学生模型训练的任务。 开启“自动发布”按钮后，模型在蒸馏完成后会自动发布到我的模型中；若模型训练失败，则不自动发布模型。