试题试做

共 11035 道。先按知识点进入练习，也可以从下面的最新题目直接试做。

最新试题 · 第 253 页

除 logits 蒸馏外，常见的蒸馏信号还有？

当教师与学生的输出词表不一致时，蒸馏应？

教师分布在计算蒸馏损失时应？

PyTorch 中实现蒸馏损失常用的函数是？

KL 散度满足三角不等式，是一个真正的距离度量。

关于 KL 散度与交叉熵的关系，正确的有？

总损失通常写作 L = α·L_distill + (1-α)·L_CE（硬标签），其含义是？

为什么蒸馏损失常乘以 T²？

蒸馏损失中 KL 的典型方向是？

KL 散度衡量的是？

Softmax 输出被直接当作置信度使用时需谨慎，因为？

二分类时 Softmax 等价于？

数值稳定实现 Softmax 的常用技巧是？

关于 Softmax 的性质，正确的有？

标准 Softmax（T=1）的主要问题是？

温度 T 越低，Softmax 输出的概率分布越平滑。

训练学生时，蒸馏损失中的软标签通常用什么温度生成？

蒸馏中提高温度 T 的主要目的是？

带温度 T 的 Softmax 公式为 exp(z_i/T)/Σexp(z_j/T)，T→∞ 时？

Softmax 的作用是？

试题试做第253页 - 生命科学与前沿科技学习平台 | 必学必会