Mindful interface for training signals
Norm 数据看板
白色极简界面,按样本、按层、outer 序列和 inner loss 四个视角查看训练过程中的 weight、momentum、relative update 与 loss 变化。
Inner / Sample
先选训练数据,再查看层内轨迹
用于定位单条训练数据在 inner loop 中的层级动态和参数变化。
序列明细
当前样本与层筛选下的参数序列摘要。
| param | sample | steps | ended_by_zero |
|---|
Inner / Layer
先选层,再对比训练数据
从层的角度观察不同训练数据下的 inner loop 信号差异。
序列明细
当前层与训练数据组合下的参数序列摘要。
| param | sample | steps | ended_by_zero |
|---|
Outer / Layer
按层查看 outer 序列
继续按 outer 序列过滤,便于定位单次 outer loop 的变化轨迹。
序列明细
当前 outer 筛选下的参数序列摘要。
| param | sample | steps | ended_by_zero |
|---|
Inner / Loss
按训练数据查看 inner loop loss
用于观察单条训练数据在 inner loop 各步中的 loss 变化,和 norm 轨迹中的 sample_id 保持同样的 slot 命名规则。
Loss 序列明细
当前训练数据下的 inner loss 序列摘要。
| sample | slot | steps | ended_by_zero |
|---|