multi_margin_loss

paddle.nn.functional. multi_margin_loss ( input, label, p: int = 1, margin: float = 1.0, weight=None, reduction: str = 'mean', name: str = None ) [源代码]

计算输入 inputlabel 间的多分类问题的 hinge loss 损失。

损失函数如果在没有的权重下计算每一个 mini-batch 的 loss 按照下列公式计算

\[\text{loss}(input_i, label_i) = \frac{\sum_{j} \max(0, \text{margin} - input_i[label_i] + input_i[j])^p}{\text{C}}\]

其中 \(0 \leq j \leq \text{C}-1\), 且 \(j \neq label_i\)\(0 \leq i \leq \text{N}-1\) N 为 batch 数量, C 为类别数量。

如果含有权重 weight 则损失函数按以下公式计算

\[\text{loss}(input_i, label_i) = \frac{\sum_{j} \max(0, weight[label_i] * (\text{margin} - input_i[label_i] + input_i[j]))^p}{\text{C}}\]

参数

  • input (Tensor) - \([N, C]\),其中 N 是 batch_size, C 是类别数量。数据类型是 float32、float64。

  • label (Tensor) - \([N, ]\)。标签 label 的数据类型为 int32、int64。

  • p (int,可选) - 手动指定范数,默认为 1。

  • margin (float,可选) - 手动指定间距,默认为 1。

  • weight (Tensor,可选) - 权重值,默认为 None。如果给定则形状为 \([C, ]\)

  • reduction (str,可选) - 指定应用于输出结果的计算方式,可选值有:'none''mean''sum'。默认为 'mean',计算 Loss 的均值;设置为 'sum' 时,计算 Loss 的总和;设置为 'none' 时,则返回原始 Loss。

  • name (str,可选) - 具体用法请参见 Name,一般无需设置,默认值为 None。

形状

  • input (Tensor) - \([N, C ]\),其中 N 是 batch_size,C 是类别问题。数据类型是 float32、float64。

  • label (Tensor) - \([N, ]\),标签 label 的数据类型为 int32、int64。

  • output (Tensor) - 输出的 Tensor。如果 reduction'none',则输出的维度为 \([N, ]\),与输入 input 的形状相同。如果 reduction'mean''sum',则输出的维度为 \([]\)

返回

返回计算的 Loss。

代码示例

>>> import paddle
>>> import paddle.nn.functional as F

>>> input = paddle.to_tensor([[1, 5, 3], [0, 3, 2], [1, 4, 1]], dtype=paddle.float32)
>>> label = paddle.to_tensor([1, 2, 1], dtype=paddle.int32)
>>> loss = F.multi_margin_loss(input, label, margin=1.0, reduction='none')
>>> print(loss)
Tensor(shape=[3], dtype=float32, place=Place(cpu), stop_gradient=True,
       [0.        , 0.66666663, 0.        ])