MultiMarginLoss

class paddle.nn. MultiMarginLoss ( p: int = 1, margin: float = 1.0, weight=None, reduction: str = 'mean', name: str = None ) [源代码]

创建一个 MultiMarginLoss 的可调用类。通过计算输入 input 和 label 间的多分类问题的 hinge loss (margin-based loss) 损失。

损失函数如果在没有权重下计算每一个 mini-batch 的 loss 按照下列公式计算

\[\text{loss}(input_i, label_i) = \frac{\sum_{j} \max(0, \text{margin} - input_i[label_i] + input_i[j])^p}{\text{C}}\]

其中 \(0 \leq j \leq \text{C}-1\), 且 \(j \neq label_i\)， \(0 \leq i \leq \text{N}-1\) N 为 batch 数量, C 为类别数量。

如果含有权重 weight 则损失函数按以下公式计算

\[\text{loss}(input_i, label_i) = \frac{\sum_{j} \max(0, weight[label_i] * (\text{margin} - input_i[label_i] + input_i[j]))^p}{\text{C}}\]

参数

  • p (int，可选) - 手动指定幂次方指数大小，默认为 1。

  • margin (float，可选) - 手动指定间距，默认为 1。

  • weight (Tensor，可选) - 权重值，默认为 None。 如果给定权重则形状为 \([C, ]\)

  • reduction (str，可选) - 指定应用于输出结果的计算方式，可选值有：'none'、'mean'、'sum'。默认为 'mean'，计算 Loss 的均值；设置为 'sum' 时，计算 Loss 的总和；设置为 'none' 时，则返回原始 Loss。

  • name (str，可选) - 具体用法请参见 Name，一般无需设置，默认值为 None。

调用参数

  • input (Tensor) - 数据类型是 float32、float64。

  • label (Tensor) - 标签的数据类型为 int32、int64。

形状

  • input (Tensor) - \([N, C]\)，其中 N 是 batch_size， C 是类别数量。

  • label (Tensor) - \([N, ]\)。

  • output (Tensor) - 输出的 Tensor。如果 reduction 是 'none'，则输出的维度为 \([N, ]\)。如果 reduction 是 'mean' 或 'sum'，则输出的维度为 \([]\) 。

返回

返回计算 MultiMarginLoss 的可调用对象。

代码示例

import paddle
import paddle.nn as nn

input = paddle.to_tensor([[1, -2, 3], [0, -1, 2], [1, 0, 1]], dtype=paddle.float32)
label = paddle.to_tensor([0, 1, 2], dtype=paddle.int32)

multi_margin_loss = nn.MultiMarginLoss(reduction='mean')
loss = multi_margin_loss(input, label)
print(loss)