$ hub install word2vec_skipgram==1.1.0

SKipGram模型框架图

更多详情请参考论文

API

context(trainable=False, max_seq_len=128, num_slots=1)

获取该Module的预训练program以及program相应的输入输出。

参数

• trainable(bool): trainable=True表示program中的参数在Fine-tune时需要微调，否则保持不变。
• max_seq_len(int): 模型使用的最大序列长度。
• num_slots(int): 输入到模型所需要的文本个数，如完成单句文本分类任务，则num_slots=1；完成pointwise文本匹配任务，则num_slots=2；完成pairtwise文本匹配任务，则num_slots=3；

返回

• inputs(dict): program的输入变量
• outputs(dict): program的输出变量
• main_program(Program): 带有预训练参数的program

代码示例

import paddlehub as hub

# Load word2vec pretrained model
module = hub.Module(name="word2vec_skipgram")
inputs, outputs, program = module.context(trainable=True)

# Must feed all the tensor of module need
word_ids = inputs["text"]

# Use the pretrained word embeddings
embedding = outputs["emb"]

依赖

paddlepaddle >= 1.8.0

paddlehub >= 1.8.0

更新历史

• 1.0.0

  初始发布

• 1.1.0

  模型升级，支持用于文本分类，文本匹配等各种任务迁移学习