如何解决需要一个“词袋”类型的变压器
我有一个 NLP 项目,其中一组单词当前由 w2v
编码,以与其他单词集合进行比较。我想尝试 transformers
,它可以提供比 w2v
更好的编码。但是,由于数据的性质,我根本不需要位置编码(因为单词集合没有顺序)。 Is there a pretrained transformer that won't do positional encoding
?
解决方法
您可以使用 get_input_embeddings() 访问相应的嵌入层。请看一下罗伯塔的这个例子:
import torch
from transformers import RobertaTokenizerFast,RobertaModel
t = RobertaTokenizerFast.from_pretrained('roberta-base')
m = RobertaModel.from_pretrained('roberta-base')
e = m.get_input_embeddings()
myWordCollection = ['This','That','stackoverflow','huggingface']
#some of the words will consist of several tokens (i.e. several vectors)
i = t(myWordCollection,return_attention_mask=False,add_special_tokens=False)
#a dictionary with words:vectors for each token
o = {word:e(torch.tensor(ids)) for word,ids in zip(myWordCollection,i.input_ids)}
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。