如何解决全局词嵌入，用于局部词嵌入
想象一下，根据某些条件，我们为国王一词拥有三个向量（vec1，vec2，vec3），我们将这三个向量称为国王的局部向量。哪种方法足以从可以在下游任务中使用的这三个局部向量（vec1，vec2，vec3）生成单词king的全局（单个或唯一）向量。 共有三种可能的选择：
Concat(vec1,vec2,vec3)
average(vec1,vec3)
sum(vec1,vec3)
足够了吗？为什么？ 有参考吗？
解决方法
您尚未说明这三个向量是如何创建的，这很重要。如果从某种重要意义上说，创建它们的方法意味着它们全部共享“相同的坐标系”，那么将它们相加或取平均值可能是适当的。
但是，如果它们是以不相关的方式导出的，因此它们的各个坐标不是属于同一自洽/可比较系统的一部分，则级联更为有意义，可以保留其各自的信息–将所有这些信息转发到下游步骤，而没有任何更重要的假设，也不允许任何不相关坐标系的随机/任意交互作用“消除”位置信息。
此外，如果vec1，vec2和vec3的维数不同，则级联始终有效，但求和/平均值将无效。
（如果您添加了有关vec1，vec2，vec3不同来源的更具体的信息，我可能会给出更多的理由。）
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。