从EMD、WMD到WRD：文本向量序列的相似度计算

~ 作者：@苏剑林

单位：追一科技

专长：NLP、神经网络

在NLP中，句子相似度比较常用的方法是将文本编码为向量，然后通过欧氏距离或余弦相似度衡量。然而，另一种方法是直接处理变长序列，比如Word2Vec或BERT转换后的向量序列，利用像WMD（Word Mover's Distance，推词机距离）和WRD（Word Rotator's Distance，旋转词距离）这样的工具进行精细比较。WMD基于Wasserstein距离，计算两个不同长度序列间的最短移动路径，而WRD在此基础上改进，使用余弦距离并考虑词向量的模长信息，使得相似度范围更易于理解。

WMD的计算涉及最优传输问题，利用线性规划求解，而WRD则在归一化处理时融入模长信息，更直观地反映词的重要程度。尽管这类方法效率相对较低，但理论上的优雅性和效果使其在某些场景中颇具吸引力。在实际应用中，可能会结合其他更快速的筛选方法，如下界公式，来减少WMD的计算量。

若想深入了解这些算法，可以参考原文作者的其他作品和相关论文。对于希望分享高质量内容的科研人员，PaperWeekly提供了一个平台，鼓励学术交流和知识传播，无论是最新论文解读还是技术分享，都是其关注的方向。

投稿要求包括原创性、注明作者信息以及通过多种方式提交。关于PaperWeekly，它是一个专注于AI论文解读的学术社区，欢迎加入讨论。

链接：http://paperweek.ly

微信公众号：PaperWeekly

微博：@PaperWeekly

---

合阳县19250112339： 向量空间模型的介绍 - ？
钟烟喉舒： 向量空间模型(VSM:Vector Space Model)由Salton等人于20世纪70年代提出,并成功地应用于著名的SMART文本检索系统.把对文本内容的处理简化为向量空间中的向量运算,并且它以空间上的相似度表达语义的相似度,直观易懂.

合阳县19250112339： python3如何构建文本向量 - ？
钟烟喉舒： python中的list叫做列表,可以通过append方法在列表的末尾添加单个元素 x = [1,2,3] x.append(4) 或者使用extend方法在列表末位添加多个元素,参数就变成了列表 x.append([4,5,6]) 或者使用insert方法在任意位置添加元素,第一个参数是插入元素的位置,第二个参数是插入元素的值!

合阳县19250112339： 怎么将容器存入文件和读取出来 - ？
钟烟喉舒： #include <iostream> #include <fstream> #include <vector> using namespace std;int main() {vector<int> iv1, iv2;fstream in;int n, i;in.open(＂data.txt＂); if (!in){cout << ＂open file failed!＂ << endl;return -1;} for (i = 0; i < 10; ++i){in >> n...

合阳县19250112339： C++读取文件内容如何使用vector容器进行读取? - ？
钟烟喉舒： 1).#include <iostream> #include <vector>using namespace std;int main() {int a[7]={1,2,3,4,5,6,7};vector<int> va(a,a+7); for(int i=0;i<va.size();i++)cout<<va[i]<<＂ ＂; } 这个是简单的遍历向量,输出向量全部元素. 2).这是简单的从向量 test.txt ...

合阳县19250112339： 你好,能不能请教一下一个关于Python转JAVA的问题呢!?将32x32的二进制图像文本矩阵转换成1x1024的向量 - ？
钟烟喉舒： package file; import java.io.*; public class txt { public static void main(String[] args) throws Exception { // TODO Auto-generated method stub FileOutputStream fod = null; try { fod = new FileOutputStream(＂in.txt＂); byte[] b1 = ＂A＂.getBytes(); byte[] ...

合阳县19250112339： lingo怎么输出矩阵,用@text输出的话就把矩阵的内容排成一个向量输出了 - ？
钟烟喉舒： 需要用@writefor函数 可以看下面的例子 model: sets: s/1..2/:; l(s,s):x; endsets data: x=1 2 3 4; @text('d:\out.txt')=@writefor(s(i):@writefor(s(j):x(i,j),' '),@newline(1)); enddata end

合阳县19250112339： 下面的例子中,()反映了古诺模型所描述的情形. - 上学吧找答案？
钟烟喉舒： C++中将文件中的东西读到向量中的代码:#include#include int main() { int i; ifstream fin(＂c:\\test.txt＂); if(!fin) { cout return 1; } fin>>i; cout} 舍去了向文件中写的代码.可以自己建一个txt文件,然后自己在里面写个数字就行了.(注意文件的路径和文件名)

合阳县19250112339： c++按二进制读入txt文本 - ？
钟烟喉舒： 从一个文本读取字符,转换为2进制数存到另一个文本中. 注意:因为2进制数高位有很多0,所以打印的时候无法显示#include <iostream> #include <fstream> using namespace std; int main() {char a;fstream fin(＂2.txt＂,ios::in),fout(＂3.txt＂,...