在信息论中常用互信息（MI，Mutual Information）来衡量两个词的相关度MI(X,Y)=log2p(x,y)/p(x)p(y)
MI越大，表示两个词之间的结合越紧密。
当X,Y关联大时，MI(X,Y)大于0；当X与Y关系弱时，MI(X,Y)等于0；当MI(X,Y)小于0时，X与Y称为“互补关系”

这个算式看起来很直观，但计算还是有些麻烦，因为计算概率值p(x)，p(y)都需要在语料中进行分词，

下面介绍一个简便而直观的算法：
假设一个文章集合 {C}，总文章数目为N，其中含有单词X的文章总数为Nx，含有单词Y的文章总数是Ny，含有｛X+Y｝的文章总数是 Nxy，那么相关性这么计算
Corr(X,Y)= Math.log10(N/Nx)*Math.log10(N/Ny)*Nxy/(Nx+Ny-Nxy)
我写了一个程序进行测试，首先准备一个词典，然后准备大量语料，为检索方便，用lucence建索引，然后查询每个词与两个词交集的个数。测试汽车，前两百名结果非常好。测试一个不常见的词，如活性炭，得到的结果如下，还蛮不错的。

主关键词x 关联词y 关联词数Ny 主关键词数Nx 总文章数N Nxy Coorr(X,y) 活性碳不织布1672112719992.316674活性碳回力胶2572112719991.996593活性碳吸音棉2972112719991.883334活性碳珍珠棉3172112719991.831631活性碳滤袋3972112719981.453371活性碳防尘网5972112719991.32477活性碳云母片2672112719961.26853活性碳压敏胶2772112719961.250454活性碳超滤膜1972112719940.92056活性碳海棉11972112719990.82483活性碳反渗透155721127199100.746471活性碳滤膜4772112719940.639034活性碳电导仪472112719920.617857活性碳铜箔10072112719960.614342活性碳糊精5272112719940.606269活性碳铝粉5272112719940.606269活性碳制冰机2772112719930.605689活性碳水净化219721127199100.554048活性碳滤芯356721127199150.533304活性碳ro膜1472112719920.489964活性碳工业水16572112719970.489529活性碳二氧化钛8372112719940.459238