1.信息检索中的重要发明TF-IDF
& &TF-IDF是一种统计方法，TF-IDF的主要思想是，如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。TF词频(Term Frequency)指的是某一个给定的词语在该文件中出现的次数。IDF反文档频率(Inverse Document Frequency)的主要思想是：如果包含词条的文档越少，IDF越大，则说明词条具有很好的类别区分能力。
Term frequency即关键词词频，是指一篇文章中关键词出现的频率，比如在一篇M个词的文章中有N个该关键词，则
（公式1.1-1）
为该关键词在这篇文章中的词频。
Inverse document frequency指逆向文本频率，是用于衡量关键词权重的指数，由公式
（公式1.2-1）
计算而得，其中D为文章总数，Dw为关键词出现过的文章数。
举例：关键字k1,k2,k3进行搜索结果的相关性就变成TF1*IDF1 + TF2*IDF2 + TF3*IDF3。比如document1的term总量为1000，k1,k2,k3在document1出现的次数是100，200，50。包含了 k1, k2, k3的docuement总量分别是1000， 1。document set的总量为10000。
TF1 = 100/1000 = 0.1TF2 = 200/1000 = 0.2TF3 = 50/1000 = 0.05IDF1 = log() = log(10) = 2.3IDF2 = log() = log(1) = 0;IDF3 = log() = log(2) = 0.69这样关键字k1,k2,k3与docuement1的相关性= 0.1*2.3 + 0.2*0 + 0.05*0.69 = 0.2645其中k1比k3的比重在document1要大，k2的比重是0.
TF/IDF来描述document的相似性。假如document1和document2的term的TF/IDF分别是t11，t12,t13,...t1n和t21,t22,t23,...,t2n.他们之间的相似性可以用余弦定理来表示。则：cos(d1,d2) = d1和d2的内积/(d1的长度*d2的长度) = (t11*t21 + t12*t22 + t13*t23 + ... + t1n*t2n)/(|d1|*|d2|).d1 = sqrt(t11*t11 + t12*t12 + t13*t13 + ... + t1n*t1n);夹角越大，相似性越大。为1则表示d1和d2一致。
2.基于空间向量的余弦算法
2.1算法步骤
预处理&文本特征项选择&加权&生成向量空间模型后计算余弦。
2.2步骤简介
2.2.1预处理
预处理主要是进行中文分词和去停用词，分词的开源代码有：ICTCLAS。
然后按照停用词表中的词语将语料中对文本内容识别意义不大但出现频率很高的词、符号、标点及乱码等去掉。如&这，的，和，会，为&等词几乎出现在任何一篇中文文本中，但是它们对这个文本所表达的意思几乎没有任何贡献。使用停用词列表来剔除停用词的过程很简单，就是一个查询过程：对每一个词条，看其是否位于停用词列表中，如果是则将其从词条串中删除。
图2.2.1-1中文文本相似度算法预处理流程
2.2.2文本特征项选择与加权
过滤掉常用副词、助词等频度高的词之后，根据剩下词的频度确定若干关键词。频度计算参照TF公式。
加权是针对每个关键词对文本特征的体现效果大小不同而设置的机制，权值计算参照IDF公式。
2.2.3向量空间模型VSM及余弦计算
向量空间模型的基本思想是把文档简化为以特征项（关键词）的权重为分量的N维向量表示。
这个模型假设词与词间不相关（这个前提造成这个模型无法进行语义相关的判断，向量空间模型的缺点在于关键词之间的线性无关的假说前提），用向量来表示文本，从而简化了文本中的关键词之间的复杂关系，文档用十分简单的向量表示，使得模型具备了可计算性。
在向量空间模型中，文本泛指各种机器可读的记录。
用D（Document）表示文本，特征项（Term，用t表示）指出现在文档D中且能够代表该文档内容的基本语言单位，主要是由词或者短语构成，文本可以用特征项集表示为D（T1，T2，&，Tn），其中Tk是特征项，要求满足1&=k&=N。
下面是向量空间模型（特指权值向量空间）的解释。
假设一篇文档中有a、b、c、d四个特征项，那么这篇文档就可以表示为
D（a，b，c，d）
对于其它要与之比较的文本，也将遵从这个特征项顺序。对含有n个特征项的文本而言，通常会给每个特征项赋予一定的权重表示其重要程度，即
D＝D（T1，W1；T2，W2；&，Tn，Wn）
D＝D（W1，W2，&，Wn）
我们把它叫做文本D的权值向量表示，其中Wk是Tk的权重，1&=k&=N。
在上面那个例子中，假设a、b、c、d的权重分别为30，20，20，10，那么该文本的向量表示为
D（30，20，20，10）
在向量空间模型中，两个文本D1和D2之间的内容相关度Sim（D1，D2）常用向量之间夹角的余弦值表示，公式为：
其中，W1k、W2k分别表示文本D1和D2第K个特征项的权值，1&=k&=N。
下面是利用模型进行余弦计算的示例。
在自动归类中，我们可以利用类似的方法来计算待归类文档和某类目的相关度。
假设文本D1的特征项为a，b，c，d，权值分别为30，20，20，10，类目C1的特征项为a，c，d，e，权值分别为40，30，20，10，则D1的向量表示为
D1（30，20，20，10，0）
C1的向量表示为
C1（40，0，30，20，10）
则根据上式计算出来的文本D1与类目C1相关度是0.86。
那么0.86具体是怎么推导出来的呢？
在数学当中，n维向量是
V{v1，v2，v3，...，vn}
|v|=sqrt（v1*v1+v2*v2+&+vn*vn）
两个向量的点积
m*n=n1*m1+n2*m2+......+nn*mn
sim＝（m*n）/（|m|*|n|）
它的物理意义就是两个向量的空间夹角的余弦数值。
下面是代入公式的过程：
d1*c1=30*40+20*0+20*30+10*20+0*10=2000
|d1|=sqrt（30*30+20*20+20*20+10*10+0*0）=sqrt（1800）
|c1|=sqrt（40*40+0*0+30*30+20*20+10*10）=sqrt（3000）
sim=d1*c1/（|d1|*|c1|）=2000/sqrt（）=0.86066
2.3算法实现
开源代码：Text-Similarity-0.08
简介：PERL脚本、自定义去停用词表、无语义识别功能、不适于中文。
局限：仅适用于英文、无语义相似判别功能
编译安装：
（1）进入代码主目录里的/bin
修改text_similarity.pl
将第一行改为#!/usr/bin/perl
（2）退回代码主目录，分别执行
perl Makefile.PL
make install
（3）重新进入主目录/bin进行测试
图2.3-1代码效果
可以看见语句&.......this is one&与&????this is two&的匹配度是0.66；
&.......this is one&与&.......this is two&的匹配度仍然是0.66；
&.......this is one&与&&&.this is one&的匹配度是1；
&.......this is one&与&..（）（）this is one&的匹配度是1。
说明匹配的算法去停用字功能存在。
这类算法没有很好地解决文本数据中存在的自然语言问题，即同义词和多义词。这样对于搜索的精度产生很大的影响。
2.5算法变体
图2.5-1算法变体（红）
3.改进算法
3.1隐形语义引标
隐性语义标引（LSI）利用矩阵理论中的&奇异值分解（SVD）&技术，将词频矩阵转化为奇异矩阵：首先从全部的文档集中生成一个文档矩阵，该矩阵的每个分量为整数值，代表某个特定的文档矩阵出现在某个特定文档中次数。然后将该矩阵进行奇异值分解，较小的奇异值被剔除。结果奇异向量以及奇异值矩阵用于将文档向量和查询向量映射到一个子空间中，在该空间中，来自文档矩阵的语义关系被保留。最后，可以通过标准化的内积计算来计算向量之间的夹角余弦相似度，进而根据计算结果比较文本间的相似度。LSI引入的唯一变化就是剔除小的奇异值，因为与小的奇异值相关联的特征实际上在计算相似度时并不相关，将它们包括进来将降低相关性判断的精确度。保留下来的特征是那些对文档向量在m维空间中的位置大有影响的特征。剔除小的奇异值将文档特征空间变为文档概念空间。概念向量之问使用内积的夹角余弦相似度计算比原来基于原文本向量的相似度计算更可靠，这也是使用LSI方法的主要原因所在。LSI的缺点在于它的效果依赖于上下文信息，过于稀疏的语料不能很好的体现其潜在的语义。
3.2基于语义相似度的文本相似度算法
用向量空间模型（VSM）来表示文本在该领域内普遍受到认可，是因为其在知识表示方法上的巨大优势。在该模型中，文本内容被形式化为多维空间中的一个点，通过向量的形式给出，把对文本内容的处理简化为向量空间中向量的运算，使问题的复杂性大为降低。但是它很大的不足之处在于只考虑了词在上下文中的统计特性，假定关键词之间线性无关，而没有考虑词本身的语义信息，因此具有一定的局限性。
结合语义相似度计算后的算法流程如下所示：
图3.2-1基于向量空间的语义相似度算法流程图
其中，语义相关度计算获得相似度矩阵的方向有两个：基于知网HowNet或者基于WordNet。
4.其它算法涉及的相似度衡量方式
4.1基于拼音相似度的汉语模糊搜索算法
不同于传统的以关键词匹配为核心的匹配技术，这里提出基于拼音相似度的编辑距离来衡量汉字字符串之间的相似度。
论文提出三种编辑距离：基于汉字的编辑距离、基于拼音的编辑距离，以及基于拼音改良的编辑距离。
4.2最长公共子序列
（1）将两个字符串分别以行和列组成矩阵。
（2）计算每个节点行列字符是否相同，如相同则为1。
（3）通过找出值为1的最长对角线即可得到最长公共子串。
为进一步提升该算法，我们可以将字符相同节点的值加上左上角（d[i-1，j-1]）的值，这样即可获得最大公共子串的长度。如此一来只需以行号和最大值为条件即可截取最大子串。
4.3最小编辑距离算法
（1）狭义编辑距离
设A、B为两个字符串，狭义的编辑距离定义为把A转换成B需要的最少删除（删除A中一个字符）、插入（在A中插入一个字符）和替换（把A中的某个字符替换成另一个字符）的次数，用ED（A，B）来表示。直观来说，两个串互相转换需要经过的步骤越多，差异越大。
1.对两部分文本进行处理，将所有的非文本字符替换为分段标记&#&
2.较长文本作为基准文本，遍历分段之后的短文本，发现长文本包含短文本子句后在长本文中移除，未发现匹配的字句累加长度。
3.比较剩余文本长度与两段文本长度和，其比值为不匹配比率。
衡量文本相似度的几种手段：
（1）最长公共子串（基于词条空间）
（2）最长公共子序列（基于权值空间、词条空间）
（3）最少编辑距离法（基于词条空间）
（4）汉明距离（基于权值空间）
（5）余弦值（基于权值空间）
& & & & &&
阅读(...) 评论()下载作业帮安装包
扫二维码下载作业帮
1.75亿学生的选择
R7（7维向量空间）有3个5维子空间,U,V,W,证明 U交V交W 也是R7的子空间,维数至少为1.我没明白，就是“所以A的零空间至少是1维的，从而X至少是一维的”然后问下所有这类题目都这么做可以吗？就是交集维数问题。
rffitpr309
U,V,W的交显然是R7的子空间,用定义可以直接说明.要讨论维数的话可以这样做：设E={e_1,...,e_7}是R7的一组基,设U={u_i},V={v_i},W={w_i}分别是U,V,W的基在E下的坐标.任取X=(U交V交W)中的向量x,存在5维向量a,b,c使得x=Ua=Vb=Wc把上式写成一个大的矩阵形式Ay=0,其中A=U -V 00 V -Wy=abc注意到A的尺寸是14x15,所以A的零空间至少是1维的,从而X至少是一维的.
为您推荐：
其他类似问题
扫描下载二维码下载作业帮安装包
扫二维码下载作业帮
1.75亿学生的选择
设S是向量空间v的非空子集,若s对V的线性运算为封闭,则s是向量空间,
深渊骑士827928
1、V是向量空间,那么在V内就定义了线性运算,线性运算是数值乘向量的运算和向量之间加减运算.2、“s对V的线性运算为封闭”的意思：把向量空间V中定义的线性运算运用到s集合中的向量上,运算得到的结果是个向量,这个向量仍然属于S集合,就说：“s对V的线性运算为封闭”.3、S又是向量空间v的非空子集,又具备：“s对V的线性运算为封闭”,S就是V空间的一个子空间.你说：“则s是向量空间”,也没有错.更加严密的说应该是：S就是V空间的一个子空间.4、举例说明：XY平面上所有的向量组成的集合是整个三维空间的一个子集,XY平面任意几个向量的线性运算得到的结果向量还是XY平面上的向量,所以XY平面上所有的向量组成的集合是整个三维空间的一个子空间.但是,在XY平面上所有的向量组成的集合中任意除去一个向量,比如（0,1）甚至0向量,它仍然是整个三维空间的一个子集,但不是子空间.因为（0,3）-（0,2）=（0,1）,（0,1）不在子集中了,“s对V的线性运算为封闭”不满足了.
为您推荐：
其他类似问题
扫描下载二维码下载作业帮安装包
扫二维码下载作业帮
1.75亿学生的选择
如何证明一个向量空间是另一个向量空间的子空间?设A={(x,y)|x-y=0} 是不是在y=x上面的所以向量空间都是A的向量子空间?请举出一个例子并证明?
子空间的定义是由空间中一些向量的所有线性组合组成的集合.然后直接根据定义来证明就可以了……
为您推荐：
其他类似问题
扫描下载二维码下载作业帮安装包
扫二维码下载作业帮
1.75亿学生的选择
V是n维欧氏空间,α不等于0,是V中固定向量,子空间V1={x|(x,α)=0,x∈V},则dimV1= ,V1的正交补的正交补= 最好有解说,
可以把α看成是单位向量(1,0,...,0),那么所有其他n-1个这种类型的基向量都∈V1,所以V1维数=n-1V1的正交补应该就是α生成的子空间,再正交补就是V1自己吧.
为您推荐：
其他类似问题
扫描下载二维码