垃圾文本识别方法、装置及系统的制作方法_6

文档序号:9826242阅读:来源:国知局
的联合概率小于预设阈值,则识 别所述待识别文本为正常文本。
[0274] B16、根据B14或15所述的装置,其中,所述计算模块还适于:
[0275] 对于所述一个或多个字符串中的各个字符串,计算在该字符串存在的条件下,所 述待识别文本为垃圾文本的后验概率;
[0276] 根据所述各个字符串对于所述待识别文本为垃圾文本的后验概率,计算所述待识 别文本为垃圾文本的联合概率。
[0277] B17、根据B16所述的装置,其中,所述计算模块还适于:
[0278] 对所述各个字符串对于所述待识别文本为垃圾文本的后验概率进行从大到小排 序,选取排序在前的N个字符串;
[0279] 根据所述N个字符串中各个字符串对于所述待识别文本为垃圾文本的后验概率, 计算所述待识别文本为垃圾文本的联合概率。
[0280] B18、根据B14-B17任一项所述的装置,其中,还包括训练模块,所述训练模块包括:
[0281]获取单元,适于获取两组已经被识别的文本集,其中,一组为正常文本集,另一组 为垃圾文本集;
[0282]提取单元,适于分别提取两组文本集中的至少一个字符串;
[0283]生成单元,适于计算所述至少一个字符串分别在所述正常文本集和所述垃圾文本 集中出现的概率,并生成概率资料库。
[0284] B19、根据B18所述的装置,其中,所述生成单元还适于:
[0285] 若所述至少一个字符串仅出现在所述垃圾文本集中,则该字符串出现在所述正常 文本集中的概率规定为第一数值;
[0286] 若所述至少一个字符串仅出现在所述正常文本集中,则该字符串出现在所述垃圾 文本集中的概率规定为第二数值。
[0287] B20、根据B14-19任一项所述的装置,其中,所述计算模块还适于:
[0288] 获取所述各个字符串在所述垃圾文本集中的权重;
[0289] 根据所述各个字符串在所述垃圾文本集中的权重和该字符串对于所述待识别文 本为垃圾文本的后验概率,计算所述待识别文本为垃圾文本的联合概率。
[0290] B21、根据B20所述的装置,其中,所述计算模块还适于:
[0291]确定所述待识别文本分别为垃圾文本和正常文本的先验概率;
[0292]对于所述一个或多个字符串中的各个字符串,从所述概率资料库中获取该字符串 分别在所述垃圾文本集和所述正常文本集中出现的概率;
[0293]根据确定的所述待识别文本分别为垃圾文本和正常文本的先验概率、以及获取的 该字符串分别在所述垃圾文本集和所述正常文本集中出现的概率,计算在该字符串存在的 条件下,所述待识别文本为垃圾文本的后验概率。
[0294] B22、根据B21所述的装置,其中,所述计算模块还适于:
[0295]若从所述概率资料库中未获取到该字符串分别在所述垃圾文本集和所述正常文 本集中出现的概率,则设定该字符串分别在所述垃圾文本集和所述正常文本集中出现的概 率分别为第一指定值和第二指定值。
[0296] B23、根据B21或B22所述的装置,其中,所述待识别文本为垃圾文本的先验概率和 所述待识别文本为正常文本的先验概率,均为一具体设定数值。
[0297] B24、根据B14所述的装置,其中,还包括:
[0298] 拦截模块,适于在所述识别模块识别所述待识别文本为垃圾文本之后,对所述待 识别文本进行拦截。
[0299] B25、根据B15所述的装置,其中,还包括处理模块,适于:
[0300] 获取所述短信的发送方的电话号码,确定所述短信的发送方的电话号码的归属地 和/或地区编码;
[0301] 比较所述短信的发送方的电话号码的归属地和/或地区编码与所述短信接收方的 电话号码的归属地和/或地区编码,得到比较结果;
[0302] 根据所述比较结果,确定是否对所述短信执行拦截操作。
[0303] B26、根据B25所述的装置,其中,所述处理模块还适于:
[0304]若所述比较结果为所述短信的发送方的电话号码的归属地与所述短信接收方的 电话号码的归属地不一致,则对所述短信执行拦截操作;或者
[0305] 若所述比较结果为所述短信的发送方的电话号码的地区编码与所述短信接收方 的电话号码的地区编码不一致,则对所述短信执行拦截操作。
[0306] C27、一种垃圾文本识别系统,包括终端设备和云端服务器;
[0307]所述终端设备,适于根据B14-B26任一项所述装置识别待识别文本是否为垃圾文 本,并将识别结果上传给所述云端服务器;
[0308]所述云端服务器,适于利用所述识别结果,生成字符串的概率资料库。
[0309] C28、根据C27所述的系统,其中,所述云端服务器还适于:
[0310] 从所述识别结果的文本中提取至少一个字符串,其中,所述识别结果的文本包括 垃圾文本和正常文本;
[0311] 计算所述至少一个字符串分别在所述正常文本和所述垃圾文本中出现的概率,并 生成概率资料库。
[0312] C29、根据C27或C28所述的系统,其中,所述云端服务器还适于:
[0313] 将生成的字符串的概率资料库下发给所述终端设备,以更新所述终端设备中的概 率资料库。
【主权项】
1. 一种垃圾文本识别方法,包括: 获取待识别文本,从所述待识别文本中提取一个或多个字符串; 基于所述一个或多个字符串,计算所述待识别文本为垃圾文本的联合概率; 确定所述待识别文本为垃圾文本的联合概率是否大于或等于预设阈值; 若是,则识别所述待识别文本为垃圾文本。2. 根据权利要求1所述的方法,其中,还包括: 若确定所述待识别文本为垃圾文本的联合概率小于预设阈值,则识别所述待识别文本 为正常文本。3. 根据权利要求1或2所述的方法,其中,基于所述一个或多个字符串,计算所述待识别 文本为垃圾文本的联合概率,包括: 对于所述一个或多个字符串中的各个字符串,计算在该字符串存在的条件下,所述待 识别文本为垃圾文本的后验概率; 根据所述各个字符串对于所述待识别文本为垃圾文本的后验概率,计算所述待识别文 本为垃圾文本的联合概率。4. 根据权利要求3所述的方法,其中,根据所述各个字符串对于所述待识别文本为垃圾 文本的后验概率,计算所述待识别文本为垃圾文本的联合概率,包括: 对所述各个字符串对于所述待识别文本为垃圾文本的后验概率进行从大到小排序,选 取排序在前的N个字符串; 根据所述N个字符串中各个字符串对于所述待识别文本为垃圾文本的后验概率,计算 所述待识别文本为垃圾文本的联合概率。5. 根据权利要求1-4任一项所述的方法,其中,还包括: 获取两组已经被识别的文本集,其中,一组为正常文本集,另一组为垃圾文本集; 分别提取两组文本集中的至少一个字符串; 计算所述至少一个字符串分别在所述正常文本集和所述垃圾文本集中出现的概率,并 生成概率资料库。6. 根据权利要求5所述的方法,其中,计算所述至少一个字符串分别在所述正常文本集 和所述垃圾文本集中出现的概率,包括: 若所述至少一个字符串仅出现在所述垃圾文本集中,则该字符串出现在所述正常文本 集中的概率规定为第一数值; 若所述至少一个字符串仅出现在所述正常文本集中,则该字符串出现在所述垃圾文本 集中的概率规定为第二数值。7. 根据权利要求1-6任一项所述的方法,其中,根据所述各个字符串对于所述待识别文 本为垃圾文本的后验概率,计算所述待识别文本为垃圾文本的联合概率,包括: 获取所述各个字符串在所述垃圾文本集中的权重; 根据所述各个字符串在所述垃圾文本集中的权重和该字符串对于所述待识别文本为 垃圾文本的后验概率,计算所述待识别文本为垃圾文本的联合概率。8. 根据权利要求3所述的方法,其中,对于所述一个或多个字符串中的各个字符串,计 算在该字符串存在的条件下,所述待识别文本为垃圾文本的后验概率,包括: 确定所述待识别文本分别为垃圾文本和正常文本的先验概率; 对于所述一个或多个字符串中的各个字符串,从所述概率资料库中获取该字符串分别 在所述垃圾文本集和所述正常文本集中出现的概率; 根据确定的所述待识别文本分别为垃圾文本和正常文本的先验概率、以及获取的该字 符串分别在所述垃圾文本集和所述正常文本集中出现的概率,计算在该字符串存在的条件 下,所述待识别文本为垃圾文本的后验概率。9. 一种垃圾文本识别装置,包括: 提取模块,适于获取待识别文本,从所述待识别文本中提取一个或多个字符串; 计算模块,适于基于所述一个或多个字符串,计算所述待识别文本为垃圾文本的联合 概率; 确定模块,适于确定所述待识别文本为垃圾文本的联合概率是否大于或等于预设阈 值; 识别模块,适于若所述确定模块确定所述待识别文本为垃圾文本的联合概率大于或等 于预设阈值,则识别所述待识别文本为垃圾文本。10. -种垃圾文本识别系统,包括终端设备和云端服务器; 所述终端设备,适于根据权利要求9所述装置识别待识别文本是否为垃圾文本,并将识 别结果上传给所述云端服务器; 所述云端服务器,适于利用所述识别结果,生成字符串的概率资料库。
【专利摘要】本发明提供了一种垃圾文本识别方法、装置及系统。该方法包括:客户端获取待识别文本,并从待识别文本中提取一个或多个字符串;基于一个或多个字符串,计算待识别文本为垃圾文本的联合概率;确定待识别文本为垃圾文本的联合概率是否大于或等于预设阈值,若是,则识别出待识别文本为垃圾文本。本发明实施例在原有贝叶斯算法的基础上引入联合概率,基于待识别文本中的一个或多个字符串,计算待识别文本为垃圾文本的联合概率,通过比较联合概率与预设阈值来识别待识别文本是否为垃圾文本,提高了识别垃圾短信的准确度,减少了文本形式的垃圾短信被误拦的情况。
【IPC分类】G06F17/27
【公开号】CN105589845
【申请号】CN201510959231
【发明人】常富洋, 张金晶, 李强
【申请人】北京奇虎科技有限公司, 奇智软件(北京)有限公司
【公开日】2016年5月18日
【申请日】2015年12月18日
当前第6页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1