博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
16_ElasticSearch 使用原生cross-fiels 查询
阅读量:3728 次
发布时间:2019-05-22

本文共 1532 字,大约阅读时间需要 5 分钟。

16_ElasticSearch 使用原生cross-fields 查询

更多干货

概述

例子

GET /forum/article/_search{  "query": {    "multi_match": {      "query": "Peter Smith",      "type": "cross_fields",       "operator": "and",      "fields": ["author_first_name", "author_last_name"]    }  }}

使用most_fields 实现cross-fields存在的问题:

  • 只是找到尽可能多的field匹配的doc,而不是某个field完全匹配的doc
  • most_fields,没办法用minimum_should_match去掉长尾数据,就是匹配的特别少的结果
  • TF/IDF算法,比如Peter Smith和Smith Williams,搜索Peter Smith的时候,由于first_name中很少有Smith的,所以query在所有document中的频率很低,得到的分数很高,可能Smith Williams反而会排在Peter Smith前面

使用原生cross-fields 查询解决了以上问题:

问题1:只是找到尽可能多的field匹配的doc,而不是某个field完全匹配的doc

解决,要求每个term都必须在任何一个field中出现Peter,Smith

  • 要求Peter必须在author_first_name或author_last_name中出现

  • 要求Smith必须在author_first_name或author_last_name中出现

  • Peter Smith可能是横跨在多个field中的,所以必须要求每个term都在某个field中出现,组合起来才能组成我们想要的标识,完整的人名

  • 原来most_fiels,可能像Smith Williams也可能会出现,因为most_fields要求只是任何一个field匹配了就可以,匹配的field越多,分数越高

问题2:most_fields,没办法用minimum_should_match去掉长尾数据,就是匹配的特别少的结果

解决,既然每个term都要求出现,长尾肯定被去除掉了

  • java hadoop spark --> 这3个term都必须在任何一个field出现了
  • 比如有的document,只有一个field中包含一个java,那就被干掉了,作为长尾就没了

问题3:TF/IDF算法,比如Peter Smith和Smith Williams,搜索Peter Smith的时候,由于first_name中很少有Smith的,所以query在所有document中的频率很低,得到的分数很高,可能Smith Williams反而会排在Peter Smith前面

计算IDF的时候,将每个query每个field中的IDF都取出来,取最小值,就不会出现极端情况下的极大值了

说明:

Peter Smith1、 Peter2、 Smith
  • Smith,在author_first_name这个field中,在所有doc的这个Field中,出现的频率很低,导致IDF分数很高;
  • Smith在所有doc的author_last_name field中的频率算出一个IDF分数,因为一般来说last_name中的Smith频率都较高,所以IDF分数是正常的,不会太高;
  • 然后对于Smith来说,会取两个IDF分数中,较小的那个分数。就不会出现IDF分过高的情况。

更多相关文章

转载地址:http://seonn.baihongyu.com/

你可能感兴趣的文章
CSS的四种方式实现水平居中
查看>>
RISC-V生态架构浅析(认识RISC-V)
查看>>
? 精美图文带你掌握 JVM 内存布局
查看>>
谈谈go.sum
查看>>
tls 1.2 example
查看>>
GitHub 计划登陆中国,将产生哪些影响与意义?
查看>>
2019 我是怎样熬过来的?
查看>>
【C++学习计划】深入浅出——变量作用域(Day3)
查看>>
策略模式
查看>>
Spring Boot 实战 入门
查看>>
关于web系统整体优化提速总结
查看>>
稳定性三十六计-幂等设计
查看>>
分布式文件系统 - fastDFS
查看>>
BUAA OO 2019 第一单元作业总结
查看>>
格网编码查询方案在项目运用上的进一步探索
查看>>
【2020.04.03】asp.net core 3.1 枚举类型模型绑定问题
查看>>
Matlab适配器模式
查看>>
BUAA-OO-2019 第三单元总结
查看>>
Matlab策略模式
查看>>
架构整洁之道
查看>>