文章目录
前言
- 本文学自黑马,当经过作者亲身实践后整理重要内容
- 建议:多动手,多动手!!
一 DSL查询文档
1.1 DSL查询分类
-
Elasticsearch提供了基于JSON的DSL(Domain Specific Language)来定义查询。常见的查询类型包括:
-
查询所有:查询出所有数据,一般测试用。例如:match_all
-
全文检索(full text)查询:利用分词器对用户输入内容分词,然后去倒排索引库中匹配。例如:match_query,multi_match_query
-
精确查询:根据精确词条值查找数据,一般是查找keyword、数值、日期、boolean等类型字段。例如:ids, range,term
-
地理(geo)查询:根据经纬度查询。例如:geo_distance,geo_bounding_box
-
复合(compound)查询:复合查询可以将上述各种查询条件组合起来,合并查询条件。例如:bool,function_score
- 查询的语法基本一致:
GET /indexName/_search { "query": { "查询类型": { "查询条件": "条件值" } } }
- 查询所有的内容:查询类型为match_all && 没有查询条件
# 查询所有 GET /indexName/_search { "query": { "match_all": { } } }
1.2 全文检索查询
- 全文检索查询的基本流程:
- 对搜索的内容做分词,得到词条
- 根据词条去倒排索引库中匹配,得到文档id
- 根据文档id找到文档,返回给用户
- 因为是使用词条去匹配,因此参与搜索的字段也必须是可分词的text类型的字段。
- 常见的全文检索查询包括:
match
查询:单字段查询multi_match
查询:多字段查询,任意一个字段符合条件即可
- match查询语法如下:
GET /indexName/_search { "query": { "match": { "FIELD": "TEXT" } } } #match查询示例 GET /hotel/_search { "query": { "match": { "all": "外滩如家" } } }
- mulit_match语法如下:
GET /indexName/_search { "query": { "multi_match": { "query": "TEXT", "fields": ["FIELD1", " FIELD12"] } } } #multi_match查询示例 GET /hotel/_search { "query": { "multi_match": { "query": "外滩如家", "fields": ["brand","name","business"] } } }
-
copy_to
参数允许您将多个字段的值复制到一个组字段中,然后可以将其作为单个字段进行查询。PUT /test { "mappings": { "properties": { "first_name": { "type": "text", "copy_to": "full_name" }, "last_name": { "type": "text", "copy_to": "full_name" }, "full_name": { "type": "text" } } } } PUT test/_doc/1 { "first_name": "shanghai", "last_name": "beijing" } GET test/_search { "query": { "match": { "full_name": { "query": "shanghai beijing", "operator": "and" } } } }
-
copy_to
是字段值,而不是 term(由分析过程产生) -
可以将相同的值复制到多个字段,使用
"copy_to": [ "field_1", "field_2" ]
-
搜索字段越多,对查询性能影响越大,因此建议采用copy_to,然后单字段查询的方式。
1.3 精准查询
- 精确查询一般是查找keyword、数值、日期、boolean等类型字段,不会对搜索条件分词。常见的有:
- term:根据词条精确值查询
- range:根据值的范围查询
- term查询
- 因为精确查询的字段搜是不分词的字段,所以查询的条件也必须是不分词的词条。查询时,输入的内容跟自动值完全匹配时才认为符合条件。如果用户输入的内容过多,反而搜索不到数据。
- 语法说明:
// term查询 GET /indexName/_search { "query": { "term": { "FIELD": { "value": "VALUE" } } } }
- range查询
- 范围查询,一般应用在对数值类型做范围过滤
- 基本语法:
// range查询 GET /indexName/_search { "query": { "range": { "FIELD": { "gte": 10, // 这里的gte代表大于等于,gt则代表大于 "lte": 20 // lte代表小于等于,lt则代表小于 } } } }
1.4 地理坐标查询
- 地理坐标查询,就是根据经纬度查询,官方文档
- 矩形范围查询
- 矩形范围查询【
geo_bounding_box
查询】,查询坐标落在某个矩形范围的所有文档 - 查询时,需要指定矩形的左上、右下两个点的坐标,然后画出一个矩形,落在该矩形内的都是符合条件的点
- 语法说明
// geo_bounding_box查询 GET /indexName/_search { "query": { "geo_bounding_box": { "FIELD": { "top_left": { // 左上点“ "lat": 31.1, "lon": 121.5 }, "bottom_right": { // 右下点 "lat": 30.9, "lon": 121.7 } } } } }
- 矩形范围查询【
- 附近查询
- 附近查询【距离查询(geo_distance)】:查询到指定中心点小于某个距离值的所有文档
- 语法说明:
// geo_distance 查询 GET /indexName/_search { "query": { "geo_distance": { "distance": "15km", // 半径 "FIELD": "31.21,121.5" // 圆心 } } }
- 附近查询【距离查询(geo_distance)】:查询到指定中心点小于某个距离值的所有文档
1.5 复合查询
- 复合(compound)查询:将其它简单查询组合起来,实现更复杂的搜索逻辑。常见的有两种:
fuction score
:算分函数查询,可以控制文档相关性算分,控制文档排名bool query
:布尔查询,利用逻辑关系组合多个其它的查询,实现复杂搜索
- 当使用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排列。
- 打分算法:
- 早期elasticsearch中,使用的打分算法是TF-IDF算法:
- 在后来的5.1版本升级中,elasticsearch将算法改进为BM25算法
- 想要深入了解的小伙伴,参看《史上最小白之BM25详解与实现》
- 早期elasticsearch中,使用的打分算法是TF-IDF算法:
- TF-IDF算法有一各缺陷,就是词条频率越高,文档得分也会越高,单个词条对文档影响较大。而BM25则会让单个词条的算分有一个上限,曲线更加平滑:
1.5.1 算分函数查询
-
根据相关度打分是比较合理的需求,但合理的不一定是产品经理需要的。
-
语法说明
-
function score 查询中包含四部分内容:
- 原始查询条件:query部分,基于这个条件搜索文档,并且基于BM25算法给文档打分,原始算分(query score)
- 过滤条件:filter部分,符合该条件的文档才会重新算分
- 算分函数:符合filter条件的文档要根据这个函数做运算,得到的函数算分(function score),有四种函数
- weight:函数结果是常量
- field_value_factor:以文档中的某个字段值作为函数结果
- random_score:以随机数作为函数结果
- script_score:自定义算分函数算法
- 运算模式:算分函数的结果、原始查询的相关性算分,两者之间的运算方式,包括:
- multiply:相乘
- replace:用function score替换query score
- 其它,例如:sum、avg、max、min
-
function score的运行流程如下:
- 根据原始条件查询搜索文档,并且计算相关性算分,称为原始算分(query score)
- 根据过滤条件,过滤文档
- 符合过滤条件的文档,基于算分函数运算,得到函数算分(function score)
- 将原始算分(query score)和函数算分(function score)基于运算模式做运算,得到最终结果,作为相关性算分。
-
关键点:
- 过滤条件:决定哪些文档的算分被修改
- 算分函数:决定函数算分的算法
- 运算模式:决定最终算分结果
-
演示
GET /hotel/_search { "query": { "function_score": { "query": { "match": { "all": "外滩" } }, "functions": [ #算分函数 { "filter": { "term": { "brand": "如家" # 过滤条件 } }, "weight": 10 # 算分权重 } ], "boost_mode": "sum" # 加权模式 } } }
1.5.2 布尔查询
- 布尔查询是一个或多个查询子句的组合,每一个子句就是一个子查询。子查询的组合方式有:
- must:必须匹配每个子查询,类似“与”
- should:选择性匹配子查询,类似“或”
- must_not:必须不匹配,不参与算分,类似“非”
- filter:必须匹配,不参与算分
- 注意:搜索时,参与打分的字段越多,查询的性能也越差。因此多条件查询时,建议:
- 搜索框的关键字搜索,是全文检索查询,使用must查询,参与算分
- 其它过滤条件,采用filter查询。不参与算分
- 演示
#bool查询 GET /hotel/_search { "query": { "bool": { "must": [ { "term": { "city": "上海"} } ], "should": [ { "term":{ "brand": "皇冠假日" }}, { "term":{ "brand": "华美达"}} ], "must_not": [ { "range": { "price": { "lte": 500 } }} ], "filter": [ { "range": { "score": { "gte": 45 } }} ] } } }
二 结果处理
- 搜索的结果可以按照用户指定的方式去处理或展示。
2.1 排序
2.1.1 普通字段排序
- elasticsearch默认是根据相关度算分(_score)来排序,但是也支持自定义方式对搜索结果排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。
GET /indexName/_search { "query": { "match_all": { } }, "sort": [ { "FIELD": "desc" // 排序字段、排序方式ASC、DESC } ] }
- 排序条件是一个数组,也就是可以写多个排序条件。按照声明的顺序,当第一个条件相等时,再按照第二个条件排序,以此类推
- 演示:酒店数据按照用户评价(score)降序排序,评价相同的按照价格(price)升序排序
#排序 GET /hotel/_search { "query": { "match_all": { } }, "sort": [ { "score": { "order": "desc" }, "price": { "order": "asc" } } ] }
2.1.2 地理坐标排序
- 语法说明:
GET /indexName/_search { "query": { "match_all": { } }, "sort": [ { "_geo_distance" : { "FIELD" : "纬度,经度", // 文档中geo_point类型的字段名、目标坐标点 "order" : "asc", // 排序方式 "unit" : "km" // 排序的距离单位 } } ] }
- 指定一个坐标,作为目标点,同时计算每一个文档中,指定字段(必须是geo_point类型)的坐标到目标点的距离,然后根据距离排序
2.2 分页
- elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。
- elasticsearch中通过修改from、size参数来控制要返回的分页结果:from:从第几个文档开始;size:总共查询几个文档
2.2.1 基本的分页
- 分页的基本语法如下:
GET /hotel/_search { "query": { "match_all": { } }, "from": 0, // 分页开始的位置,默认为0 "size": 10, // 期望获取的文档总数 "sort": [ { "price": "asc"} ] }
2.2.2 深度分页问题
- 假如现在查询990~1000的数据,查询逻辑要这么写:
GET /hotel/_search { "query": { "match_all": { } }, "from": 990, // 分页开始的位置,默认为0 "size": 10, // 期望获取的文档总数 "sort": [ { "price": "asc"} ] }
- 这里是查询990开始的数据,也就是 第 990 → 第 1000 第990\to第1000 第990→第1000条 数据。不过,elasticsearch内部分页时,必须先查询 0 → 1000 0\to1000 0→1000条,然后截取其中的 990 1000 990 ~ 1000 990 1000的这10条:
- ES是分布式的,所以会面临深度分页问题。例如按price排序后,获取from = 990,size =10的数据:
- 首先在每个数据分片上都排序并查询前1000条文档。
- 然后将所有节点的结果聚合,在内存中重新排序选出前1000条文档
- 最后从这1000条中,选取从990开始的10条文档
- 如果搜索页数过深,或者结果集(from + size)越大,对内存和CPU的消耗也越高。因此ES设定结果集查询的上限是10000
- 针对深度分页,ES提供了两种解决方案
- search after:分页时需要排序,原理是从上一次的排序值开始,查询下一页数据。[推荐]
- scroll:原理将排序数据形成快照,保存在内存。[不推荐使用]
2.3 小结
分页查询的常见实现方案 | 优点 | 缺点 | 使用场景 |
---|---|---|---|
from + size |
支持随机翻页 | 深度分页问题,默认查询上限(from + size)是10000 | 百度、京东、谷歌、淘宝这样的随机翻页搜索 |
after search |
没有查询上限(单次查询的size不超过10000) | 只能向后逐页查询,不支持随机翻页 | 没有随机翻页需求的搜索,例如手机向下滚动翻页 |
scroll |
没有查询上限(单次查询的size不超过10000) | 会有额外内存消耗,并且搜索结果是非实时的 | 海量数据的获取和迁移。从ES7.1开始不推荐,建议用 after search方案。 |
2.4 高亮
- 高亮显示的实现分为两步:
- 给文档中的所有关键字都添加一个标签,例如
<em>
标签 - 页面给
<em>
标签编写CSS样式
- 给文档中的所有关键字都添加一个标签,例如
- 高亮语法:
GET /hotel/_search { "query": { "match": { "FIELD": "TEXT" // 查询条件,高亮一定要使用全文检索查询 } }, "highlight": { "fields": { // 指定要高亮的字段 "FIELD": { "pre_tags": "<em>", // 用来标记高亮字段的前置标签 "post_tags": "</em>" // 用来标记高亮字段的后置标签 } } } }
- 注意:
- 高亮是对关键字高亮,因此搜索条件必须带有关键字,而不能是范围这样的查询。
- 默认情况下,高亮的字段,必须与搜索指定的字段一致,否则无法高亮
- 如果要对非搜索字段高亮,则需要添加一个属性:required_field_match=false
- 演示
# 实现高亮 GET /hotel/_search { "query": { "match": { "all": "如家" } }, "highlight": { "fields": { "name": { "require_field_match": "false", "pre_tags": "<em>", "post_tags": "</em>" } } } }
三 RestClient查询文档
3.1 快速入门
- 代码解读:
- 第一步,创建
SearchRequest
对象,指定索引库名 - 第二步,利用
request.source()
构建DSL,DSL中可以包含查询、分页、排序、高亮等 query()
:代表查询条件,利用QueryBuilders.matchAllQuery()
构建一个match_all查询的DSL- 第三步,利用client.search()发送请求,得到响应
- 第一步,创建
- 关键的API:
request.source()
,其中包含了查询、排序、分页、高亮等所有功能QueryBuilders
,其中包含match、term、function_score、bool等各种查询
3.2 解析响应
elasticsearch返回的结果是一个JSON字符串,结构包含:
hits
:命中的结果total
:总条数,其中的value是具体的总条数值max_score
:所有结果中得分最高的文档的相关性算分hits
:搜索结果的文档数组,其中的每个文档都是一个json对象_source
:文档中的原始数据,也是json对象
逐层解析JSON字符串,流程如下:
SearchHits
:通过response.getHits()获取,就是JSON中的最外层的hits,代表命中的结果SearchHits#getTotalHits().value
:获取总条数信息SearchHits#getHits()
:获取SearchHit数组,也就是文档数组SearchHit#getSourceAsString()
:获取文档结果中的_source,也就是原始的json文档数据
- 完整代码
@Test void testMatchAll() throws IOException { // 1.准备Request SearchRequest request = new SearchRequest("hotel"); // 2.准备DSL request.source() .query(QueryBuilders.matchAllQuery()); // 3.发送请求 SearchResponse response = client.search(request, RequestOptions.DEFAULT); // 4.解析响应 handleResponse(response); } private void handleResponse(SearchResponse response) { // 4.解析响应 SearchHits searchHits = response.getHits(); // 4.1.获取总条数 long total = searchHits.getTotalHits().value; System.out.println("共搜索到" + total + "条数据"); // 4.2.文档数组 SearchHit[] hits = searchHits.getHits(); // 4.3.遍历 for (SearchHit hit : hits) { // 获取文档source String json = hit.getSourceAsString(); // 反序列化 HotelDoc hotelDoc = JSON.parseObject(json, HotelDoc.class); System.out.println("hotelDoc = " + hotelDoc); } }
3.3 全文检索查询
- 全文检索的match和multi_match查询与match_all的API基本一致。差别是查询条件,也就是query的部分。同样是利用QueryBuilders提供的方法:
@Test
void testMatch() throws IOException {
// 1.准备Request
SearchRequest request = new SearchRequest("hotel");
// 2.准备DSL
request.source()
.query(QueryBuilders.matchQuery("all", "如家"));
// 3.发送请求
SearchResponse response = client.search(request, RequestOptions.DEFAULT);
// 4.解析响应
handleResponse(response);
}
3.4 精确查询
@Test
void testTerm() throws IOException {
// 1.准备Request
SearchRequest request = new SearchRequest("hotel");
// 2.准备DSL
//request.source().query(QueryBuilders.termQuery("city", "杭州"));
request.source().query(QueryBuilders.rangeQuery("price").gte(100).lte(150));
// 3.发送请求
SearchResponse response = client.search(request, RequestOptions.DEFAULT);
// 4.解析响应
handleResponse(response);
}
3.5 布尔查询
- 布尔查询是用must、must_not、filter等方式组合其它查询
@Test
void testBool() throws IOException {
// 1.准备Request
SearchRequest request = new SearchRequest("hotel");
// 2.准备DSL
// 2.1.准备BooleanQuery
BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();
// 2.2.添加term
boolQuery.must(QueryBuilders.termQuery("city", "上海"));
// 2.3.添加range
boolQuery.filter(QueryBuilders.rangeQuery("price").lte(250));
request.source().query(boolQuery);
// 3.发送请求
SearchResponse response = client.search(request, RequestOptions.DEFAULT);
// 4.解析响应
handleResponse(response);
}
3.6 排序&分页
@Test
void testPageAndSort() throws IOException {
// 页码,每页大小
int page = 1, size = 3;
// 1.准备Request
SearchRequest request = new SearchRequest("hotel");
// 2.准备DSL
// 2.1.query
request.source().query(QueryBuilders.matchAllQuery());
// 2.2.排序 sort
request.source().sort("price", SortOrder.ASC);
// 2.3.分页 from、size
request.source().from((page - 1) * size).size(size);
// 3.发送请求
SearchResponse response = client.search(request, RequestOptions.DEFAULT);
// 4.解析响应
handleResponse(response);
}
3.7 高亮
- 高亮API包括请求DSL构建和结果解析两部分。我们先看请求的DSL构建:
- 高亮的结果处理相对比较麻烦:
@Test
void testHighlight() throws IOException {
// 1.准备Request
SearchRequest request = new SearchRequest("hotel");
// 2.准备DSL
// 2.1.query
request.source().query(QueryBuilders.matchQuery("all", "如家"));
// 2.2.高亮
request.source().highlighter(new HighlightBuilder().field("name").requireFieldMatch(false));
// 3.发送请求
SearchResponse response = client.search(request, RequestOptions.DEFAULT);
// 4.解析响应
//高亮的结果与查询的文档结果默认是分离的,并不在一起。
highlightResponse(response);
}
private static void highlightResponse(SearchResponse response) {
SearchHits searchHits = response.getHits();
//查询的总条数
long total = searchHits.getTotalHits().value;
System.out.println("共搜索到" + total + "条数据");
//查询的结果数组 文档数组
SearchHit[] hits = searchHits.getHits();
for(SearchHit hit:hits) {
//获取文档source
String json = hit.getSourceAsString();
//反序列化
HotelDoc hotelDoc = JSON.parseObject(json, HotelDoc.class);
//获取高亮结果
Map<String, HighlightField> highlightFields = hit.getHighlightFields();
if (!CollectionUtils.isEmpty(new Map[]{
highlightFields})) {
// 根据字段名获取高亮结果
HighlightField highlightField = highlightFields.get("name");
if (highlightField != null) {
// 获取高亮值
String name = highlightField.getFragments()[0].string();
// 覆盖非高亮结果
hotelDoc.setName(name);
}
}
System.out.println("hotelDoc="+hotelDoc);
}
}
结语:关于黑马旅游的建议
-
如果使用的时edge浏览器,访问黑马的案例页面,建议关闭网站的跟踪防护
-
在添加广告标记的部分:进行验证结果的时候,可以先查询到添加广告标记的酒店信息,直接去页面搜索该酒店