网站开发实训目的,关键词工具有哪些,网站建设运营公众号运营合同,姜堰住房和城乡建设厅网站首页上一篇的传送门#xff1a;
分布式搜索引擎elasticsearch专栏一-CSDN博客
这一篇博文主要讲解elasticsearch的数据搜索功能。下面会分别使用DSL和RestClient实现搜索。
1.DSL查询文档
elasticsearch的查询依然是基于JSON风格的DSL来实现的。
1.1.DSL查询分类
Elasticsea…上一篇的传送门
分布式搜索引擎elasticsearch专栏一-CSDN博客
这一篇博文主要讲解elasticsearch的数据搜索功能。下面会分别使用DSL和RestClient实现搜索。
1.DSL查询文档
elasticsearch的查询依然是基于JSON风格的DSL来实现的。
1.1.DSL查询分类
Elasticsearch提供了基于JSON的DSLDomain Specific Language来定义查询。常见的查询类型包括 查询所有查询出所有数据一般测试用。例如match_all 全文检索full text查询利用分词器对用户输入内容分词然后去倒排索引库中匹配。例如 match_query multi_match_query 精确查询根据精确词条值查找数据一般是查找keyword、数值、日期、boolean等类型字段。例如 ids range term 地理geo查询根据经纬度查询。例如 geo_distance geo_bounding_box 复合compound查询复合查询可以将上述各种查询条件组合起来合并查询条件。例如 bool function_score
查询的语法基本一致
GET /indexName/_search
{query: {查询类型: {查询条件: 条件值}}
}
我们以查询所有为例其中 查询类型为match_all 没有查询条件
// 查询所有
GET /indexName/_search
{query: {match_all: {}}
}其它查询无非就是查询类型、查询条件的变化。 1.2.全文检索查询 1.2.1.使用场景
全文检索查询的基本流程如下 对用户搜索的内容做分词得到词条 根据词条去倒排索引库中匹配得到文档id 根据文档id找到文档返回给用户
比较常用的场景包括 商城的输入框搜索 百度输入框搜索
例如京东 因为是拿着词条去匹配因此参与搜索的字段也必须是可分词的text类型的字段。 1.2.2.基本语法
常见的全文检索查询包括 match查询单字段查询 multi_match查询多字段查询任意一个字段符合条件就算符合查询条件
match查询语法如下
GET /indexName/_search
{query: {match: {FIELD: TEXT}}
}
mulit_match语法如下
GET /indexName/_search
{query: {multi_match: {query: TEXT,fields: [FIELD1, FIELD12]}}
} 1.2.3.示例
match查询示例 multi_match查询示例 可以看到两种查询结果是一样的为什么
因为我们将brand、name、business值都利用copy_to复制到了all字段中。因此你根据三个字段搜索和根据all字段搜索效果当然一样了。
但是搜索字段越多对查询性能影响越大因此建议采用copy_to然后单字段查询的方式。 1.2.4.总结
match和multi_match的区别是什么 match根据一个字段查询 multi_match根据多个字段查询参与查询字段越多查询性能越差
1.3.精准查询
精确查询一般是查找keyword、数值、日期、boolean等类型字段。这些字段都不需要分词所以不会对搜索条件分词。常见的有 term根据词条精确值查询 range根据值的范围查询
1.3.1.term查询
因为精确查询的字段搜是不分词的字段因此查询的条件也必须是不分词的词条。查询时用户输入的内容跟自动值完全匹配时才认为符合条件。如果用户输入的内容过多反而搜索不到数据。 语法说明
// term查询
GET /indexName/_search
{query: {term: {FIELD: {value: VALUE}}}
} 示例
当我搜索的是精确词条时能正确查询出结果
但是当我搜索的内容不是词条而是多个词语形成的短语时反而搜索不到 1.3.2.range查询
范围查询一般应用在对数值类型做范围过滤的时候。比如做价格范围过滤。 基本语法
// range查询
GET /indexName/_search
{query: {range: {FIELD: {gte: 10, // 这里的gte代表大于等于gt则代表大于lte: 20 // lte代表小于等于lt则代表小于}}}
} 示例 1.3.3.总结
精确查询常见的有哪些 term查询根据词条精确匹配一般搜索keyword类型、数值类型、布尔类型、日期类型字段 range查询根据数值范围查询可以是数值、日期的范围
1.4.地理坐标查询
所谓的地理坐标查询其实就是根据经纬度查询官方文档Geo queries | Elasticsearch Guide [8.12] | Elastic
常见的使用场景包括 携程搜索我附近的酒店 滴滴搜索我附近的出租车 微信搜索我附近的人
附近的酒店
附近的车 1.4.1.矩形范围查询 矩形范围查询也就是geo_bounding_box查询查询坐标落在某个矩形范围的所有文档 查询时需要指定矩形的左上、右下两个点的坐标然后画出一个矩形落在该矩形内的都是符合条件的点。
语法如下
// geo_bounding_box查询
GET /indexName/_search
{query: {geo_bounding_box: {FIELD: {top_left: { // 左上点lat: 31.1,lon: 121.5},bottom_right: { // 右下点lat: 30.9,lon: 121.7}}}}
} 1.4.2.附近查询
附近查询也叫做距离查询geo_distance查询到指定中心点小于某个距离值的所有文档。 换句话来说在地图上找一个点作为圆心以指定距离为半径画一个圆落在圆内的坐标都算符合条件 语法说明
// geo_distance 查询
GET /indexName/_search
{query: {geo_distance: {distance: 15km, // 半径FIELD: 31.21,121.5 // 圆心}}
} 示例
我们先搜索陆家嘴附近15km的酒店
发现共有47家酒店。 然后把半径缩短到3公里 可以发现搜索到的酒店数量减少到了5家。 1.5.复合查询
复合compound查询复合查询可以将其它简单查询组合起来实现更复杂的搜索逻辑。常见的有两种 fuction score算分函数查询可以控制文档相关性算分控制文档排名 bool query布尔查询利用逻辑关系组合多个其它的查询实现复杂搜索
1.5.1.相关性算分
当我们利用match查询时文档结果会根据与搜索词条的关联度打分_score返回结果时按照分值降序排列。
例如我们搜索 虹桥如家结果如下
[{_score : 17.850193,_source : {name : 虹桥如家酒店真不错,}},{_score : 12.259849,_source : {name : 外滩如家酒店真不错,}},{_score : 11.91091,_source : {name : 迪士尼如家酒店真不错,}}
] 在elasticsearch中早期使用的打分算法是TF-IDF算法公式如下 在后来的5.1版本升级中elasticsearch将算法改进为BM25算法公式如下 TF-IDF算法有一各缺陷就是词条频率越高文档得分也会越高单个词条对文档影响较大。而BM25则会让单个词条的算分有一个上限曲线更加平滑 小结elasticsearch会根据词条和文档的相关度做打分算法由两种 TF-IDF算法 BM25算法elasticsearch5.1版本后采用的算法
1.5.2.算分函数查询
根据相关度打分是比较合理的需求但合理的不一定是产品经理需要的。
以百度为例你搜索的结果中并不是相关度越高排名越靠前而是谁掏的钱多排名就越靠前。如图 要想认为控制相关性算分就需要利用elasticsearch中的function score 查询了。 1语法说明
function score 查询中包含四部分内容 原始查询条件query部分基于这个条件搜索文档并且基于BM25算法给文档打分原始算分query score) 过滤条件filter部分符合该条件的文档才会重新算分 算分函数符合filter条件的文档要根据这个函数做运算得到的函数算分function score有四种函数 weight函数结果是常量 field_value_factor以文档中的某个字段值作为函数结果 random_score以随机数作为函数结果 script_score自定义算分函数算法 运算模式算分函数的结果、原始查询的相关性算分两者之间的运算方式包括 multiply相乘 replace用function score替换query score 其它例如sum、avg、max、min
function score的运行流程如下 1根据原始条件查询搜索文档并且计算相关性算分称为原始算分query score 2根据过滤条件过滤文档 3符合过滤条件的文档基于算分函数运算得到函数算分function score 4将原始算分query score和函数算分function score基于运算模式做运算得到最终结果作为相关性算分。
因此其中的关键点是 过滤条件决定哪些文档的算分被修改 算分函数决定函数算分的算法 运算模式决定最终算分结果
2示例
需求给“如家”这个品牌的酒店排名靠前一些
翻译一下这个需求转换为之前说的四个要点 原始条件不确定可以任意变化 过滤条件brand 如家 算分函数可以简单粗暴直接给固定的算分结果weight 运算模式比如求和
因此最终的DSL语句如下
GET /hotel/_search
{query: {function_score: {query: { .... }, // 原始查询可以是任意条件functions: [ // 算分函数{filter: { // 满足的条件品牌必须是如家term: {brand: 如家}},weight: 2 // 算分权重为2}],boost_mode: sum // 加权模式求和}}
} 测试在未添加算分函数时如家得分如下
添加了算分函数后如家得分就提升了 3小结
function score query定义的三要素是什么 过滤条件哪些文档要加分 算分函数如何计算function score 加权方式function score 与 query score如何运算
1.5.3.布尔查询
布尔查询是一个或多个查询子句的组合每一个子句就是一个子查询。子查询的组合方式有 must必须匹配每个子查询类似“与” should选择性匹配子查询类似“或” must_not必须不匹配不参与算分类似“非” filter必须匹配不参与算分
比如在搜索酒店时除了关键字搜索外我们还可能根据品牌、价格、城市等字段做过滤 每一个不同的字段其查询的条件、方式都不一样必须是多个不同的查询而要组合这些查询就必须用bool查询了。 需要注意的是搜索时参与打分的字段越多查询的性能也越差。因此这种多条件查询时建议这样做 搜索框的关键字搜索是全文检索查询使用must查询参与算分 其它过滤条件采用filter查询。不参与算分
1语法示例
GET /hotel/_search
{query: {bool: {must: [{term: {city: 上海 }}],should: [{term: {brand: 皇冠假日 }},{term: {brand: 华美达 }}],must_not: [{ range: { price: { lte: 500 } }}],filter: [{ range: {score: { gte: 45 } }}]}}
} 2示例
需求搜索名字包含“如家”价格不高于400在坐标31.21,121.5周围10km范围内的酒店。
分析 名称搜索属于全文检索查询应该参与算分。放到must中 价格不高于400用range查询属于过滤条件不参与算分。放到must_not中 周围10km范围内用geo_distance查询属于过滤条件不参与算分。放到filter中 3小结
bool查询有几种逻辑关系 must必须匹配的条件可以理解为“与” should选择性匹配的条件可以理解为“或” must_not必须不匹配的条件不参与打分 filter必须匹配的条件不参与打分
2.搜索结果处理
搜索的结果可以按照用户指定的方式去处理或展示。
2.1.排序
elasticsearch默认是根据相关度算分_score来排序但是也支持自定义方式对搜索结果排序。可以排序字段类型有keyword类型、数值类型、地理坐标类型、日期类型等。
2.1.1.普通字段排序
keyword、数值、日期类型排序的语法基本一致。
语法
GET /indexName/_search
{query: {match_all: {}},sort: [{FIELD: desc // 排序字段、排序方式ASC、DESC}]
}
排序条件是一个数组也就是可以写多个排序条件。按照声明的顺序当第一个条件相等时再按照第二个条件排序以此类推 示例
需求描述酒店数据按照用户评价score)降序排序评价相同的按照价格(price)升序排序 2.1.2.地理坐标排序
地理坐标排序略有不同。
语法说明
GET /indexName/_search
{query: {match_all: {}},sort: [{_geo_distance : {FIELD : 纬度经度, // 文档中geo_point类型的字段名、目标坐标点order : asc, // 排序方式unit : km // 排序的距离单位}}]
}
这个查询的含义是 指定一个坐标作为目标点 计算每一个文档中指定字段必须是geo_point类型的坐标 到目标点的距离是多少 根据距离排序
示例
需求描述实现对酒店数据按照到你的位置坐标的距离升序排序
提示获取你的位置的经纬度的方式获取鼠标点击经纬度-地图属性-示例中心-JS API 2.0 示例 | 高德地图API 假设我的位置是31.034661121.612282寻找我周围距离最近的酒店。 2.2.分页
elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果 from从第几个文档开始 size总共查询几个文档
类似于mysql中的limit ?, ?
2.2.1.基本的分页
分页的基本语法如下
GET /hotel/_search
{query: {match_all: {}},from: 0, // 分页开始的位置默认为0size: 10, // 期望获取的文档总数sort: [{price: asc}]
} 2.2.2.深度分页问题
现在我要查询990~1000的数据查询逻辑要这么写
GET /hotel/_search
{query: {match_all: {}},from: 990, // 分页开始的位置默认为0size: 10, // 期望获取的文档总数sort: [{price: asc}]
}
这里是查询990开始的数据也就是 第990~第1000条 数据。
不过elasticsearch内部分页时必须先查询 0~1000条然后截取其中的990 ~ 1000的这10条 查询TOP1000如果es是单点模式这并无太大影响。
但是elasticsearch将来一定是集群例如我集群有5个节点我要查询TOP1000的数据并不是每个节点查询200条就可以了。
因为节点A的TOP200在另一个节点可能排到10000名以外了。
因此要想获取整个集群的TOP1000必须先查询出每个节点的TOP1000汇总结果后重新排名重新截取TOP1000。 那如果我要查询9900~10000的数据呢是不是要先查询TOP10000呢那每个节点都要查询10000条汇总到内存中 当查询分页深度较大时汇总数据过多对内存和CPU会产生非常大的压力因此elasticsearch会禁止from size 超过10000的请求。 针对深度分页ES提供了两种解决方案官方文档 search after分页时需要排序原理是从上一次的排序值开始查询下一页数据。官方推荐使用的方式。 scroll原理将排序后的文档id形成快照保存在内存。官方已经不推荐使用。
2.2.3.小结
分页查询的常见实现方案以及优缺点 from size 优点支持随机翻页 缺点深度分页问题默认查询上限from size是10000 场景百度、京东、谷歌、淘宝这样的随机翻页搜索 after search 优点没有查询上限单次查询的size不超过10000 缺点只能向后逐页查询不支持随机翻页 场景没有随机翻页需求的搜索例如手机向下滚动翻页 scroll 优点没有查询上限单次查询的size不超过10000 缺点会有额外内存消耗并且搜索结果是非实时的 场景海量数据的获取和迁移。从ES7.1开始不推荐建议用 after search方案。 2.3.高亮
2.3.1.高亮原理
什么是高亮显示呢
我们在百度京东搜索时关键字会变成红色比较醒目这叫高亮显示 高亮显示的实现分为两步 1给文档中的所有关键字都添加一个标签例如em标签 2页面给em标签编写CSS样式
2.3.2.实现高亮
高亮的语法
GET /hotel/_search
{query: {match: {FIELD: TEXT // 查询条件高亮一定要使用全文检索查询}},highlight: {fields: { // 指定要高亮的字段FIELD: {pre_tags: em, // 用来标记高亮字段的前置标签post_tags: /em // 用来标记高亮字段的后置标签}}}
} 注意 高亮是对关键字高亮因此搜索条件必须带有关键字而不能是范围这样的查询。 默认情况下高亮的字段必须与搜索指定的字段一致否则无法高亮 如果要对非搜索字段高亮则需要添加一个属性required_field_matchfalse
示例 2.4.总结
查询的DSL是一个大的JSON对象包含下列属性 query查询条件 from和size分页条件 sort排序条件 highlight高亮条件
示例 3.RestClient查询文档
文档的查询同样适用上一篇博文的 RestHighLevelClient对象基本步骤包括 1准备Request对象 2准备请求参数 3发起请求 4解析响应
3.1.快速入门
我们以match_all查询为例
3.1.1.发起查询请求 代码解读 第一步创建SearchRequest对象指定索引库名 第二步利用request.source()构建DSLDSL中可以包含查询、分页、排序、高亮等 query()代表查询条件利用QueryBuilders.matchAllQuery()构建一个match_all查询的DSL 第三步利用client.search()发送请求得到响应
这里关键的API有两个一个是request.source()其中包含了查询、排序、分页、高亮等所有功能 另一个是QueryBuilders其中包含match、term、function_score、bool等各种查询 3.1.2.解析响应
响应结果的解析 elasticsearch返回的结果是一个JSON字符串结构包含 hits命中的结果 total总条数其中的value是具体的总条数值 max_score所有结果中得分最高的文档的相关性算分 hits搜索结果的文档数组其中的每个文档都是一个json对象 _source文档中的原始数据也是json对象
因此我们解析响应结果就是逐层解析JSON字符串流程如下 SearchHits通过response.getHits()获取就是JSON中的最外层的hits代表命中的结果 SearchHits.getTotalHits().value获取总条数信息 SearchHits.getHits()获取SearchHit数组也就是文档数组 SearchHit.getSourceAsString()获取文档结果中的_source也就是原始的json文档数据
3.1.3.完整代码
完整代码如下
Test
void testMatchAll() throws IOException {// 1.准备RequestSearchRequest request new SearchRequest(hotel);// 2.准备DSLrequest.source().query(QueryBuilders.matchAllQuery());// 3.发送请求SearchResponse response client.search(request, RequestOptions.DEFAULT);
// 4.解析响应handleResponse(response);
}
private void handleResponse(SearchResponse response) {// 4.解析响应SearchHits searchHits response.getHits();// 4.1.获取总条数long total searchHits.getTotalHits().value;System.out.println(共搜索到 total 条数据);// 4.2.文档数组SearchHit[] hits searchHits.getHits();// 4.3.遍历for (SearchHit hit : hits) {// 获取文档sourceString json hit.getSourceAsString();// 反序列化HotelDoc hotelDoc JSON.parseObject(json, HotelDoc.class);System.out.println(hotelDoc hotelDoc);}
} 3.1.4.小结
查询的基本步骤是 创建SearchRequest对象 准备Request.source()也就是DSL。 ① QueryBuilders来构建查询条件 ② 传入Request.source() 的 query() 方法 发送请求得到结果 解析结果参考JSON结果从外到内逐层解析 3.2.match查询
全文检索的match和multi_match查询与match_all的API基本一致。差别是查询条件也就是query的部分。 因此Java代码上的差异主要是request.source().query()中的参数了。同样是利用QueryBuilders提供的方法 而结果解析代码则完全一致可以抽取并共享。 完整代码如下
Test
void testMatch() throws IOException {// 1.准备RequestSearchRequest request new SearchRequest(hotel);// 2.准备DSLrequest.source().query(QueryBuilders.matchQuery(如家, namebusiness));// 3.发送请求SearchResponse response client.search(request, RequestOptions.DEFAULT);// 4.解析响应handleResponse(response);
} 3.3.精确查询
精确查询主要是两者 term词条精确匹配 range范围查询
与之前的查询相比差异同样在查询条件其它都一样。
查询条件构造的API如下 3.4.布尔查询
布尔查询是用must、must_not、filter等方式组合其它查询代码示例如下 可以看到API与其它查询的差别同样是在查询条件的构建QueryBuilders结果解析等其他代码完全不变。 完整代码如下
Test
void testBool() throws IOException {// 1.准备RequestSearchRequest request new SearchRequest(hotel);// 2.准备DSL// 2.1.准备BooleanQueryBoolQueryBuilder boolQuery QueryBuilders.boolQuery();// 2.2.添加termboolQuery.must(QueryBuilders.termQuery(city, 杭州));// 2.3.添加rangeboolQuery.filter(QueryBuilders.rangeQuery(price).lte(250));
request.source().query(boolQuery);// 3.发送请求SearchResponse response client.search(request, RequestOptions.DEFAULT);// 4.解析响应handleResponse(response);
} 3.5.排序、分页
搜索结果的排序和分页是与query同级的参数因此同样是使用request.source()来设置。
对应的API如下 完整代码示例
Test
void testPageAndSort() throws IOException {// 页码每页大小int page 1, size 5;
// 1.准备RequestSearchRequest request new SearchRequest(hotel);// 2.准备DSL// 2.1.queryrequest.source().query(QueryBuilders.matchAllQuery());// 2.2.排序 sortrequest.source().sort(price, SortOrder.ASC);// 2.3.分页 from、sizerequest.source().from((page - 1) * size).size(5);// 3.发送请求SearchResponse response client.search(request, RequestOptions.DEFAULT);// 4.解析响应handleResponse(response);
} 3.6.高亮
高亮的代码与之前代码差异较大有两点 查询的DSL其中除了查询条件还需要添加高亮条件同样是与query同级。 结果解析结果除了要解析_source文档数据还要解析高亮结果
3.6.1.高亮请求构建
高亮请求的构建API如下 上述代码省略了查询条件部分但是大家不要忘了高亮查询必须使用全文检索查询并且要有搜索关键字将来才可以对关键字高亮。
完整代码如下
Test
void testHighlight() throws IOException {// 1.准备RequestSearchRequest request new SearchRequest(hotel);// 2.准备DSL// 2.1.queryrequest.source().query(QueryBuilders.matchQuery(all, 如家));// 2.2.高亮request.source().highlighter(new HighlightBuilder().field(name).requireFieldMatch(false));// 3.发送请求SearchResponse response client.search(request, RequestOptions.DEFAULT);// 4.解析响应handleResponse(response);
} 3.6.2.高亮结果解析
高亮的结果与查询的文档结果默认是分离的并不在一起。
因此解析高亮的代码需要额外处理 代码解读 第一步从结果中获取source。hit.getSourceAsString()这部分是非高亮结果json字符串。还需要反序列为HotelDoc对象 第二步获取高亮结果。hit.getHighlightFields()返回值是一个Mapkey是高亮字段名称值是HighlightField对象代表高亮值 第三步从map中根据高亮字段名称获取高亮字段值对象HighlightField 第四步从HighlightField中获取Fragments并且转为字符串。这部分就是真正的高亮字符串了 第五步用高亮的结果替换HotelDoc中的非高亮结果
完整代码如下
private void handleResponse(SearchResponse response) {// 4.解析响应SearchHits searchHits response.getHits();// 4.1.获取总条数long total searchHits.getTotalHits().value;System.out.println(共搜索到 total 条数据);// 4.2.文档数组SearchHit[] hits searchHits.getHits();// 4.3.遍历for (SearchHit hit : hits) {// 获取文档sourceString json hit.getSourceAsString();// 反序列化HotelDoc hotelDoc JSON.parseObject(json, HotelDoc.class);// 获取高亮结果MapString, HighlightField highlightFields hit.getHighlightFields();if (!CollectionUtils.isEmpty(highlightFields)) {// 根据字段名获取高亮结果HighlightField highlightField highlightFields.get(name);if (highlightField ! null) {// 获取高亮值String name highlightField.getFragments()[0].string();// 覆盖非高亮结果hotelDoc.setName(name);}}System.out.println(hotelDoc hotelDoc);}
}
