Elasticsearch解决问题之道——请亮出你的DSL
0、引言
在业务开发中，我们往往会陷入开发的细枝末节之中，而忽略了事物的本源。
经常有同学问到：
等等等等…..
以上的看似复杂的问题，如果转换成DSL，清楚的写出来，梳理清楚问题的来龙去脉，问题就自然解决了一大半。
所以，请亮出你的dsl,不论什么语言的检索，转换到es查询都是sql查询，在es中对应dsl语法，es再拆解比如：分词match_phrase拆解成各term组合，最终传给lucene处理。
亮出你的dsl,确保编程里的实现和你的kibana或者head插件一致是非常重要、很容易被忽视的工作。
如果对dsl拆解不理解，那就再 加上 profile:true或者explain:true拆解结果一目了然。
维基百科定义：领域特定语言（英语：domain-specific language、DSL）指的是专注于某个应用程序领域的计算机语言。又译作领域专用语言。
Elasticsearch提供基于JSON的完整查询DSL来定义查询。 将Query DSL视为查询的AST（抽象语法树），由两种类型的子句组成：
1、叶子查询子句
叶查询子句查找特定字段中的特定值，例如匹配，术语或范围查询。 这些查询可以单独使用。
2、复合查询子句
复合查询子句可以组合其他叶子或复合查询，用于以逻辑方式组合多个查询（例如bool或dis_max查询），或更改其行为（例如constant_score查询）。
给个例子，一看就明白。
看到这里，可能会有人着急了：“我X，这不是官网定义吗？再写一遍有意思吗？”
引用一句鸡汤话，“再显而易见的道理，在中国，至少有一亿人不知道”。同样的，再显而易见的问题，在Elasticsearch技术社区也会有N多人提问。
基础认知不怕重复，可怕的是对基础的专研、打磨、夯实。
Elasticsearch相关的核心操作，广义上可做如下解读，不一定涵盖全，仅抛砖引玉，说明DSL的重要性。
从大到小。
集群的管理，一般我们会使用Kibana或者第三方工具Head插件、cerebro工具、elastic-hq工具。
基本上硬件的（磁盘、cpu、内存）使用率、集群的 健康 状态都能一目了然。
但基础的DSL会更便捷，便于细粒度分析问题。
如：集群状态查询：
如：节点热点线程查看：
如：集群分片分配情况查看：
索引生命周期是一直强调的概念，主要指索引的“生、老、病、死”的全过程链条的管理。
创建索引我们优先使用较单纯index更灵活的template模板。
创建索引类似Mysql的创建表的操作，提前设计好表结构对应ES是提前设计好M app ing非常重要。
两个维度：
举例：
如：索引清理缓存。
如：某原因导致分片重新分配，_recovery查看分片分配状态。
高版本的索引生命周期管理推荐使用：ILM功能。
这个是大家再熟悉不过的了。
举例：
删除数据包括：指定id删除 delete和批量删除delete_by_query（满足给定条件）。
更新操作。包括：指定id的update/upsert或者批量更新update_by_query。
这是ES的重头戏。包含但不限于：
1、支持精确匹配查询的：term、range、exists、wildcard、prefix、fuzzy等。
2、支持全文检索的：match、match_phrase、query_string、multi_match等
1、Bucketing分桶聚合
举例：最常用的terms就类似Mysql group by功能。2、Metric计算聚合
举例：类比Mysql中的： MIN, MAX, SUM 操作。3、Pipeline针对聚合结果聚合
举例：bucket_script实现类似Mysql的group by 后having的操作。
留给大家 结合 业务场景思考添加。
这里把开头提到的几个问题逐一解答一下。
实际Mysql业务中，我们一般是先验证sql没有问题，再写业务代码。
实际ES业务中，也一样，先DSL确认没有问题，再写业务代码。
写完java或者python后，打印DSL，核对是否完全一致。
不一致的地方基本就是结果和预期不一致的原因所在。
第一步：借助analyzer API分析查询语句和待查询document分词结果。
这个API的重要性，再怎么强调都不为过。
第二步：可以借助profile:true查看细节。第三步：核对match_phrase词序的原理。
6.3版本后已经支持sql，如果不会写，可以借助translate 如下API翻译一下。
不够精确，但足够参考用了，需要根据业务细节微调。
当然，还是 建议 ，从业务出发，自己写DSL。
从大往小，逐步细化排解
END
公众号 ( zhisheng )里回复 面经、ES、Flink、 Spring、Java、Kafka、监控 等关键字可以查看更多关键字对应的文章
1、《从0到1学习Flink》—— Apache Flink 介绍
2、《从0到1学习Flink》—— Mac 上搭建 Flink 1.6.0 环境并构建运行简单程序入门
3、《从0到1学习Flink》—— Flink 配置文件详解
4、《从0到1学习Flink》—— Data Source 介绍
5、《从0到1学习Flink》—— 如何自定义 Data Source ？
6、《从0到1学习Flink》—— Data Sink 介绍
7、《从0到1学习Flink》—— 如何自定义 Data Sink ？
8、《从0到1学习Flink》—— Flink Data transformation(转换)
9、《从0到1学习Flink》—— 介绍 Flink 中的 Stream Windows
10、《从0到1学习Flink》—— Flink 中的几种 Time 详解
11、《从0到1学习Flink》—— Flink 读取 Kafka 数据写入到 ElasticSearch
12、《从0到1学习Flink》—— Flink 项目如何运行？
13、《从0到1学习Flink》—— Flink 读取 Kafka 数据写入到 Kafka
14、《从0到1学习Flink》—— Flink JobManager 高可用性配置
15、《从0到1学习Flink》—— Flink parallelism 和 Slot 介绍
16、《从0到1学习Flink》—— Flink 读取 Kafka 数据批量写入到 MySQL
17、《从0到1学习Flink》—— Flink 读取 Kafka 数据写入到 RabbitMQ
18、《从0到1学习Flink》—— 你上传的 jar 包藏到哪里去了
19、大数据“重磅炸弹”——实时计算框架 Flink
20、《Flink 源码解析》—— 源码编译运行
21、为什么说流处理即未来？
22、OPPO数据中台之基石：基于Flink SQL构建实数据仓库
23、流计算框架 Flink 与 Storm 的性能对比
24、Flink状态管理和容错机制介绍
25、原理解析 | Apache Flink 结合 Kafka 构建端到端的 Exactly-Once 处理
26、Apache Flink 是如何管理好内存的？
27、《从0到1学习Flink》——Flink 中这样管理配置，你知道？
28、《从0到1学习Flink》——Flink 不可以连续 Split(分流)？
29、Flink 从0到1学习—— 分享四本 Flink 的书和二十多篇 Paper 论文
30 、360深度实践：Flink与Storm协议级对比
31、Apache Flink 1.9 重大特性提前解读
32、如何基于Flink+TensorFlow打造实时智能异常检测平台？只看这一篇就够了
33、美团点评基于 Flink 的实时数仓建设实践
34、Flink 灵魂两百问，这谁顶得住？
35、一文搞懂 Flink 的 Exactly Once 和 At Least Once
36、你公司到底需不需要引入实时计算引擎？
关详麝香： 如何解决centos下root运行Elasticsearch异常 在CentOS 6.5 上运行Elasticsearch 2.3,异常如下: ? 1 2 3 4 5 6 Exception in thread ＂main＂ java.lang.RuntimeException: don't run elasticsearch as root. at org.elasticsearch.bootstrap.Bootstrap....
曲靖市17769969208： 如何解决centos下root运行Elasticsearch异常 - ？
关详麝香： 在CentOS 6.5 上运行Elasticsearch 2.3,异常如下:Exception in thread ＂main＂ java.lang.RuntimeException: don't run elasticsearch as root.at org.elasticsearch.bootstrap.Bootstrap.initializeNatives(Bootstrap.java:93) at org.elasticsearch....
曲靖市17769969208： elasticsearch 首次查询缓慢 请问该如何优化 - ？
关详麝香： 首次查询瓶颈在外部存储IO,思路是提升IO速度、减少IO次数,可以:使用SSD阵列 更多shard 优化查询条件,比如按照时间范围检索,每个月一个index,query可以指定到对应的index 另一个思路,应用层优化:缓存预读 对于频繁查询的数据,后台程序在ES启动之后就进行查询,将数据加载到内存.前端发起的查询就不是首次查询了.
曲靖市17769969208： elasticsearch.bat 闪退有哪些原因 - ？
关详麝香： 1、打开一个cmd 窗口(一般是win+r,输入cmd回车)2、cd/d bat所在文件夹3、输入bat文件名 如 elasticsearch.bat 回车运行,这时能看到错误提示,根据提示排查错误即可.
曲靖市17769969208： 如何用elasticsearch分析data - ？
关详麝香： 为了支持高可用性与高伸缩性,Elasticsearch本身就是分布式设计的.从顶层的角度来说,Elasticsearch在索引(或者集合) 中保存文档(或者数据记录),每个集合又分解为多个小块,称为分片.索引越大,所需要分配的分片越多(不必担心...
曲靖市17769969208： 数据在ElasticSearch,需要对数据进行统计分析,怎么做 - ？
关详麝香： 由于需要提升项目的搜索质量,最近研究了一下Elasticsearch,一款非常优秀的分布式搜索程序.最开始的一些笔记放到github,这里只是归纳总结一下.首先,为什么要使用Elasticsearch?最开始的时候,我们的项目仅仅使用MySQL进行简单...
曲靖市17769969208： elasticsearch安装,老是报这个错误怎么处理 - ？
关详麝香： ES-2.x 与 spring-boot 1.x.x 两者版本是不兼容的,将 ES 版本降为 1.7.3 后,节点能正常加入集群,并且服务启动后也正常工作.
曲靖市17769969208： elasticsearch 怎么处理null值 - ？
关详麝香： curl -XDELETE 'localhost:9200/customer/external/_query?pretty' -d ' { ＂query＂: { ＂match＂: { ＂name＂: ＂John＂ } } } 把这个输入就可以了
曲靖市17769969208： elasticSearch用java查询问题 - ？
关详麝香： 你这个查询用filter、must皆可,推荐filter String index = ＂indexName＂; // 你的index名称 String type = ＂my_table＂;BoolQueryBuilder boolQuery = QueryBuilders.boolQuery(); // boolQuery.must(QueryBuilders.termQuery(＂a＂, 1)); // boolQuery....
曲靖市17769969208： win7运行elasticsearch.bat时蓝屏,如下图,请高手帮忙解决 - ？
关详麝香： 0000001E是系统无法读取指定的装置,应该是你这个程序的问题,你可以下载一个腾讯电脑管家,扫描修复一下,再重启就没事了
