全文搜索引擎ElasticSearch入门教程

全文搜索 属于最常见的需求，开源的 ElasticSearch (以下简称 Elastic)是目前全文搜索引擎的首选。

它可以快速地储存、搜索和分析海量数据。维基百科、Stack Overflow、Github 都采用它。

Elastic 的底层是开源库 Lucene 。但是，你没法直接用 Lucene，必须自己写代码去调用它的接口。Elastic 是 Lucene 的封装，提供了 REST API 的操作接口，开箱即用。

本文从零开始，讲解如何使用 Elastic 搭建自己的全文搜索引擎。每一步都有详细的说明，大家跟着做就能学会。

一、安装

Elastic 需要 Java 8 环境。如果你的机器还没安装 Java，可以参考 这篇文章 ，注意要保证环境变量 JAVA_HOME 正确设置。

安装完 Java，就可以跟着 官方文档 安装 Elastic。直接下载压缩包比较简单。

 
 
 
 
    
  
  
  
  
  1. $ wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.5.1.zip  
    2. 
  
  
  
  
  2. $ unzip elasticsearch-5.5.1.zip  
    3. 
  
  
  
  
  3. $ cd elasticsearch-5.5.1/ 
    4.

接着，进入解压后的目录，运行下面的命令，启动 Elastic。

 
 
 
 
    
  
  
  
  
  1. $ ./bin/elasticsearch 
    2.

如果这时 报错 "max virtual memory areas vm.max map count [65530] is too low"，要运行下面的命令。

 
 
 
 
    
  
  
  
  
  1. $ sudo sysctl -w vm.max_map_count=262144 
    2.

如果一切正常，Elastic 就会在默认的9200端口运行。这时，打开另一个命令行窗口，请求该端口，会得到说明信息。

 
 
 
 
    
  
  
  
  
  1. $ curl localhost:9200  
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "name" : "atntrTf", 
    4. 
  
  
  
  
  4.   "cluster_name" : "elasticsearch", 
    5. 
  
  
  
  
  5.   "cluster_uuid" : "tf9250XhQ6ee4h7YI11anA", 
    6. 
  
  
  
  
  6.   "version" : { 
    7. 
  
  
  
  
  7.     "number" : "5.5.1", 
    8. 
  
  
  
  
  8.     "build_hash" : "19c13d0", 
    9. 
  
  
  
  
  9.     "build_date" : "2017-07-18T20:44:24.823Z", 
    10. 
  
  
  
  
  10.     "build_snapshot" : false, 
    11. 
  
  
  
  
  11.     "lucene_version" : "6.6.0" 
    12. 
  
  
  
  
  12.   }, 
    13. 
  
  
  
  
  13.   "tagline" : "You Know, for Search" 
    14. 
  
  
  
  
  14. } 
    15.

上面代码中，请求9200端口，Elastic 返回一个 JSON 对象，包含当前节点、集群、版本等信息。

按下 Ctrl + C，Elastic 就会停止运行。

默认情况下，Elastic 只允许本机访问，如果需要远程访问，可以修改 Elastic 安装目录的 config/elasticsearch.yml 文件，去掉 network.host 的注释，将它的值改成 0.0.0.0 ，然后重新启动 Elastic。

 
 
 
 
    
  
  
  
  
  1. network.host: 0.0.0.0 
    2.

上面代码中，设成 0.0.0.0 让任何人都可以访问。线上服务不要这样设置，要设成具体的 IP。

二、基本概念

2.1 Node 与 Cluster

Elastic 本质上是一个分布式数据库，允许多台服务器协同工作，每台服务器可以运行多个 Elastic 实例。

单个 Elastic 实例称为一个节点(node)。一组节点构成一个集群(cluster)。

2.2 Index

Elastic 会索引所有字段，经过处理后写入一个反向索引(Inverted Index)。查找数据的时候，直接查找该索引。

所以，Elastic 数据管理的顶层单位就叫做 Index(索引)。它是单个数据库的同义词。每个 Index (即数据库)的名字必须是小写。

下面的命令可以查看当前节点的所有 Index。

 
 
 
 
    
  
  
  
  
  1. $ curl -X GET 'http://localhost:9200/_cat/indices?v' 
    2.

2.3 Document

Index 里面单条的记录称为 Document(文档)。许多条 Document 构成了一个 Index。

Document 使用 JSON 格式表示，下面是一个例子。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "user": "张三", 
    3. 
  
  
  
  
  3.   "title": "工程师", 
    4. 
  
  
  
  
  4.   "desc": "数据库管理" 
    5. 
  
  
  
  
  5. } 
    6.

同一个 Index 里面的 Document，不要求有相同的结构(scheme)，但是最好保持相同，这样有利于提高搜索效率。

2.4 Type

Document 可以分组，比如 weather 这个 Index 里面，可以按城市分组(北京和上海)，也可以按气候分组(晴天和雨天)。这种分组就叫做 Type，它是虚拟的逻辑分组，用来过滤 Document。

不同的 Type 应该有相似的结构(schema)，举例来说， id 字段不能在这个组是字符串，在另一个组是数值。这是与关系型数据库的表的 一个区别 。性质完全不同的数据(比如 products 和 logs )应该存成两个 Index，而不是一个 Index 里面的两个 Type(虽然可以做到)。

下面的命令可以列出每个 Index 所包含的 Type。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/_mapping?pretty=true' 
    2.

根据 规划 ，Elastic 6.x 版只允许每个 Index 包含一个 Type，7.x 版将会彻底移除 Type。

三、新建和删除 Index

新建 Index，可以直接向 Elastic 服务器发出 PUT 请求。下面的例子是新建一个名叫 weather 的 Index。

 
 
 
 
    
  
  
  
  
  1. $ curl -X PUT 'localhost:9200/weather' 
    2.

服务器返回一个 JSON 对象，里面的 acknowledged 字段表示操作成功。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "acknowledged":true, 
    3. 
  
  
  
  
  3.   "shards_acknowledged":true 
    4. 
  
  
  
  
  4. } 
    5.

然后，我们发出 DELETE 请求，删除这个 Index。

 
 
 
 
    
  
  
  
  
  1. $ curl -X DELETE 'localhost:9200/weather' 
    2.

四、中文分词设置

首先，安装中文分词插件。这里使用的是 ik ，也可以考虑其他插件(比如 smartcn )。

 
 
 
 
    
  
  
  
  
  1. $ ./bin/elasticsearch-plugin install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v5.5.1/elasticsearch-analysis-ik-5.5.1.zip 
    2.

上面代码安装的是5.5.1版的插件，与 Elastic 5.5.1 配合使用。

接着，重新启动 Elastic，就会自动加载这个新安装的插件。

然后，新建一个 Index，指定需要分词的字段。这一步根据数据结构而异，下面的命令只针对本文。基本上，凡是需要搜索的中文字段，都要单独设置一下。

 
 
 
 
    
  
  
  
  
  1. $ curl -X PUT 'localhost:9200/accounts' -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "mappings": { 
    4. 
  
  
  
  
  4.     "person": { 
    5. 
  
  
  
  
  5.       "properties": { 
    6. 
  
  
  
  
  6.         "user": { 
    7. 
  
  
  
  
  7.           "type": "text", 
    8. 
  
  
  
  
  8.           "analyzer": "ik_max_word", 
    9. 
  
  
  
  
  9.           "search_analyzer": "ik_max_word" 
    10. 
  
  
  
  
  10.         }, 
    11. 
  
  
  
  
  11.         "title": { 
    12. 
  
  
  
  
  12.           "type": "text", 
    13. 
  
  
  
  
  13.           "analyzer": "ik_max_word", 
    14. 
  
  
  
  
  14.           "search_analyzer": "ik_max_word" 
    15. 
  
  
  
  
  15.         }, 
    16. 
  
  
  
  
  16.         "desc": { 
    17. 
  
  
  
  
  17.           "type": "text", 
    18. 
  
  
  
  
  18.           "analyzer": "ik_max_word", 
    19. 
  
  
  
  
  19.           "search_analyzer": "ik_max_word" 
    20. 
  
  
  
  
  20.         } 
    21. 
  
  
  
  
  21.       } 
    22. 
  
  
  
  
  22.     } 
    23. 
  
  
  
  
  23.   } 
    24. 
  
  
  
  
  24. }' 
    25.

上面代码中，首先新建一个名称为 accounts 的 Index，里面有一个名称为 person 的 Type。 person 有三个字段。

  • user
  • title
  • desc

这三个字段都是中文，而且类型都是文本(text)，所以需要指定中文分词器，不能使用默认的英文分词器。

Elastic 的分词器称为 analyzer 。我们对每个字段指定分词器。

 
 
 
 
    
  
  
  
  
  1. "user": { 
    2. 
  
  
  
  
  2.   "type": "text", 
    3. 
  
  
  
  
  3.   "analyzer": "ik_max_word", 
    4. 
  
  
  
  
  4.   "search_analyzer": "ik_max_word" 
    5. 
  
  
  
  
  5. } 
    6.

上面代码中， analyzer 是字段文本的分词器， search_analyzer 是搜索词的分词器。 ik_max_word 分词器是插件 ik 提供的，可以对文本进行最大数量的分词。

五、数据操作

5.1 新增记录

向指定的 /Index/Type 发送 PUT 请求，就可以在 Index 里面新增一条记录。比如，向 /accounts/person 发送请求，就可以新增一条人员记录。

 
 
 
 
    
  
  
  
  
  1. $ curl -X PUT 'localhost:9200/accounts/person/1' -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "user": "张三", 
    4. 
  
  
  
  
  4.   "title": "工程师", 
    5. 
  
  
  
  
  5.   "desc": "数据库管理" 
    6. 
  
  
  
  
  6. }' 
    7.

服务器返回的 JSON 对象，会给出 Index、Type、Id、Version 等信息。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "_index":"accounts", 
    3. 
  
  
  
  
  3.   "_type":"person", 
    4. 
  
  
  
  
  4.   "_id":"1", 
    5. 
  
  
  
  
  5.   "_version":1, 
    6. 
  
  
  
  
  6.   "result":"created", 
    7. 
  
  
  
  
  7.   "_shards":{"total":2,"successful":1,"failed":0}, 
    8. 
  
  
  
  
  8.   "created":true 
    9. 
  
  
  
  
  9. } 
    10.

如果你仔细看，会发现请求路径是 /accounts/person/1 ，最后的 1 是该条记录的 Id。它不一定是数字，任意字符串(比如 abc )都可以。

新增记录的时候，也可以不指定 Id，这时要改成 POST 请求。

 
 
 
 
    
  
  
  
  
  1. $ curl -X POST 'localhost:9200/accounts/person' -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "user": "李四", 
    4. 
  
  
  
  
  4.   "title": "工程师", 
    5. 
  
  
  
  
  5.   "desc": "系统管理" 
    6. 
  
  
  
  
  6. }' 
    7.

上面代码中，向 /accounts/person 发出一个 POST 请求，添加一个记录。这时，服务器返回的 JSON 对象里面， _id 字段就是一个随机字符串。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "_index":"accounts", 
    3. 
  
  
  
  
  3.   "_type":"person", 
    4. 
  
  
  
  
  4.   "_id":"AV3qGfrC6jMbsbXb6k1p", 
    5. 
  
  
  
  
  5.   "_version":1, 
    6. 
  
  
  
  
  6.   "result":"created", 
    7. 
  
  
  
  
  7.   "_shards":{"total":2,"successful":1,"failed":0}, 
    8. 
  
  
  
  
  8.   "created":true 
    9. 
  
  
  
  
  9. } 
    10.

注意，如果没有先创建 Index(这个例子是 accounts )，直接执行上面的命令，Elastic 也不会报错，而是直接生成指定的 Index。所以，打字的时候要小心，不要写错 Index 的名称。

5.2 查看记录

向 /Index/Type/Id 发出 GET 请求，就可以查看这条记录。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/1?pretty=true' 
    2.

上面代码请求查看 /accounts/person/1 这条记录，URL 的参数 pretty=true 表示以易读的格式返回。

返回的数据中， found 字段表示查询成功， _source 字段返回原始记录。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "_index" : "accounts", 
    3. 
  
  
  
  
  3.   "_type" : "person", 
    4. 
  
  
  
  
  4.   "_id" : "1", 
    5. 
  
  
  
  
  5.   "_version" : 1, 
    6. 
  
  
  
  
  6.   "found" : true, 
    7. 
  
  
  
  
  7.   "_source" : { 
    8. 
  
  
  
  
  8.     "user" : "张三", 
    9. 
  
  
  
  
  9.     "title" : "工程师", 
    10. 
  
  
  
  
  10.     "desc" : "数据库管理" 
    11. 
  
  
  
  
  11.   } 
    12. 
  
  
  
  
  12. } 
    13.

如果 Id 不正确，就查不到数据， found 字段就是 false 。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/weather/beijing/abc?pretty=true'  
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "_index" : "weather", 
    4. 
  
  
  
  
  4.   "_type" : "beijing", 
    5. 
  
  
  
  
  5.   "_id" : "abc", 
    6. 
  
  
  
  
  6.   "found" : false 
    7. 
  
  
  
  
  7. } 
    8.

5.3 删除记录

删除记录就是发出 DELETE 请求。

 
 
 
 
    
  
  
  
  
  1. $ curl -X DELETE 'localhost:9200/accounts/person/1' 
    2.

这里先不要删除这条记录，后面还要用到。

5.4 更新记录

更新记录就是使用 PUT 请求，重新发送一次数据。

 
 
 
 
    
  
  
  
  
  1. $ curl -X PUT 'localhost:9200/accounts/person/1' -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.     "user" : "张三", 
    4. 
  
  
  
  
  4.     "title" : "工程师", 
    5. 
  
  
  
  
  5.     "desc" : "数据库管理，软件开发" 
    6. 
  
  
  
  
  6. }'  
    7. 
  
  
  
  
  7.  
    8. 
  
  
  
  
  8. { 
    9. 
  
  
  
  
  9.   "_index":"accounts", 
    10. 
  
  
  
  
  10.   "_type":"person", 
    11. 
  
  
  
  
  11.   "_id":"1", 
    12. 
  
  
  
  
  12.   "_version":2, 
    13. 
  
  
  
  
  13.   "result":"updated", 
    14. 
  
  
  
  
  14.   "_shards":{"total":2,"successful":1,"failed":0}, 
    15. 
  
  
  
  
  15.   "created":false 
    16. 
  
  
  
  
  16. } 
    17.

上面代码中，我们将原始数据从"数据库管理"改成"数据库管理，软件开发"。 返回结果里面，有几个字段发生了变化。

 
 
 
 
    
  
  
  
  
  1. "_version" : 2, 
    2. 
  
  
  
  
  2. "result" : "updated", 
    3. 
  
  
  
  
  3. "created" : false 
    4.

可以看到，记录的 Id 没变，但是版本(version)从 1 变成 2 ，操作类型(result)从 created 变成 updated ， created 字段变成 false ，因为这次不是新建记录。

六、数据查询

6.1 返回所有记录

使用 GET 方法，直接请求 /Index/Type/_search ，就会返回所有记录。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "took":2, 
    4. 
  
  
  
  
  4.   "timed_out":false, 
    5. 
  
  
  
  
  5.   "_shards":{"total":5,"successful":5,"failed":0}, 
    6. 
  
  
  
  
  6.   "hits":{ 
    7. 
  
  
  
  
  7.     "total":2, 
    8. 
  
  
  
  
  8.     "max_score":1.0, 
    9. 
  
  
  
  
  9.     "hits":[ 
    10. 
  
  
  
  
  10.       { 
    11. 
  
  
  
  
  11.         "_index":"accounts", 
    12. 
  
  
  
  
  12.         "_type":"person", 
    13. 
  
  
  
  
  13.         "_id":"AV3qGfrC6jMbsbXb6k1p", 
    14. 
  
  
  
  
  14.         "_score":1.0, 
    15. 
  
  
  
  
  15.         "_source": { 
    16. 
  
  
  
  
  16.           "user": "李四", 
    17. 
  
  
  
  
  17.           "title": "工程师", 
    18. 
  
  
  
  
  18.           "desc": "系统管理" 
    19. 
  
  
  
  
  19.         } 
    20. 
  
  
  
  
  20.       }, 
    21. 
  
  
  
  
  21.       { 
    22. 
  
  
  
  
  22.         "_index":"accounts", 
    23. 
  
  
  
  
  23.         "_type":"person", 
    24. 
  
  
  
  
  24.         "_id":"1", 
    25. 
  
  
  
  
  25.         "_score":1.0, 
    26. 
  
  
  
  
  26.         "_source": { 
    27. 
  
  
  
  
  27.           "user" : "张三", 
    28. 
  
  
  
  
  28.           "title" : "工程师", 
    29. 
  
  
  
  
  29.           "desc" : "数据库管理，软件开发" 
    30. 
  
  
  
  
  30.         } 
    31. 
  
  
  
  
  31.       } 
    32. 
  
  
  
  
  32.     ] 
    33. 
  
  
  
  
  33.   } 
    34. 
  
  
  
  
  34. } 
    35.

上面代码中，返回结果的 took 字段表示该操作的耗时(单位为毫秒)， timed_out 字段表示是否超时， hits 字段表示命中的记录，里面子字段的含义如下。

  • total ：返回记录数，本例是2条。
  • max_score ：最高的匹配程度，本例是 1.0 。
  • hits ：返回的记录组成的数组。

返回的记录中，每条记录都有一个 _score 字段，表示匹配的程序，默认是按照这个字段降序排列。

6.2 全文搜索

Elastic 的查询非常特别，使用自己的 查询语法 ，要求 GET 请求带有数据体。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "query" : { "match" : { "desc" : "软件" }} 
    4. 
  
  
  
  
  4. }' 
    5.

上面代码使用 Match 查询 ，指定的匹配条件是 desc 字段里面包含"软件"这个词。返回结果如下。

 
 
 
 
    
  
  
  
  
  1. { 
    2. 
  
  
  
  
  2.   "took":3, 
    3. 
  
  
  
  
  3.   "timed_out":false, 
    4. 
  
  
  
  
  4.   "_shards":{"total":5,"successful":5,"failed":0}, 
    5. 
  
  
  
  
  5.   "hits":{ 
    6. 
  
  
  
  
  6.     "total":1, 
    7. 
  
  
  
  
  7.     "max_score":0.28582606, 
    8. 
  
  
  
  
  8.     "hits":[ 
    9. 
  
  
  
  
  9.       { 
    10. 
  
  
  
  
  10.         "_index":"accounts", 
    11. 
  
  
  
  
  11.         "_type":"person", 
    12. 
  
  
  
  
  12.         "_id":"1", 
    13. 
  
  
  
  
  13.         "_score":0.28582606, 
    14. 
  
  
  
  
  14.         "_source": { 
    15. 
  
  
  
  
  15.           "user" : "张三", 
    16. 
  
  
  
  
  16.           "title" : "工程师", 
    17. 
  
  
  
  
  17.           "desc" : "数据库管理，软件开发" 
    18. 
  
  
  
  
  18.         } 
    19. 
  
  
  
  
  19.       } 
    20. 
  
  
  
  
  20.     ] 
    21. 
  
  
  
  
  21.   } 
    22. 
  
  
  
  
  22. } 
    23.

Elastic 默认一次返回10条结果，可以通过 size 字段改变这个设置。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "query" : { "match" : { "desc" : "管理" }}, 
    4. 
  
  
  
  
  4.   "size": 1 
    5. 
  
  
  
  
  5. }' 
    6.

上面代码指定，每次只返回一条结果。

还可以通过 from 字段，指定位移。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "query" : { "match" : { "desc" : "管理" }}, 
    4. 
  
  
  
  
  4.   "from": 1, 
    5. 
  
  
  
  
  5.   "size": 1 
    6. 
  
  
  
  
  6. }' 
    7.

上面代码指定，从位置1开始(默认是从位置0开始)，只返回一条结果。

6.3 逻辑运算

如果有多个搜索关键字， Elastic 认为它们是 or 关系。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "query" : { "match" : { "desc" : "软件 系统" }} 
    4. 
  
  
  
  
  4. }' 
    5.

上面代码搜索的是 软件 or 系统 。

如果要执行多个关键词的 and 搜索，必须使用 布尔查询 。

 
 
 
 
    
  
  
  
  
  1. $ curl 'localhost:9200/accounts/person/_search'  -d ' 
    2. 
  
  
  
  
  2. { 
    3. 
  
  
  
  
  3.   "query": { 
    4. 
  
  
  
  
  4.     "bool": { 
    5. 
  
  
  
  
  5.       "must": [ 
    6. 
  
  
  
  
  6.         { "match": { "desc": "软件" } }, 
    7. 
  
  
  
  
  7.         { "match": { "desc": "系统" } } 
    8. 
  
  
  
  
  8.       ] 
    9. 
  
  
  
  
  9.     } 
    10. 
  
  
  
  
  10.   } 
    11. 
  
  
  
  
  11. }' 
    12.

七、参考链接

ElasticSearch 官方手册

A Practical Introduction to Elasticsearch

分享名称：全文搜索引擎ElasticSearch入门教程
网页URL：http://www.shufengxianlan.com/qtweb/news48/365898.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联

猜你还喜欢下面的内容

网页设计公司知识

分类信息网站

贵安服务器托管　　 　成都画册设计公司　　 　成都品牌网站建设　　 　成都网站建设流程　　 　眉山网站建设　　 　微信小程序　　 　成都营销网站建设　　 　成都网站建设　　 　崇州湖霆科技　　 　重庆网站制作　　 　高端网站建设　　 　营销型网站建设　　 　电信机房托管服务器　　 　广安做网站　　 　高端网站设计　　 　品牌网站建设　　 　大英泰恒网站　　 　成都办公窗帘　　 　重庆电商网站定制　　 　虚拟主机