ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

Lucene&Solr框架之第二篇

2019-10-20 18:00:26  阅读:197  来源: 互联网

标签:lucene name Solr 查询 Lucene 索引 solr new 第二篇


2.1.开发环境准备
        2.1.1.数据库jar包

        我们这里可以尝试着从数据库中采集数据,因此需要连接数据库,我们一直用MySQL,所以这里需要MySQL的jar包
        2.1.2.MyBatis的jar包(可选)
        从数据库采集数据就需要查询数据库,我们可以用jdbc原生的写DAO,还可以使用我们之前学习过的MyBatis动态代理DAO,因此可能需要MyBatis的jar包
        2.1.3.数据库环境
        数据库脚本:【资料\数据库\book.sql】,创建一个lucene数据库(utf-8),然后导入这个脚本。
        2.1.4.新建java工程
        由于是模拟练习,所以主要是学习Lucene的开发jar包的使用,所以普通的Java工程就可以。

        2.2.开发代码准备
        2.2.1.MyBatis持久层开发
        1. 创建pojo
        package cn.baidu.pojo;
        public class Book {
            // 图书ID
            private Integer id;
            // 图书名称
            private String name;
            // 图书价格
            private Float price;
            // 图书图片
            private String pic;
            // 图书描述
            private String desc;
             getter/setter方法。。。。。。
        }    

        2. 创建DAO接口
        package cn.baidu.dao;
        import java.util.List;
        import cn.baidu.pojo.Book;
        public interface BookDao {
            public List<Book> queryBookList() throws Exception;
        }    

        3. 创建映射文件
        <?xml version="1.0" encoding="UTF-8"?>
        <!DOCTYPE mapper
          PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN"
          "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
        <mapper namespace="cn.baidu.dao.BookDao">
            <select id="queryBookList" resultType="cn.baidu.pojo.Book">
                select
                    id, name, price, pic, description as `desc`
                from
                    book
            </select>
        </mapper>    

        2.2.2.创建索引的准备代码
        在【cn.baidu.test】中创建【CreateIndexTest.java】
        /**
         * 使用中文分析器IKAnalyzer创建索引
         * 
         * @author Derek Sun
         */
        public class CreateIndexTest {
            /**
             * 创建索引的准备工作(使用IK分析器)
             */
            private IndexWriter createIndexWriter(String indexRepositoryPath) throws Exception {
                // 创建Directory对象
                Directory dir = FSDirectory.open(new File(indexRepositoryPath));
                // 创建一个标准分析器
                Analyzer analyzer = new IKAnalyzer();
                // 创建IndexWriterConfig对象
                // 参数1: Lucene的版本信息, 可以选择对应的Lucene版本也可以使用LATEST
                // 参数2: 分析器对象
                IndexWriterConfig config = new IndexWriterConfig(Version.LATEST, analyzer);
                // 创建IndexWriter对象
                return new IndexWriter(dir, config);
            }
            
            /**
             * 从数据库采集数据
             */
            private List<Book> getBookInfoFromDB() throws Exception {
                SqlSession sqlSession = null;
                try {
                    InputStream inputStream = Resources.getResourceAsStream("MyBatisConfig.xml");
                    SqlSessionFactory sqlSessionFactory = new SqlSessionFactoryBuilder().build(inputStream);
                    sqlSession = sqlSessionFactory.openSession();
                    BookDao bookDao = sqlSession.getMapper(BookDao.class);
                    List<Book> bookList = bookDao.queryBookList();
                    return bookList;
                } catch(Exception e) {
                    e.printStackTrace();
                    throw e;
                } finally {
                    sqlSession.close();
                }
            }
            
            /**
             * 把数据库中的数据创建索引
             */
            @Test
            public void testCreateIndex() throws Exception {
                // 。。。。。。
            }
        }

        3.Field域
        3.1.Field的属性
        Field域是Document文档的基本构成元素,和数据库表的字段类似,用于存储不同的数据,包括Field名和Field值两部分。Field域和数据库表字段一样也有不同类型的Field域。

        我们先不讨论Field域的类型,首先不管是什么类型的Field域都会有三个共同的属性: 
        1.是否分词(tokenized):是否对域的内容进行分词处理。
        前提:域内容需要查询时,内容多的分,内容少的不分;域内容不需要查询时不分。
        比如:商品名称、商品描述等,这些内容都是查询信息的重点部分,而且内容多,因此需要分词
        比如:商品id、订单号、身份证号等,这些内容也是查询的部分,但不需要分词。
        2.是否索引(indexed):将Field分析后的词或整个Field的值进行索引,只有索引方可搜索到。
        前提:域内容需要查询时索引,不需要查询时不索引。
        比如:商品名称、商品描述分析后进行索引;商品id、订单号、身份证号不用分词但也要索引,这些将来都要作为查询条件。
        比如:图片路径、文件路径等,不用作为查询条件就不用索引。
        3.是否存储(stored):将Field值存储在文档中,存储在文档中的Field才可以从Document中获取。
        前提:是否要在搜索结果中将内容展示给用户。
        比如:商品名称、订单号,凡是将来要从Document中获取的内容都要存储。
        比如:商品描述,内容较大不用存储,可以节省lucene的索引文件空间。如果要向用户展示商品描述可以从系统的关系数据库中获取。

        3.2.常用Field类型
        说完三个共同的属性后,我们再来看看Lucene的Field都有哪些常用类型:
        不同类型的Field的上面三个共同属性的值会不同,用户可以根据此选用不同类型的Field完成业务需求。
        Field类    数据类型    tokenized是否分词    Indexed
        是否索引    Stored
        是否存储    说明
        StringField(FieldName, FieldValue,Store.YES))    字符串    N    Y    Y或N    这个Field用来构建一个字符串Field,但是不会进行分词,会将整个串存储在索引中,比如(订单号,身份证号等)
        是否存储在文档中用Store.YES或Store.NO决定
        LongField(FieldName, FieldValue,Store.YES)    Long型     Y    Y    Y或N    这个Field用来构建一个Long数字型Field,进行分词和索引,比如(价格)
        是否存储在文档中用Store.YES或Store.NO决定
        StoredField(FieldName, FieldValue)     重载方法,支持多种类型    N    N    Y    这个Field用来构建不同类型Field
        不分析,不索引,但要Field存储在文档中
        TextField(FieldName, FieldValue, Store.NO)
        或
        TextField(FieldName, reader)    字符串
        或
        流    Y    Y    Y或N    如果是一个Reader, lucene猜测内容比较多,会采用Unstored的策略.

        3.3.修改Field
        3.3.1.修改分析
        对昨天的创建索引的代码中创建的Field对象进行类型的修改,根据不同的字段使用合适类型的Field类型:
        1.图书id
        是否分词:不分词,因为不会根据商品id来搜索商品 
        是否索引:索引,因为可能需要根据图书ID进行搜索
        是否存储:要存储,因为查询结果页面需要使用id这个值。
        使用Field:StringField(FieldName, FieldValue, Store.YES)
        2.图书名称
        是否分词:要分词,因为要根据图书名称的关键词搜索。
        是否索引:要索引。
        是否存储:要存储。
        使用Field:TextField(FieldName, FieldValue, Store.YES)
        3.图书价格
        是否分词:要分词,lucene对数字型的值只要有搜索需求的都要分词和索引,因为lucene对数字型的内容要特殊
        分词处理,需要分词和索引。
        是否索引:要索引
        是否存储:要存储
        使用Field:FloatField(FieldName, FieldValue, Store.YES)
        4.图书图片地址
        是否分词:不分词
        是否索引:不索引
        是否存储:要存储
        使用Field:StoredField(FieldName, FieldValue)
        5.图书描述
        是否分词:要分词
        是否索引:要索引
        是否存储:因为图书描述内容量大,不在查询结果页面直接显示,不存储(不存储是指不在lucene的Field域中保存)
        使用Field:TextField(FieldName, FieldValue, Store.NO)

        如果要在详情页面显示详细的描述内容信息,解决方案:
        从lucene中取出图书的id,根据图书的id查询关系数据库(MySQL)中book表得到描述信息。
        3.3.2.代码修改
        对之前编写的testCreateIndex()方法进行修改。让不同的列根据需求使用合适类型的Field类
        代码片段
            // Document文档中添加Field域
            // 图书id(不分词、不索引、只存储)
            document.add(new StringField("id", book.getId().toString(), Store.YES));
            // 图书名称(分词、索引、存储)
            document.add(new TextField("name", book.getName().toString(), Store.YES));
            // 图书价格(分词、索引、存储)
            document.add(new FloatField("price", book.getPrice(), Store.YES));
            // 图书图片地址(不分词、不索引、只存储)
            document.add(new StoredField("pic", book.getPic().toString()));
            // 图书描述(分词、索引、不存储)
            document.add(new TextField("desc", book.getDescription().toString(), Store.NO));

        图片地址没有作为索引条目:

        4.索引维护
        4.1.需求
        当采集的原数据发生变化的时候,Lucene创建的索引库也要跟着同步变化。比如:管理人员通过电商系统更改图书信息,这时更新的是关系数据库,如果使用lucene搜索图书信息,需要在数据库表book信息变化时及时同步更新到lucene的索引库。
        4.2.添加索引
        4.2.1.事前准备
        1.添加新索引前目录【C:\mydir\03_workspace\lucene\indexDB】


        2.用Luke查看【name】Field域的term词项,结果如下:(添加前)

            







        查看document对象的数量是五个


        3. 先在扩展词库中增加两个扩展词:
        注意:词库文件在eclipse不能直接打开,如果在eclipse中打开会直接用记事本打开,但是记事本一保存可能会保存出带bom头的utf-8格式的文件,所以必须在外面通过专业记事本修改,但要注意这时候要直接去该编译后路径下的文件【bin】下的,如果你改的还是【config】下的就不会被自动编译到bin下,就不会起作用,但可以你还很纳闷为什么不好用。

        在bin下打开【ext.dic】,增加两个扩展词

        4.2.2.代码实现
            @Test
            public void testAddIndex() throws Exception {
                // 第一步:创建IndexWriter
                IndexWriter indexWriter = createIndexWriter("C:\\mydir\\03_workspace\\lucene\\indexDB");
                // 创建两个文档对象
                Document doc1 = new Document();
                Document doc2 = new Document();
                // 给第一个文档对象添加域
                // id
                doc1.add(new StringField("id", "6", Store.YES));
                // 图书名称
                doc1.add(new TextField("name", "传智播客", Store.YES));
                // 图书描述
                doc1.add(new TextField("desc", "新增document2", Store.NO));
                // 给第二个文档对象添加域
                // id
                doc2.add(new StringField("id", "7", Store.YES));
                // 图书名称
                doc2.add(new TextField("name", "baidu", Store.YES));
                // 图书描述
                doc2.add(new TextField("desc", "新增document3", Store.NO));
                // 创建索引
                indexWriter.addDocument(doc1);
                indexWriter.addDocument(doc2);
                
                // 关闭IndexWriter对象
                indexWriter.close();
            }

        4.2.3.测试

        1. 查看索引库目录:红框中的是新添加的索引文件

            注意:新增的索引和document对象和原来的不是在同一个文件中。

        2. Luke重新读入索引库目


        增加了两个document对象:


        4.3.删除索引
        4.3.1.删除指定的文档对象
        根据term项删除指定的文档对象,同时会让对应的索引项失效,索引失效但不会被一同删除,仍然保留在索引表中:
        代码【DeleteIndexTest.java】
        public class DeleteIndexTest {
            /**
             * 根据Term删除
             * @throws Exception
             */
            @Test
            public void test() throws Exception {
                // 创建目录对象,指定索引路径
                Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                // 创建分析器
                Analyzer analyzer = new IKAnalyzer();
                // 创建写入配置
                IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
                // 创建写入对象
                IndexWriter indexWriter = new IndexWriter(dir, config);
                // 根据一个term对象删除索引
                indexWriter.deleteDocuments(new Term("name", "baidu"));
                // 释放资源
                indexWriter.close();
            }
        }

        执行后,用Luke查看结果: term索引项仍然存在,没有发生变化,但已经失效了,原因是对应的document对象已经被删除了。


        使用【name:baidu】条件查询没有搜索到,说明这个索引已经失效

        此时的document对象没有被真正的删除而是放到了类似windows回收站的删除文件中了:

        注意:放到删除文件中的ducoment对象在Lucene3.X版本可以恢复删除的文档,3.X之后无法恢复。

        如果想要彻底删除指定的索引,需要强制清空“回收站”:执行【DeleteIndexTest.java】的【test2】
            /**
             * 普通删除+强制情况回收站
             * 
             * @throws Exception
             */
            @Test
            public void test2() throws Exception {
                // 创建目录对象,指定索引路径
                Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                // 创建分析器
                Analyzer analyzer = new IKAnalyzer();
                // 创建写入配置
                IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
                // 创建写入对象
                IndexWriter indexWriter = new IndexWriter(dir, config);
                // 根据一个term对象删除索引
                indexWriter.deleteDocuments(new Term("name", "baidu"));
                // 强制清空回收站
                indexWriter.forceMergeDeletes();
                // 释放资源
                indexWriter.close();
            }
        强制清空回收站后索引库文件发生了变化:

        用Luke查看删除后的索引库:name:baidu的term索引项已经没有了:


        Document就剩六个了,而且docID的位置也没给留,原先的docID为6的就是name:baidu的那条,已经被删除了:



        用【name:baidu】条件查询自然也是什么都查不到了:


        4.3.2.删除全部索引(慎用)
        将索引目录的索引信息全部删除,直接彻底删除,无法恢复。
        执行【DeleteIndexTest.java】的【test3】
            /**
             * 全部删除
             * @throws Exception
             */
            @Test
            public void test3() throws Exception {
                // 创建目录对象,指定索引路径
                Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                // 创建分析器
                Analyzer analyzer = new IKAnalyzer();
                // 创建写入配置
                IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
                // 创建写入对象
                IndexWriter indexWriter = new IndexWriter(dir, config);
                // 根据一个term对象删除索引
                indexWriter.deleteAll();
                // 释放资源
                indexWriter.close();
            }

        删除后的索引目录:

        索引域数据清空


        文档域数据也清空

        说明:
        建议参照关系数据库的根据主键删除的方式,所以索引中创建document对象时,需要创建一个主键Field,删除时根据此主键Field删除。这样比较安全。

        4.3.3.删除小结
        1.上面使用IndexWriter的deleteDocuments(term)方法的删除就是Lucene的普通删除方法。只是将document对象删除同时使对应的索引项失效,并没有真的删除。如果想真正的删除就要强制清空回收站,即执行:forceMergeDeletes()方法。
        2.慎用deleteAll()。
        4.4.修改索引
        更新索引采用的是先删后增的方式,即先删除符合条件的索引(即上面刚学完的普通删除),然后再添加新的索引,生成新的索引文件。更新条件依然是根据term词项更新。


        更新前索引库的目录:



        Document还在:


        执行【UpdateIndexTest.java】
        package cn.baidu.test;

        import java.io.File;

        import org.apache.lucene.analysis.Analyzer;
        import org.apache.lucene.document.Document;
        import org.apache.lucene.document.Field.Store;
        import org.apache.lucene.document.StoredField;
        import org.apache.lucene.document.TextField;
        import org.apache.lucene.index.IndexWriter;
        import org.apache.lucene.index.IndexWriterConfig;
        import org.apache.lucene.index.Term;
        import org.apache.lucene.store.Directory;
        import org.apache.lucene.store.FSDirectory;
        import org.apache.lucene.util.Version;
        import org.junit.Test;
        import org.wltea.analyzer.lucene.IKAnalyzer;
        public class UpdateIndexTest {
            @Test
            public void test() throws Exception {
                // 创建分析器对象
                Analyzer analyzer = new IKAnalyzer();
                // 创建目录对象,指定索引库目录
                Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                // 创建写入的配置信息
                IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
                // 创建写入对象
                IndexWriter indexWriter = new IndexWriter(dir, config);
                // 创建一个新的document对象
                Document doc = new Document();
                doc.add(new StringField("id", 8));
                doc.add(new TextField("name", "luceneUpdateTest", Store.YES));
                // 根据term词项更新
                indexWriter.updateDocument(new Term("name", "java"), doc);
                // 释放资源
                indexWriter.close();
            }
        }

        更新后索引库的目录:


        Luke查看索引库:name:java的term索引项还在,又新增了name:luceneupdatetest(这里经过分析器的过滤器后大写转变为小写了):

        原来的文档已经不存在了,进了“回收站”:


        新增了一个document:

        注意:如果更新索引的目标文档对象不存在,则直接执行添加。
        建议:
        为了避免误更新,建议对更新需求采用先查询出来后,确定要更新的记录存在的前提下再执行更新操作。

        5.Lucene索引库查询(重点)
        5.1.创建查询的两种方法
        Lucene要搜索信息需要通过Query查询对象进行。Lucene会根据Query查询对象生成最终的查询语法,类似SQL语法一样。可通过两种方法创建查询对象:
        1.通过Query子类搜索
        2.使用QueryParse解析查询表达式同时生成Query对象
        5.2.通过Query子类查询
        Query是一个抽象类,lucene提供了很多查询对象,比如TermQuery项精确查询,NumericRangeQuery数字范围查询等。
        程序员可以利用Query的子类手动创建查询对象,但这种查询对象是没有分析器的,因此程序员写了什么样的条件就直接用什么样的条件进行查询,而不会进行词汇分析、语言分析等处理。所以通过Query子类的查询在实际项目中使用的不多。但学习它主要的目的是通过这种最基本的查询对象的学习,让搜索技术的初学者对查询索引有一个基础的认识,为后面学习复杂的查询奠定基础。
        抽取搜索逻辑:
            private void doSearch(Query query) throws IOException { 
                  System.out.println("实际的查询条件:" + query);
                // 创建Directory对象
                Directory directory = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                // 创建IndexReader对象
                IndexReader reader = DirectoryReader.open(directory);
                // 创建IndexSearcher对象
                IndexSearcher searcher = new IndexSearcher(reader);
                // 执行搜索,返回结果集TopDocs
                // 参数1:查询条件对象,参数2:返回的数据条数,指定查询结果最顶部的n条数据返回
                TopDocs topDocs = searcher.search(query, 10);
                System.out.println("查询到的数据总条数是:" + topDocs.totalHits);
                // 获取查询结果集
                ScoreDoc[] docs = topDocs.scoreDocs;
                // 遍历结果集
                for (ScoreDoc scoreDoc : docs) {
                    // 根据文档对象ID取得文档对象
                    int docID = scoreDoc.doc;
                    Document doc = searcher.doc(docID);
                    System.out.println("======================================");
                    System.out.println("docID:" + docID);
                    System.out.println("bookId:" + doc.get("id"));
                    System.out.println("name:" + doc.get("name"));
                    System.out.println("price:" + doc.get("price"));
                    System.out.println("pic:" + doc.get("pic"));
                    // System.out.println("desc:" + doc.get("desc"));
                }
                // 3. 关闭IndexReader对象,释放资源
                reader.close();
            }

        5.2.1.全部索引查询——MatchAllDocsQuery
        查询索引目录下所有文档的全部内容:相当于【*:*】
            // 用MatchAllDocsQuery对象查询
            @Test
            public void testMatchAllDocsQuery() throws Exception {
                Query query = new MatchAllDocsQuery();
                doSearch(query);
            }
        结果:
        实际的查询条件:*:*
        查询到的数据总条数是:5
        ======================================
        docID:0
        bookId:1
        name:java 编程思想
        price:71.5
        pic:23488292934.jpg
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg
        ======================================
        docID:4
        bookId:5
        name:solr
        price:78.0
        pic:99999229292.jpg

        5.2.2.精确指定索引词项查询——TermQuery
        TermQuery:通过Term项查询。
        TermQuery不使用分析器,所以不进行分析,是精确匹配,大小写敏感。所以建议匹配不分词的Field域查询,比如订单号、分类ID号等。而且只接受一个Term对象
        【查询name域中包含luceneupdatetest的文档】
            // 用TermQuery对象查询
            @Test
            public void testByTermQuery() throws Exception {
                Query query = new TermQuery(new Term("name", "mybatis"));
                doSearch(query);
            }
        结果:
        实际的查询条件:name:mybatis
        查询到的数据总条数是:1
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
            因为在创建索引时经过分析name Filed域已经把大写转小写了,所以索引表中的term此项是【mybatis】而不是【MyBatis】


        如果把条件改成:Query query = new TermQuery(new Term("name", "MyBatis"));
        结果:
        实际的查询条件:name:MyBatis
        查询到的数据总条数是:0

        5.2.3.数值范围查询——NumericRangeQuery
        NumericRangeQuery指定数字范围的查询,五个参数分别是:域名、最小值、最大值、是否包含最小值、是否包含最大值:
            /**
             * 使用NumericRangeQuery
             */
            @Test
            public void testByNumericRangeQuery() throws Exception {
                Query query = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
                doSearch(query);
                System.out.println("  ");
                query = NumericRangeQuery.newFloatRange("price", 55f, 66f, false, true);
                doSearch(query);
                System.out.println("  ");
                query = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, true);
                doSearch(query);
            }
        结果:用方括号表示包含,用大括号表示不包含
        实际的查询条件:price:[55.0 TO 66.0}
        查询到的数据总条数是:2
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg
          
        实际的查询条件:price:{55.0 TO 66.0]
        查询到的数据总条数是:2
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg
          
        实际的查询条件:price:[55.0 TO 66.0]
        查询到的数据总条数是:3
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg

        5.2.4.组合条件查询——BooleanQuery
        BooleanQuery布尔查询,实现组合条件查询:它可以组合多个其他类型的query对象。
        参数1:被组合的一个query对象
        参数2:每加一个条件要指定是MUST,还是MUST_NOT,还是SHOULD,是对参数1条件的逻辑控制。
        参数2的值:
                Occur.MUST:必须满足此条件
                Occur.SHOULD:应该满足此条件(也可以不满足)
                Occur.MUST_NOT:必须不满足此条件
            MUST、SHOULD、MUST_NOT的使用规则:
                MUST:在任何时候,与其他条件组合都有效。
                MUST_NOT:
        不能与MUST_NOT组合,否则没有任何结果返回
        与其他条件组合都有效。
                SHOULD:
        不能与MUST组合,否则SHOULD条件失效
        与其他条件组合都有效。

        常用组合关系代表的意思如下: 
             1、MUST和MUST表示“与”的关系,即“交集”。
             2、SHOULD与SHOULD表示“或”的关系,即“并集”。
             3、MUST和MUST_NOT前者包含后者不包含。
             4、MUST_NOT和MUST_NOT,什么都查询不出来
             5、SHOULD与MUST,SHOULD控制的条件失效不被查询考虑,只查询MUST控制的条件。
             6、SHOULD与MUST_NOT先查SHOULD,然后再用MUST_NOT过滤。
            注意:从上面的组合可以得出,正常情况下SHOULD不应该跟MUST或MUST_NOT组合使用,SHOULD就跟SHOULD组合使用,这样才是正常的检索。MUST_NOT和MUST_NOT也是扯淡的。

        示例【MUST与MUST】
            /**
             * 使用BooleanQuery:MUST与MUST
             */
            @Test
            public void testByBooleanQuery1() throws Exception {
                Query query1 = new TermQuery(new Term("name", "apache"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, false, true);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.MUST);  // 书名带有apache的必须包含进来
                booleanQuery.add(query2, Occur.MUST);  // 价格大于55,小于等于66范围内的书籍必须包含进来
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:+name:apache +price:{55.0 TO 66.0]
        查询到的数据总条数是:1
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg

        示例【SHOULD与SHOULD】:并集
            @Test
            public void testByBooleanQuery6() throws Exception {
                Query query1 = new TermQuery(new Term("name", "lucene"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.SHOULD);  // 书名带有mybatis的应该包含进来
                booleanQuery.add(query2, Occur.SHOULD);  // 价格大于等于55,小于66范围内的书籍应该包含
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:name:lucene price:[55.0 TO 66.0}
        查询到的数据总条数是:3
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg

        示例【MUST与MUST_NOT】:前者包含后者不包含
            /**
             * 使用BooleanQuery
             */
            @Test
            public void testByBooleanQuery2() throws Exception {
                Query query1 = new TermQuery(new Term("name", "mybatis"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.MUST_NOT);  // 书名带有mybatis的不能包含进来
                booleanQuery.add(query2, Occur.MUST);  // 价格大于等于55,小于66范围内的书籍
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:-name:mybatis +price:[55.0 TO 66.0}
        查询到的数据总条数是:1
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg

        示例【MUST_NOT和MUST_NOT】:没有意义,什么都查询不到
            @Test
            public void testByBooleanQuery3() throws Exception {
                Query query1 = new TermQuery(new Term("name", "apache"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 56f, true, true);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.MUST_NOT);  // 书名带有apache的必须不包含进来
                booleanQuery.add(query2, Occur.MUST_NOT);  // 价格大于等于55,小于等于56范围内的书籍必须不包含进来
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:-name:apache -price:[55.0 TO 56.0]
        查询到的数据总条数是:0
            MUST_NOT必须在它之前有条件确定下来一个固定范围内再进行排除条件过滤,但是两个MUST_NOT,谁也没有给定范围,所以最终查不到结果。

        【SHOULD与MUST】:SHOULD控制的条件失效不被查询考虑,只查询MUST控制的条件。
            @Test
            public void testByBooleanQuery4() throws Exception {
                Query query1 = new TermQuery(new Term("name", "lucene"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 56f, true, true);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.SHOULD);  // 书名带有lucene的应该包含进来(SHOULD控制的条件失效)
                booleanQuery.add(query2, Occur.MUST);  // 价格大于等于55,小于等于56范围内的书籍必须包含进来
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:name:lucene +price:[55.0 TO 56.0]
        查询到的数据总条数是:2
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg

        示例【SHOULD与MUST_NOT】:SHOULD条件有效,在SHOULD查询结果范围内用MUST_NOT过滤。
            @Test
            public void testByBooleanQuery5() throws Exception {
                Query query1 = new TermQuery(new Term("name", "mybatis"));
                Query query2 = NumericRangeQuery.newFloatRange("price", 55f, 66f, true, false);
                BooleanQuery booleanQuery = new BooleanQuery();
                booleanQuery.add(query1, Occur.MUST_NOT);  // 书名带有mybatis的不能包含进来
                booleanQuery.add(query2, Occur.SHOULD);  // 价格大于等于55,小于66范围内的书籍应该包含
                System.out.println("实际的查询条件:" + booleanQuery);
                // and相当于求它们的交际
                doSearch(booleanQuery);
            }
        结果:
        实际的查询条件:-name:mybatis price:[55.0 TO 66.0}
        查询到的数据总条数是:1
        ======================================
        docID:3
        bookId:4
        name:spring
        price:56.0
        pic:83938383222.jpg
            因为MUST_NOT需要一个结果范围,所以SHOULD条件必须被执行,并固定了范围,然后再用MUST_NOT排除。

        5.3.通过QueryParser搜索
        我们可以直接写类似上面打印出来的查询语句,通过QueryParser的Parse方法进行解析生成Query对象。
        如果使用QueryParser需要的jar包就是:
            
        5.3.1.QueryParser
        QueryParser对象的创建就是直接new,参数1:默认的搜索域,参数2:一个分析器对象。
        5.3.1.1.基础查询
        也叫关键词查询。
        语法:域名+“:”+搜索的关键字。  例如:name:java
            示例:由于有分析器,所以条件大小写都是一样的,经过分析器后都会处理成小写。
            @Test
            public void testByQueryParser1() throws Exception {
                // 创建分析器
                Analyzer analyzer = new StandardAnalyzer();
                // 创建查询解析器
                QueryParser queryParser = new QueryParser("desc", analyzer);
                // 根据查询解析器常见查询对象
                Query query = queryParser.parse("name:Mybatis");
                // 进行查询
                doSearch(query);
                System.out.println("  ");
                // 根据查询解析器常见查询对象
                query = queryParser.parse("name:mybatis");
                // 进行查询
                doSearch(query);
            }
        结果:
        实际的查询条件:name:mybatis
        查询到的数据总条数是:1
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg
          
        实际的查询条件:name:mybatis
        查询到的数据总条数是:1
        ======================================
        docID:2
        bookId:3
        name:mybatis
        price:55.0
        pic:88272828282.jpg

        5.3.1.2.范围查询
        域名+“:”+[最小值 TO 最大值](用[表示小于等于,{表示小于,]表示大于等于,}表示大于,TO要大写)
        例如:size:[1 TO 1000]
        注意:QueryParser不支持对数字范围的搜索,它支持字符串范围。数字范围搜索建议使用NumericRangeQuery。虽然上面的NumericRangeQuery在测试时候打印出来的条件和这个写法是一样的,但是使用QueryParser时候就不能这样写,但是字符串范围查询是可以的。
        在solr中可以支持这样的数值范围查询语法。

        5.3.1.3.组合条件查询
        在QueryParser对象中写条件时可以使用:AND,OR,NOT要大写
        必须满足此条件    AND或+(加号)    相当于Occur.MUST
        应该满足此条件    OR或空(不用符号)    相当于Occur.SHOULD
        必须不满足此条件    NOT或-(减号)    相当于Occur.MUST_NOT

        前提:QueryParser queryParser = new QueryParser("desc", analyzer);
        1)+条件1 +条件2:两个条件都必须满足(相当于MUST与MUST)
                queryParser.parse("+mybatis +lucene")  或
                queryParser.parse("mybatis AND lucene")
            2)条件1 条件2:两个条件满足其一即可(相当于SHOULD与SHOULD)
                queryParser.parse("mybatis lucene")
                queryParser.parse("mybatis OR lucene")
            3)+条件1 -条件2:条件1必须满足,条件2必须不满足(相当于MUST与MUST_NOT) 
                queryParser.parse("+lucene -mybatis")
            4)-条件1 +条件2:条件1必须不满足,条件2必须满足(相当于MUST_NOT与MUST) 
                queryParser.parse("-lucene +mybatis")
                queryParser.parse("NOT lucene AND mybatis")
            5)+条件1 条件2:必须满足条件1,条件2失效(相当于MUST与SHOULD)
                queryParser.parse("+lucene mybatis"),必须包含lucene的,忽略mybatis的。
                ╳ queryParser.parse("AND lucene mybatis"),最前面不能写AND或OR,但可以写NOT
            6)条件1 +条件2:条件1失效,必须满足条件2(相当于SHOULD与MUST)
                queryParser.parse("mybatis +lucene")
                ╳ queryParser.parse("OR lucene AND mybatis")
            7)-条件1 条件2:相当于MUST_NOT与SHOULD
                queryParser.parse("-lucene mybatis")
                queryParser.parse("NOT lucene mybatis")

        5.3.1.4.默认搜索域对查询条件的影响
        设置了默认搜索域后,查询条件中必须明确给出要搜索的域才会按照给出的域搜索,否则都会默认认为是搜索默认搜索域。假设:QueryParser queryParser = new QueryParser("desc", analyzer);表明设置了desc为默认搜索域。
            比如:
                Query query = queryParser.parse("java AND lucene");
                被解释成:desc:java AND desc:lucene,条件中没有明确指定时就用默认的域desc。
                Query query = queryParser.parse("name:java AND lucene");
                被解释成:name:java AND desc:lucene,而不是name:java AND name:lucene。
                Query query = queryParser.parse("name:lucene AND java");
                被解释成:name:lucene AND desc:java,而不是name:lucene AND name:java。
                以上两种条件最终的查询结果是不同的,但如果理解错误很容易误解为查询结果应该是一样的。
                Query query = queryParser.parse("desc:java AND lucene");
                被解释成:desc:java AND desc:lucene,第二个条件其实使用的是默认域,只不过默认域和前面指定
            的域名一致而已
                Query query = queryParser.parse("name:java");
                还可以指定一个新的Field域,完全跟默认的搜索域没有任何关系,这时只会搜索name域,desc域与本次查询没有任何关系。

        5.3.2.MultiFieldQueryParser
        通过MultiFieldQueryParse对多个域查询,两个域之间相当于用或连接:
            /**
             * 使用MultiFieldQueryParser多域查询解析器进行查询
             */
            @Test
            public void testByMultiFieldQueryParser() throws Exception {
                // 创建分析器
                Analyzer analyzer = new StandardAnalyzer();
                String[] fields = {"name", "desc"};
                // 创建多域查询解析器
                MultiFieldQueryParser queryParser = new MultiFieldQueryParser(fields, analyzer);
                // 根据查询条件解析出对应的查询对象
                Query query = queryParser.parse("lucene");
                // 打印查询对象
                System.out.println(query);
                // 进行查询
                doSearch(query);
            }
        结果:
        name:lucene desc:lucene
        查询到的数据总条数是:2
        ======================================
        docID:1
        bookId:2
        name:apache lucene
        price:66.0
        pic:77373773737.jpg
        ======================================
        docID:4
        bookId:5
        name:solr
        price:78.0
        pic:99999229292.jpg

        生成的查询语句:
        name:lucene desc:lucene
        没有+和-,说明是或条件,即name:lucene OR desc:lucene

        5.4.TopDocs
        Lucene搜索结果可通过TopDocs遍历,TopDocs类提供了少量的属性,如下:

        方法或属性    说明
        totalHits    匹配搜索条件的总记录数
        scoreDocs    顶部匹配记录
        注意:
        Search方法需要指定匹配记录数量n:indexSearcher.search(query, n)
        TopDocs.totalHits:是匹配索引库中所有记录的数量
        TopDocs.scoreDocs:匹配相关度高的前边记录数组,scoreDocs的长度小于等于search方法指定的参数n
        6.相关度排序(了解)
        6.1.什么是相关度排序
        相关度排序是查询结果按照与查询关键字的相关性进行排序,越相关的越靠前。比如搜索“Lucene”关键字,与该关键字最相关的文章应该排在前边。
        6.2.相关度打分
        Lucene对查询的关键字与包含这个关键字的文档的相关度进行打分,得分高的就排在前边。如何打分呢?Lucene是在用户进行检索时实时根据搜索的关键字计算出来的,分两步:
            1)计算出词(Term)的权重
            2)根据词的权重值,计算文档相关度得分。

        什么是词的权重?
            通过索引部分的学习,明确索引的最小单位是一个Term(索引词典中的一个词)。搜索也是从索引域中查询Term,再根据Term找到文档。Term对文档的重要性称为权重,影响Term权重有两个因素:
        Term Frequency (tf):
        指此Term在此文档中出现了多少次。tf 越大说明越重要。 
        词(Term)在文档中出现的次数越多,说明此词(Term)对该文档越重要,如“Lucene”这个词,在文档中出现的次数很多,说明该文档主要就是讲Lucene技术的。
        Document Frequency (df):
        指有多少文档包含此Term。df 越大说明越不重要。     
            比如,在多篇英语文档中,this出现的次数更多,就说明越重要吗?不是的,有越多的文档包含此词(Term), 说明此词(Term)太普通,不足以区分这些文档,因而重要性越低。
        6.3.设置boost值影响相关度排序
        boost是一个加权值(默认加权值为1.0f),它可以影响权重的计算。在索引时对某个文档中的field设置加权值,设置越高,在搜索时匹配到这个文档就可能排在前边。

        未设置权重:
            当未设置boost加权时name为spring的排名是最后一名,希望把name为spring的排名提高。


        先清空索引库,然后可以重新做一个类试验加权值boost的,就是在创建索引的代码中追加加权值的设置逻辑:
        package cn.baidu.test2;

        import java.io.File;
        import java.io.InputStream;
        import java.util.ArrayList;
        import java.util.List;

        import org.apache.ibatis.io.Resources;
        import org.apache.ibatis.session.SqlSession;
        import org.apache.ibatis.session.SqlSessionFactory;
        import org.apache.ibatis.session.SqlSessionFactoryBuilder;
        import org.apache.lucene.analysis.Analyzer;
        import org.apache.lucene.document.Document;
        import org.apache.lucene.document.Field.Store;
        import org.apache.lucene.document.FloatField;
        import org.apache.lucene.document.StoredField;
        import org.apache.lucene.document.TextField;
        import org.apache.lucene.index.IndexWriter;
        import org.apache.lucene.index.IndexWriterConfig;
        import org.apache.lucene.store.Directory;
        import org.apache.lucene.store.FSDirectory;
        import org.apache.lucene.util.Version;
        import org.junit.Before;
        import org.junit.Test;
        import org.wltea.analyzer.lucene.IKAnalyzer;

        import cn.baidu.dao.BookDao;
        import cn.baidu.pojo.Book;

        /**
         * 增加加权值boost
         * 
         * @author Derek Sun
         *
         */
        public class CreateIndexTest3 {
            
            private SqlSessionFactory sqlSessionFactory = null;
            
            @Before
            public void init() throws Exception {
                InputStream inputStream = Resources.getResourceAsStream("MyBatisConfig.xml");
                sqlSessionFactory = new SqlSessionFactoryBuilder().build(inputStream);
            }
            
            @Test
            public void test() throws Exception {
                SqlSession sqlSession = null;
                try {
                    sqlSession = sqlSessionFactory.openSession();
                    BookDao bookDao = sqlSession.getMapper(BookDao.class);
                    // 1. 从数据库采集数据
                    List<Book> bookList = bookDao.queryBookList();
                    
                    // 2. 创建Document文档对象
                    List<Document> documents = new ArrayList<Document>();
                    for (Book book : bookList) {
                        Document document = new Document();
                        // Document文档中添加Field域
                        // 图书id
                        // 不分词、不索引、只存储
                        document.add(new StoredField("id", book.getId().toString()));
                        // 图书名称
                        // 分词、索引、存储
                        document.add(new TextField("name", book.getName().toString(), Store.YES));
                        // 图书价格
                        // 分词、索引、存储
                        document.add(new FloatField("price", book.getPrice(), Store.YES));
                        // 图书图片地址
                        // 不分词、不索引、只存储
                        document.add(new StoredField("pic", book.getPic().toString()));
                        // 图书描述
                        // 分词、索引、不存储
                        TextField detailField = new TextField("desc", book.getDescription().toString(), Store.NO);
                        // 判断是不是spring的那一条,如果是就增加它的加权值
                        if (book.getId() == 4) {
                            detailField.setBoost(100f);
                        }
                        document.add(detailField);
                        // 把Document放到list中
                        documents.add(document);
                    }
                    
                    // 3. 创建Analyzer分词器(分析文档,对文档进行切分词)
                    Analyzer analyzer = new IKAnalyzer();
                    // 4. 创建索引
                    // 4-1. 创建Directory对象,声明索引库位置
                    Directory dir = FSDirectory.open(new File("C:\\mydir\\03_workspace\\lucene\\indexDB"));
                    // 4-2. 创建IndexWriteConfig对象,写入索引需要的配置
                    IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_4_10_3, analyzer);
                    // 4-3. 创建IndexWriter写入对象
                    IndexWriter indexWriter = new IndexWriter(dir, config);
                    // 4-4. 把Document写入到索引库,通过IndexWriter对象添加文档对象document
                    for (Document doc : documents) {
                        indexWriter.addDocument(doc);
                    }
                    // 4-5. 释放资源(释放资源同时还有commit操作)
                    indexWriter.close();
                } catch(Exception e) {
                    e.printStackTrace();
                    throw e;
                } finally {
                    sqlSession.close();
                }
            }
        }

        执行创建索引的逻辑,使用luke重载新生成的索引库,再次查询spring在第一:


        7.Solr介绍
        7.1.什么是solr
        Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务。Solr是一个可以独立运行的搜索服务器,可以独立运行在Jetty、Tomcat等这些Servlet容器中。使用solr进行全文检索服务的话,只需要通过http请求访问该服务器即可。
        Solr提供了比Lucene更为丰富的查询语言,同时实现了文档的Field域的可配置、可扩展,并对索引、搜索性能进行了优化。
        使用Solr 进行创建索引和搜索索引的实现方法很简单,如下:
        创建索引:客户端(可以是浏览器可以是Java程序)用 POST 方法向 Solr 服务器发送一个描述 Field 及其内容的 XML 文档,Solr服务器根据xml文档添加、删除、更新索引 。
        搜索索引:客户端(可以是浏览器可以是Java程序)用 GET方法向 Solr 服务器发送请求,然后对 Solr服务器返回Xml、json等格式的查询结果进行解析。Solr不提供构建页面UI的功能。Solr提供了一个管理界面,通过管理界面可以查询Solr的配置和运行情况。

        7.2.Solr和Lucene的区别
        Lucene是一个开放源代码的全文检索引擎开发工具包,它不是一个完整的全文检索应用,不能独立运行。我们可以借助它在企业的系统中实现全文检索搜索功能,或者以Lucene为基础构建一个独立的全文检索搜索引擎应用,像百度,谷歌一样。
         Solr是用Lucene开发的一个全文检索搜索引擎服务,它是一个完整的全文检索应用,可以独立运行,企业中可以利用solr的搜索引擎服务非常快速的构建企业自己的搜索引擎,也可以通过Solr高效的完成站内搜索功能。
        说直白一些就是:Lucene不能拿来直接用,要在它基础上开发;Solr就是用Lucene开发的搜索引擎服务,可以拿来直接用。

        8.Solr安装配置
        8.1.下载solr
        Solr和lucene的版本是同步更新的,本课程使用的版本:4.10.3
        下载地址:http://archive.apache.org/dist/lucene/solr/
        Linux下需要solr-4.10.3.tgz,windows下需要solr-4.10.3.zip。


        解压solr-4.10.3.zip:

        目录说明:
        example:solr工程的实例目录:
        example/solr:
            该目录是一个标准的SolrHome,它包含一个默认配置信息的SolrCore目录。
        example/multicore:
            该目录包含了在Solr的multicore中设置的多个Core目录。
        example/webapps:
            该目录中包括一个solr.war,该war可作为solr的运行实例工程。


        8.2.SolrHome和SolrCore
        SolrHome就是MySQL的数据库主机。
        SolrCore就是MySQL的数据库主机下的一个数据库。这里面叫做索引库。MySQL的数据库是相互独立的,SolrCore同样也是相互独立的。
        SolrHome是Solr索引库的主目录,一个SolrHome可以包括多个SolrCore(Solr实例),每个SolrCore就是一个索引库,提供单独的搜索和索引服务,有自己独立的配置文件和数据文件。

        在【资料\solr\solr-4.10.3\example】目录下,【\solr】是一个SolrHome目录结构,如下:

            上图中“collection1”是一个SolrCore(Solr实例)目录 ,目录内容如下所示:
            

        8.3.SolrCore创建与配置
        Solr中许多功能都是配置就可以使用的,不需要做太多的实现编码,我们要做的只是配置好,然后调用即可。而且SolrCore的创建就是拷贝官方提供的一个实例,然后改一改配置即可。
        8.3.1.创建SolrCore
        最快的创建即拷贝解压缩包中的例子,拷到Solr工作目录:【C:\mydir\03_workspace\solr】。拷贝【solr-4.10.3\example\solr】文件夹到Solr工作目录,并改名为【solrhome】(改名不是必须的,只是为了便于理解),这是一个SolrHome目录,它里面自带一个collection1就是一个SolrCore。
             
        8.3.1.配置SolrCore
        一个SolrCore的配置都是自己独立的。主要的配置文件在SolrCore目录下的conf/solrconfig.xml。

        这个文件配置SolrCore实例的相关信息。主要是Solr索引库依赖的lib(lib标签)、索引文件存放的路径(datadir标签)、Solr提供的请求访问URL配置(requestHandler标签)。如果使用默认配置可以不用做任何修改。
        8.3.1.1.lib 标签
        在solrconfig.xml中默认配置了【contrib】和【dist】两个目录下的jar包,这些jar目录都在解压后的文件夹中,所以这两个文件夹也需要拷贝过来:

        【solr.install.dir】表示当前的SolrCore的目录位置,即【C:\mydir\03_workspace\solr\
        solrhome\collection1】,冒号:后面的【../../..】是针对【solr.install.dir】的相对路径,这个相对路径取决于我们把这两个文件夹放哪。这里还可以直接指定绝对路径,但不推荐使用绝对路径。
        比如:我们把【contrib】与【dist】复制到【C:\mydir\03_workspace\solr】目录下:


        那么【solr.install.dir:】后的【../../..】应该改为【../..】:
        (./    表示当前目录            ../表示上一级目录)


        8.3.1.2.datadir标签
        配置SolrCore的data目录。data目录用来存放SolrCore的索引文件和tlog日志文件
        【solr.data.dir】默认路径是【collection1\data】文件夹,如果没有data,solr会自动创建。



        如果不想使用默认的目录也可以通过solrconfig.xml更改索引目录 ,例如:

        (建议不修改,因为各自的索引文件和日志放在各自的SolrCore目录下更好,而且当配置多个SolrCore会报错)

        8.3.1.3.requestHandler标签
        requestHandler请求处理器,定义了索引和搜索的URL访问方式。官方提供的配置文件中就已经给我们配置了许多url访问方式,基本不用改。requestHandler也是可以根据自己的要求自定义。

        /update:维护索引使用的url,可以完成索引的添加、修改、删除操作。


        /select:查询索引使用的url。

        设置搜索参数完成搜索,搜索参数也可以设置一些默认值,如下:
        <requestHandler name="/select" class="solr.SearchHandler">
            <!-- 设置默认的参数值,可以在请求地址中修改这些参数-->
            <lst name="defaults">
                <str name="echoParams">explicit</str>
                <int name="rows">10</int><!--显示数量-->
                <str name="wt">json</str><!--显示格式-->
                <str name="df">text</str><!--默认搜索字段-->
            </lst>
        </requestHandler>
            
        8.4.Solr运行环境
        solr 需要运行在一个Servlet容器中,Solr4.10.3要求jdk使用1.7以上,Solr默认提供Jetty(java写的Servlet容器),
        使用jetty启动:使用cmd命令行,进入example文件夹启动。启动命令java -jar start.jar

        启动后访问地址:http://127.0.0.1:8983/solr
        但是企业中一般使用Tomcat作为服务器,本课程也是一样,
        相关环境如下:
        Solr:4.10.3
        Jdk环境:1.7(solr4.10 不能使用jdk1.7以下)
        服务器:Tomcat 7

        8.5.Solr服务部署
        上面拷贝并配置的不是SolrWeb服务,那只是一个个的Solr索引库。
        我们现在要部署的才是真正的Solr Web服务。
        由于在项目中用到的web服务器大多数是用的Tomcat,所以就进行solr和Tomcat的整合。
        8.5.1.安装Tomcat
        复制自己的Tomcat7到这里

        删除不用的应用(可以不删)

        修改server.xml配置文件里面的端口号(否则后面eclipse使用Tomcat会冲突)


        修改以下三个端口号



        8.5.2.部署solr.war到Tomcat中
        1、从solr解压包下的solr-4.10.3\example\webapps目录中拷贝solr.war
        复制solr.war

        粘贴到自己Tomcat的webapps里

        在Tomcat的webapps里,把war解压到当前路径,并删除solr.war

        效果:
            

        8.5.3.添加solr服务的扩展jar包(日志包)
        把solr解压包下solr-4.10.3\example\lib\ext目录下的所有jar包拷贝到Tomcat部署的solr的WEB-INF/lib文件夹:
        复制扩展jar包

        粘贴到Tomcat的webapps的solr工程的WEB-INF\lib目录


        8.5.4.配置solr应用的web.xml
        需要修改web.xml,让Tomcat使用JNDI的方式告诉solr服务器SolrHome在哪。


        修改内容:第42行的Solr/home名称必须是固定的,修改第43行,如下图

        8.5.5.启动Tomcat进行访问
        访问:http://localhost:8081/solr/,出现以下界面则说明solr安装成功!!!

        8.6.管理界面功能介绍
        8.6.1.Dashboard
        仪表盘,显示了该Solr实例开始启动运行的时间、版本、系统资源、jvm等信息。
        8.6.2.Logging
        Solr运行日志信息
        8.6.3.Cloud
        Cloud即SolrCloud,即Solr云(集群),当使用Solr Cloud模式运行时会显示此菜单,该部分功能在第二个项目,即电商项目会演示。
        8.6.4.Core Admin
        Solr Core的管理界面。在这里可以添加SolrCore实例(有bug,不推荐使用浏览器界面添加SolrCore)。

        推荐使用手动添加solrcore:
        第一步:复制collection1改名为collection2
        第二步:修改core.properties。name=collection2
        第三步:重启tomcat
        8.6.5.java properties
        Solr在JVM 运行环境中的属性信息,包括类路径、文件编码、jvm内存设置等信息。
        8.6.6.Tread Dump
        显示Solr Server中当前活跃线程信息,同时也可以跟踪线程运行栈信息。
        8.6.7.Core selector(重点)
        选择一个SolrCore进行详细操作,如下:

        8.6.7.1.Analysis
        通过此界面可以测试索引分析器和搜索分析器的具体分析执行结果

            
            Solr中自带了许多已经定义好的Field,而且Solr的Field中都带有分析器可以对设置的内容进行分析处理,这一点比Lucene要高级,因为Lucene的Field对象不能指定分析器。
        在这个界面中可以选择不同的Field域对你输入的内容进行分析测试,用于查看某个Field的分词情况,从而我们可以在开发中选用正确的Field。
        1. 我们先选用【_root_】域:
        结果:没有分词

        我们发现【_root_】的实际类型是【StrField】,String类型的Field是不分词的,这个和Lucene的类似。


        2. 我们选用一个可能有分词功能的Field【content】
        结果:分词了,但是分的不好

            
            【content】的Field类型是TextField,它使用的分析器是solr标准分析器,只能对英文分词,所以对汉字分的不好。
            


        结论:
            虽然solr提供了许多可用的Field,但是这些Field对汉语支持不好,所以在实际开发是我们需要自定义支持汉语的Field才可以进行我们的系统开发。Solr对Field域定义非常灵活、强大,这个明天具体学习。

        8.6.7.2.dataimport
        可以定义数据导入处理器,从关系数据库将数据创建索引并导入到Solr索引库中。默认没有配置,需要手工配置。
        8.6.7.3.Document
        通过此菜单可以创建索引、更新索引、删除索引等操作。
        通过/update表示更新索引,solr默认根据id(唯一约束)域来更新Document的内容,如果根据id值搜索不到id域则会执行添加操作,如果找到则更新。

        overwrite="true" : solr在做索引的时候,如果文档已经存在,就用xml中的文档进行替换
        commitWithin="1000" : solr 在做索引的时候,每隔1000(1秒)毫秒,做一次文档提交。为了方便测试也可以在Document中立即提交,</doc>后添加“<commit/>”

        1. 添加索引

        id域=c001的Document不存在时,创建Document对象,有两个域:id域和title域,查看结果:

        Solr会针对你添加的Document对象自动创建索引。

        2. 更新索引
            Solr只能更新已经存在的索引

        查询结果:


        3. 如果使用了solr不存在的Field,是不允许的:

        4. 如果不带id域也是不允许的:


        5. 根据id删除索引:


        查询删除结果:

        6. 根据条件删除:
        先添加两个Document:

        查询结果:

        执行条件删除:

        再查询:只有c002的数据了


        8.6.7.4.Query
        通过/select执行搜索索引,必须指定“q”查询条件方可搜索。这个我们明天还要好好学习,今天就简单了解。

        9.Solrj的使用
        9.1.什么是solrj
        solrj是访问Solr服务的java客户端,提供索引和搜索的请求方法,如下图:


        Solrj和图形界面操作的区别就类似于数据库中使用jdbc和mysql客户端的区别一样。
        9.2.需求
        使用solrj调用solr服务实现对索引库的增删改查操作。
        9.3.环境准备
        Solr:4.10.3
        Jdk环境:1.7
        IDE环境:Eclipse Mars2

        9.4.工程搭建
        9.4.1.创建java工程



        9.4.2.添加jar
        Solrj的包,\solr-4.10.3\dist\目录下


        solrj依赖包,\solr-4.10.3\dist\solrj-lib


        Solr服务的日志依赖包,\solr\example\lib\ext


        9.4.3.添加日志配置文件
        创建【config】:


        加入log4j.properties。
        9.5.代码实现
        9.5.1.添加&修改索引
        9.5.1.1.步骤
        1、创建(new)HttpSolrServer对象,通过它和Solr服务器建立连接,需要提供URL
        2、创建SolrInputDocument对象,然后通过它的addField(域名,域值)来添加域。
        3、通过HttpSolrServer对象的add()方法将SolrInputDocument添加到索引库。
        4、HttpSolrServer的commit(提交)。

        9.5.1.2.代码
        说明:根据id(唯一约束)域来更新Document的内容,如果根据id值搜索不到id域则会执行添加操作,如果找到则更新。
        @Test
        public void testCreateAndUpdateIndex() throws Exception {
            // 1. 创建HttpSolrServer对象
            // 设置solr服务接口,浏览器客户端地址http://127.0.0.1:8081/solr/
            // 如果想上面不指定某个Solr实例默认使用第一个,但最好还是指定一个
            String baseURL = "http://127.0.0.1:8081/solr/collection1";
            HttpSolrServer httpSolrServer = new HttpSolrServer(baseURL);

            // 2. 创建SolrInputDocument对象
            SolrInputDocument document = new SolrInputDocument();
            document.addField("id", "c1001");
            document.addField("content ", "Hello world!");

            // 3. 把SolrInputDocument对象添加到索引库中
            httpSolrServer.add(document);

            // 4. 提交
            httpSolrServer.commit();
        }

        9.5.1.查询索引
        抽取HttpSolrServer 的创建代码
        private HttpSolrServer httpSolrServer;

        // 提取HttpSolrServer创建
        @Before
        public void init() {
            // 1. 创建HttpSolrServer对象
            // 设置solr服务接口,浏览器客户端地址http://127.0.0.1:8081/solr/#/
            String baseURL = "http://127.0.0.1:8081/solr/";
            this.httpSolrServer = new HttpSolrServer(baseURL);
        }
        根据条件的简单查询(查询全部)
        /**
         * 简单搜索
         * 
         * @throws Exception
         */
        @Test
        public void testSearchIndex1() throws Exception {
            // 创建搜索对象
            SolrQuery query = new SolrQuery();
            // 设置搜索条件
            query.setQuery("*:*");

            // 发起搜索请求
            QueryResponse response = this.httpSolrServer.query(query);
            // 处理搜索结果
            SolrDocumentList results = response.getResults();

            System.out.println("搜索到的结果总数:" + results.getNumFound());

            // 遍历搜索结果
            for (SolrDocument solrDocument : results) {

            System.out.println("----------------------------------------------------");

                System.out.println("id:" + solrDocument.get("id"));
                System.out.println("content" + solrDocument.get("content"));
            }
        }

        9.5.2.删除索引
        删除索引逻辑,两种:
        根据id删除
        根据条件删除,根据条件删除,可以使用*:*作为条件,就是删除所有数据(慎用)
        @Test
        public void testDeleteIndex() throws Exception {
            // 根据id删除索引数据
            // this.httpSolrServer.deleteById("c1001");

            // 根据条件删除(如果是*:*就表示全部删除,慎用)
            //this.httpSolrServer.deleteByQuery("*:*");
            this.httpSolrServer.deleteByQuery("id:c1001");

            // 提交
            this.httpSolrServer.commit();
        }

 

标签:lucene,name,Solr,查询,Lucene,索引,solr,new,第二篇
来源: https://www.cnblogs.com/haizai/p/11708342.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有