Lucene 同时搜索存储和未存储的字段

如何解决Lucene 同时搜索存储和未存储的字段

我正在使用 Lucene 7.4 并已索引了一个 txt 文件示例。 我有一些已存储的字段,例如路径和文件名, 和一个内容字段,在将文档传递给 IndexWriter 之前未存储该字段。 因此,我的内容字段包含文件的已处理(例如标记化、词干)内容数据,我的文件名字段包含未处理的文件名、整个字符串。

try (InputStream stream = Files.newInputStream(file)) {

            // create empty document
            Document doc = new Document();

            // add the last modification time field
            Field lastModField = new StoredField(LuceneConstants.LAST_MODIFICATION_TIME,Files.getAttribute(file,"lastModifiedTime",LinkOption.NOFOLLOW_LINKS).toString());
            doc.add(lastModField);
            
            // add the path Field
            Field pathField = new StringField(LuceneConstants.FILE_PATH,file.toString(),Field.Store.YES);
            doc.add(pathField);

            // add the name Field
            doc.add(new StringField(LuceneConstants.FILE_NAME,file.getFileName().toString(),Field.Store.YES));

            // add the content
            doc.add(new TextField(LuceneConstants.CONTENTS,new BufferedReader(new InputStreamReader(stream))));

            System.out.println("adding " + file);
            writer.addDocument(doc);

现在,据我所知,我必须使用 2 个 QueryParsers,因为我需要使用 2 个不同的分析器来搜索两个字段,每个字段一个。 我无法弄清楚如何将它们结合起来。 我想要的是一个 TopDoc,其中的结果按相关性分数排序,即对文件名字段的搜索和对内容字段的搜索的 2 个相关性分数的某种组合。 Lucene 7.4 是否为您提供了一种简单的解决方案?

PS:这是我很长一段时间以来的第一篇文章,如果不是的话。请备注任何格式或内容问题。

编辑: 用于索引内容字段和搜索内容字段的分析器:

Analyzer myTxtAnalyzer = CustomAnalyzer.builder()
                    .withTokenizer("standard")
                    .addTokenFilter("lowercase")
                    .addTokenFilter("stop")
                    .addTokenFilter("porterstem")
                    .build();

我正在使用 KeywordAnalyzer 搜索文件名字段,重申一下,该字段已存储,因此未进行分析。

我的程序应该索引文件并搜索该索引,检索 最相关文件的清单。如果可能包含空格的 searchString 与文件名完全匹配, 我希望这会严重影响我的搜索结果。

我是一名计算机科学专业的学生,​​这是我与 Lucene 合作的第一个项目。 如果没有可用的功能,这一切都很好。我所要求的不是我的任务的要求。我只是在思考,我觉得这可能已经存在一个简单的解决方案。但我似乎找不到它,如果它存在的话。

编辑 2: 我有一个误解 aobut 使用 Stored.YES/.NO 时会发生什么。 我的问题与它无关。 String 没有被标记,因为它在一个 StringField 中。 我认为这是因为它被存储了。 但是,我的问题仍然存在。 有没有办法同时搜索标记化和未标记化的字段?

解决方法

正如@andrewjames 所提到的,您不需要在示例中使用多个分析器,因为只有 TextField 会被分析,而 StringField 不会。如果您确实需要为不同的领域使用不​​同的分析器,Lucene 可以满足这种情况。为此,您可以使用 PerFieldAnalyzerWrapper 基本上让您指定一个默认分析器,然后根据需要指定任意数量的特定于字段的分析器(作为字典传递给 PerFieldAnalyzerWrapper)。然后在分析文档时,如果指定了,它将使用特定于字段的分析器,如果没有,它将使用您为 PerFieldAnalyzerWrapper 指定的默认分析器。

无论是使用单个分析器还是通过 PerFieldAnalyzerWrapper 使用多个分析器,您只需要一个 QueryParser,并且您将传递该解析器一个分析器或 PerFieldAnalyzerWrapper,后者是一个包装分析器的分析器几个分析器。

有些字段已存储,有些未存储,这一事实对搜索它们没有影响。对搜索而言唯一重要的是该字段已编入索引,并且 StringFieldTextField 始终编入索引。

您提到了以下内容:

我正在使用 KeywordAnalyzer 搜索文件名字段,重申一下,该字段已存储,因此未进行分析。

一个字段是否存储与是否被分析无关。对于文件名字段,您的代码使用带有 StringFieldField.Store.YES。因为它是一个 StringField 它将被索引但不会被分析,并且因为您指定存储该字段,它将被存储。因此,由于未分析该字段,因此不会使用 KeywordAnalyzer 或任何其他分析器 :-)

有没有办法同时搜索标记化和未标记化的字段?

这里的真正问题不在于同时搜索标记化和未标记化的字段,而实际上只是同时搜索多个字段。一个被标记而一个没有标记的事实对 lucene 没有任何影响。要一次搜索多个字段,您可以使用 BooleanQuery 并使用此查询对象向其添加多个查询,每个字段一个,并指定一个 ANDMust 或 { {1}} 即子查询之间的 OR 关系。

我希望这有助于为您解决问题。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


依赖报错 idea导入项目后依赖报错,解决方案:https://blog.csdn.net/weixin_42420249/article/details/81191861 依赖版本报错:更换其他版本 无法下载依赖可参考:https://blog.csdn.net/weixin_42628809/a
错误1:代码生成器依赖和mybatis依赖冲突 启动项目时报错如下 2021-12-03 13:33:33.927 ERROR 7228 [ main] o.s.b.d.LoggingFailureAnalysisReporter : *************************** APPL
错误1:gradle项目控制台输出为乱码 # 解决方案:https://blog.csdn.net/weixin_43501566/article/details/112482302 # 在gradle-wrapper.properties 添加以下内容 org.gradle.jvmargs=-Df
错误还原:在查询的过程中,传入的workType为0时,该条件不起作用 <select id="xxx"> SELECT di.id, di.name, di.work_type, di.updated... <where> <if test=&qu
报错如下,gcc版本太低 ^ server.c:5346:31: 错误:‘struct redisServer’没有名为‘server_cpulist’的成员 redisSetCpuAffinity(server.server_cpulist); ^ server.c: 在函数‘hasActiveC
解决方案1 1、改项目中.idea/workspace.xml配置文件,增加dynamic.classpath参数 2、搜索PropertiesComponent,添加如下 <property name="dynamic.classpath" value="tru
删除根组件app.vue中的默认代码后报错:Module Error (from ./node_modules/eslint-loader/index.js): 解决方案:关闭ESlint代码检测,在项目根目录创建vue.config.js,在文件中添加 module.exports = { lin
查看spark默认的python版本 [root@master day27]# pyspark /home/software/spark-2.3.4-bin-hadoop2.7/conf/spark-env.sh: line 2: /usr/local/hadoop/bin/hadoop: No s
使用本地python环境可以成功执行 import pandas as pd import matplotlib.pyplot as plt # 设置字体 plt.rcParams['font.sans-serif'] = ['SimHei'] # 能正确显示负号 p
错误1:Request method ‘DELETE‘ not supported 错误还原:controller层有一个接口,访问该接口时报错:Request method ‘DELETE‘ not supported 错误原因:没有接收到前端传入的参数,修改为如下 参考 错误2:cannot r
错误1:启动docker镜像时报错:Error response from daemon: driver failed programming external connectivity on endpoint quirky_allen 解决方法:重启docker -> systemctl r
错误1:private field ‘xxx‘ is never assigned 按Altʾnter快捷键,选择第2项 参考:https://blog.csdn.net/shi_hong_fei_hei/article/details/88814070 错误2:启动时报错,不能找到主启动类 #
报错如下,通过源不能下载,最后警告pip需升级版本 Requirement already satisfied: pip in c:\users\ychen\appdata\local\programs\python\python310\lib\site-packages (22.0.4) Coll
错误1:maven打包报错 错误还原:使用maven打包项目时报错如下 [ERROR] Failed to execute goal org.apache.maven.plugins:maven-resources-plugin:3.2.0:resources (default-resources)
错误1:服务调用时报错 服务消费者模块assess通过openFeign调用服务提供者模块hires 如下为服务提供者模块hires的控制层接口 @RestController @RequestMapping("/hires") public class FeignControl
错误1:运行项目后报如下错误 解决方案 报错2:Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.8.1:compile (default-compile) on project sb 解决方案:在pom.
参考 错误原因 过滤器或拦截器在生效时,redisTemplate还没有注入 解决方案:在注入容器时就生效 @Component //项目运行时就注入Spring容器 public class RedisBean { @Resource private RedisTemplate<String
使用vite构建项目报错 C:\Users\ychen\work>npm init @vitejs/app @vitejs/create-app is deprecated, use npm init vite instead C:\Users\ychen\AppData\Local\npm-