问题描述

在 Azure AI Search 里，英文检索有时会卡在一个很小的词形差异上：文档里是 brief，搜索 briefs 却搜不到。

搜索 briefs，无法命中只包含 brief 的文档。类似地，audit 和 auditing 也可能因为一个复数形式导致结果不同。

文档明明在，关键词也只差一个 s 或 ing，为什么结果完全不一样？

关键不在原文，而在 Azure AI Search 最终拿什么 token 去匹配。

通俗来讲，是根据字符串文本匹配还是基于语义进行匹配!

问题解答

Azure AI Search 做全文检索时，比较的不是原始字符串，而是 analyzer 处理后的 token。

brief 和 briefs 能不能互相命中，关键看字段使用默认 analyzer(standard.lucene)，还是使用 en.microsoft 这类语言 analyzer。

1: standard.lucene 不处理英文词形

standard.lucene 是默认 analyzer。它主要做分词和小写化，不做英文词干还原，也不做词形还原。

所以 briefs 搜不到 brief，不是数据缺失，也不是服务异常，而是两边生成的 token 本来就不一样。\

2: en.microsoft 按语言规则做词形还原

en.microsoft 使用 lemmatization。它不是简单截断词尾，而是尽量把变化形式还原成语言学上的基本形式。

例如：

briefs → brief
auditing → audit

它通常更适合重视英文检索质量的场景，尤其是需要处理单复数、时态、不规则变化时。

代价是索引速度通常会慢一些，但普通查询性能一般不会明显受影响

3: 如何选择

如果英文内容需要处理单复数、时态或不规则变化，优先验证 en.microsoft。如果业务明确需要保留词形差异，继续使用默认 standard.lucene 更合适。

4：修改 analyzer 

analyzer 是字段定义的一部分。已有字段不能直接就地修改 analyzer。如果要从 standard.lucene 换成 en.microsoft，通常需要重建索引，或者新增一个使用新 analyzer 的并行字段，再通过 searchFields 切过去验证。

如下图所示（无法修改Analyzer）

添加新的索引字段并设置Analyzer步骤

1：添加新的查询字段

步骤如下：

• 选中索引，进入Fields Tab页，点击添加字段。

• 输入新的字段名, 如: content_ext

• 勾选 Retrievable 和 Searchable 

• 选择Analyzer为 English - Microsoft (* 重要）

• 保存修改

2：把查询字段和文档的内容进行关联

步骤如下：

• 进入对应的索引器，点击 Edit JSON案例

• 在fieldMappings中，添加content / content_ext 的mapping关系后保存

添加内容：

   {
      "sourceFieldName": "content",
      "targetFieldName": "content_ext",
      "mappingFunction": null
    },
 

参考截图如下：

参考资料