At AWS re:Invent 2023 年,我们宣布全面推出 Amazon Bedrock 知识库。借助知识库,您可以安全地连接基础模型 (FM) 亚马逊基岩 到您的公司数据以实现完全托管的检索增强生成 (RAG)。
在一个 以前的帖子中,我们描述了 Amazon Bedrock 知识库如何为您管理端到端 RAG 工作流程,并分享了有关最近发布的一些功能的详细信息。
对于基于 RAG 的应用程序,大型语言模型 (LLM) 生成的响应的准确性取决于提供给模型的上下文。根据用户查询从向量数据库中检索上下文。语义搜索被广泛使用,因为它能够理解更多类似人类的问题——用户的查询并不总是与回答它的内容中的确切关键字直接相关。语义搜索有助于根据文本的含义提供答案。然而,它在捕获所有相关关键字方面存在局限性。其性能依赖于用于表示文本含义的词嵌入的质量。为了克服这些限制,将语义搜索与关键字搜索(混合)相结合将给出更好的结果。
在这篇文章中,我们讨论混合搜索的新功能,您可以选择它作为语义搜索的查询选项。
混合搜索概述
混合搜索利用多种搜索算法的优势,集成其独特的功能来增强返回搜索结果的相关性。对于基于RAG的应用程序,语义搜索功能通常与传统的基于关键字的搜索相结合,以提高搜索结果的相关性。它可以搜索文档的内容及其潜在含义。例如,考虑以下查询:
在这个对书名和网站名称的查询中,关键字搜索会给出更好的结果,因为我们想要特定书的成本。然而,“成本”一词可能有“价格”等同义词,因此最好使用语义搜索,它可以理解文本的含义。混合搜索结合了两种方法的优点:语义搜索的精度和关键字的覆盖范围。它非常适合基于 RAG 的应用程序,其中检索器必须处理各种自然语言查询。关键字有助于涵盖查询中的特定实体,例如产品名称、颜色和价格,而语义可以更好地理解查询中的含义和意图。例如,如果您想为电子商务网站构建一个聊天机器人来处理客户查询(例如退货政策或产品详细信息),那么使用混合搜索将是最合适的。
混合搜索的用例
以下是混合搜索的一些常见用例:
- 开放域问答 – 这涉及回答各种主题的问题。这需要搜索具有不同内容的大量文档,例如网站数据,其中可能包括可持续性、领导力、财务业绩等各种主题。仅靠语义搜索无法很好地概括此任务,因为它缺乏对未见过的实体进行词汇匹配的能力,而这对于处理域外示例非常重要。因此,将基于关键字的搜索与语义搜索相结合可以帮助缩小范围并为开放域问答提供更好的结果。
- 基于上下文的聊天机器人 – 对话可能会迅速改变方向并涵盖不可预测的主题。混合搜索可以更好地处理此类开放式对话框。
- 个性化搜索 – 对异构内容的网络规模搜索受益于混合方法。语义搜索处理流行的头部查询,而关键字则涵盖罕见的长尾查询。
尽管混合搜索通过结合两种方法提供了更广泛的覆盖范围,但当领域狭窄且语义定义明确时,或者当误解的空间很小时(例如事实问答系统),语义搜索具有精确优势。
混合搜索的好处
关键字和语义搜索都将返回一组单独的结果及其相关性分数,然后将这些结果组合起来返回最相关的结果。 Amazon Bedrock 知识库当前支持四种矢量存储: 亚马逊 OpenSearch 无服务器, Amazon Aurora PostgreSQL 兼容版, 松球及 Redis 企业云。截至撰写本文时,混合搜索功能可用于 OpenSearch Serverless,并且即将推出对其他向量存储的支持。
以下是使用混合搜索的一些好处:
- 提高准确性 – FM 生成的响应的准确性直接取决于检索结果的相关性。根据您的数据,仅使用语义搜索来提高应用程序的准确性可能具有挑战性。使用混合搜索的主要好处是提高检索结果的质量,从而帮助 FM 生成更准确的答案。
- 扩展的搜索功能 – 关键字搜索撒下更广泛的网,找到可能相关但可能不包含整个文档语义结构的文档。它允许您搜索关键字以及文本的语义,从而扩展搜索功能。
在以下部分中,我们将演示如何将混合搜索与 Amazon Bedrock 知识库结合使用。
通过 SDK 使用混合搜索和语义搜索选项
当您调用 Retrieve API 时,Amazon Bedrock 知识库会为您选择正确的搜索策略,为您提供最相关的结果。您可以选择覆盖它以在 API 中使用混合搜索或语义搜索。
检索API
Retrieve API 旨在通过提供用户查询、知识库 ID 以及您希望 API 返回的结果数来获取相关搜索结果。此 API 将用户查询转换为嵌入,使用混合搜索或语义(矢量)搜索搜索知识库,并返回相关结果,使您能够更好地控制在搜索结果之上构建自定义工作流程。例如,您可以向检索到的结果添加后处理逻辑,或者添加您自己的提示并连接 Amazon Bedrock 提供的任何 FM 以生成答案。
为了向您展示混合搜索和语义(矢量)搜索选项之间切换的示例,我们使用以下内容创建了一个知识库: 10 年亚马逊 2023K 文档。有关创建知识库的更多详细信息,请参阅 使用 Amazon Bedrock 知识库构建上下文聊天机器人应用程序.
为了演示混合搜索的价值,我们使用以下查询:
前面的查询的答案涉及一些关键字,例如 date
, physical stores
及 North America
。正确的反应是 22,871 thousand square feet
。让我们观察混合搜索和语义搜索的搜索结果的差异。
以下代码演示了如何使用 Retrieve API 和 Boto3 来使用混合或语义(矢量)搜索:
overrideSearchType
选项 retrievalConfiguration
提供使用任一选项 HYBRID
or SEMANTIC
。默认情况下,它会为您选择正确的策略,为您提供最相关的结果,如果您想覆盖默认选项以使用混合搜索或语义搜索,您可以将该值设置为 HYBRID/SEMANTIC
. 的输出 Retrieve
API 包括检索到的文本块、源数据的位置类型和 URI 以及检索的相关性分数。这些分数有助于确定哪些块与查询的响应最匹配。
以下是使用混合搜索的上述查询的结果(为简洁起见,对部分输出进行了编辑):
以下是语义搜索的结果(为了简洁起见,对一些输出进行了编辑):
正如您在结果中看到的,混合搜索能够检索用户查询中提到的北美实体店租赁面积的搜索结果。主要原因是混合搜索能够结合关键词的结果,例如 date
, physical stores
及 North America
在查询中,而语义搜索则没有。因此,当搜索结果随着用户查询和提示而增加时,FM 在语义搜索的情况下将无法提供正确的响应。
现在让我们看一下 RetrieveAndGenerate
API 具有混合搜索功能,可了解 FM 生成的最终响应。
检索并生成 API
RetrieveAndGenerate
API 查询知识库并根据检索到的结果生成响应。您指定知识库 ID 以及 FM 以根据结果生成响应。 Amazon Bedrock 将查询转换为嵌入,根据搜索类型查询知识库,然后使用搜索结果作为上下文信息来增强 FM 提示,并返回 FM 生成的响应。
让我们使用查询“截至 31 年 2023 月 XNUMX 日,北美实体店的租赁面积是多少?”并询问 RetrieveAndGenerate
使用我们的查询生成响应的 API:
以下是使用混合搜索的结果:
以下是使用语义搜索的结果:
查询的实际答案是 22,871 thousand leased square feet
,它是由混合搜索生成的。混合搜索检索到的搜索结果包括有关北美实体店租赁面积的信息,而语义搜索由于嵌入翻译而无法从矢量存储中获取正确的信息。因此,FM 无法提供正确的响应,因为它没有正确且最相关的搜索结果。
但是,对于不涉及实体的更一般问题,例如 physical stores
or North America
,混合搜索和语义搜索都会给出相似的结果。
以下是一些查询的示例响应,展示了混合搜索和语义搜索产生相似结果的情况。
问题 | 语义搜索:RAG API | 混合搜索:RAG API |
亚马逊如何服务开发者和企业? | 我们通过 AWS 为各种规模的开发者和企业(包括初创企业、政府机构和学术机构)提供服务,AWS 提供广泛的按需技术服务,包括计算、存储、数据库、分析和机器学习,以及其他服务 | 我们通过 AWS 为各种规模的开发者和企业(包括初创企业、政府机构和学术机构)提供服务,AWS 提供广泛的按需技术服务,包括计算、存储、数据库、分析和机器学习,以及其他服务。 |
截至 24 年 2024 月 XNUMX 日,亚马逊的执行官和董事有哪些? | 截至 2024 年,亚马逊的执行官包括 Andrew R. Jassy 担任总裁兼首席执行官、Douglas J. Herrington 担任亚马逊全球门店首席执行官、Brian T. Olsavsky 担任高级副总裁兼首席财务官、Shelley L. Reynolds 担任副总裁、全球财务总监兼首席会计官,Adam N. Selipsky 担任 Amazon Web Services 首席执行官,David A. Zapolsky 担任全球公共政策高级副总裁兼总法律顾问。 | 自 2024 年起,杰弗里·P·贝索斯 (Jeffrey P. Bezos) 担任 Amazon.com 执行主席。安德鲁·贾西 (Andrew R. Jassy) 担任总裁兼首席执行官。其他执行官包括担任亚马逊全球门店首席执行官的 Douglas J. Herrington、担任高级副总裁兼首席财务官的 Brian T. Olsavsky、担任副总裁、全球财务总监兼首席会计官的 Shelley L. Reynolds 以及担任首席执行官的 Adam N. Selipsky亚马逊网络服务。 David A. Zapolsky 担任全球公共政策高级副总裁兼总法律顾问 |
通过 Amazon Bedrock 控制台使用混合搜索和语义搜索选项
要在 Amazon Bedrock 控制台上使用混合搜索和语义搜索选项,请完成以下步骤:
- 在 Amazon Bedrock 控制台上,选择 知识库 在导航窗格中。
- 选择您创建的知识库。
- 测试知识库.
- 选择配置图标。
- 针对 搜索类型选择 混合搜索(语义和文本).
默认情况下,您可以选择 FM 来获取针对您的查询生成的响应。如果您只想查看检索到的结果,可以切换 生成响应 关闭以仅获取检索到的结果。
结论
在这篇文章中,我们介绍了 Amazon Bedrock 知识库中的新查询功能,该功能支持混合搜索。我们了解了如何在 SDK 和 Amazon Bedrock 控制台中配置混合搜索选项。这有助于克服仅依赖语义搜索的一些限制,特别是在搜索具有不同内容的大量文档时。混合搜索的使用取决于文档类型和您尝试实现的用例。
有关其他资源,请参阅以下资源:
参考资料
作者简介
玛尼哈努加 是一位技术主管 - 生成式 AI 专家、《AWS 上的应用机器学习和高性能计算》一书的作者,以及女性制造业教育基金会董事会成员。她领导计算机视觉、自然语言处理和生成人工智能等各个领域的机器学习项目。她在 AWS re:Invent、Women in Manufacturing West、YouTube 网络研讨会和 GHC 23 等内部和外部会议上发表演讲。在空闲时间,她喜欢沿着海滩长距离跑步。
帕拉维·纳尔贡德 是 AWS 的首席解决方案架构师。作为云技术推动者,她与客户合作,了解他们的目标和挑战,并提供规范性指导,以利用 AWS 产品实现他们的目标。她对科技领域的女性充满热情,是亚马逊 AI/ML 女性项目的核心成员。她在 AWS re:Invent、AWS 峰会和网络研讨会等内部和外部会议上发表演讲。工作之余,她喜欢志愿服务、园艺、骑自行车和徒步旅行。
- :具有
- :是
- :不是
- :在哪里
- ][p
- 1
- 100
- 10
- 125
- 17
- 2021
- 2022
- 2023
- 2024
- 22
- 23
- 24
- 28
- 30
- 31
- 31
- 32
- 43
- 54
- 60
- 7
- 72
- 8
- 9
- a
- Able
- 关于
- 学者
- 基本会计和财务报表
- 精准的
- 后天
- 实际
- Adam
- 加
- 额外
- 优点
- 优点
- 机构
- AI
- AI / ML
- 飞机
- 算法
- 所有类型
- 允许
- 单
- 沿
- 靠
- 时刻
- Amazon
- 亚马逊网络服务
- Amazon.com
- 美国
- 折旧
- an
- 分析
- 和
- 安德鲁
- 公布
- 回答
- 回答
- 答案
- 任何
- API
- 应用领域
- 应用领域
- 应用的
- 的途径
- 方法
- 保健
- AS
- 问
- 办公室文员:
- At
- 增强
- 增强
- Aurora
- 作者
- 可用性
- 可使用
- AWS
- AWS re:Invent
- 基地
- 基于
- BE
- 海滩
- 因为
- 得益
- 好处
- 最佳
- 更好
- 之间
- 贝佐斯
- 亿
- 板
- 董事会
- 书
- 都
- 布赖恩
- 带来
- 广阔
- 建立
- 建筑物
- 建筑物
- 但是
- by
- 呼叫
- CAN
- 能力
- 容量
- 捕获
- 案件
- 例
- Center
- CEO
- 椅子
- 挑战
- 挑战
- 更改
- 聊天机器人
- 首席
- 行政总裁
- 行政总裁
- 选择
- 云端技术
- 云技术
- 码
- 收藏
- 颜色
- COM的
- 结合
- 结合
- 结合
- 未来
- 即将公开信息
- 相当常见
- 常用
- 公司
- 完成
- 计算
- 一台
- 计算机视觉
- 计算
- 会议
- 分享链接
- 考虑
- 安慰
- 施工
- 包含
- 内容
- Contents
- 上下文
- 上下文
- 控制
- 调节器
- 对话
- 核心
- 公司
- 正确
- 价格
- 成本
- 法律顾问
- 外壳
- 覆盖
- 覆盖
- 创建
- 创造
- 目前
- 习俗
- 顾客
- 合作伙伴
- data
- 数据中心
- 数据库
- David
- 十二月
- 默认
- 演示
- 示范
- 依赖的
- 依靠
- 折旧
- 描述
- 描述
- 设计
- 详情
- 确定
- 开发
- DID
- 差异
- 方向
- 直接
- 团队介绍
- 讨论
- 不同
- do
- 文件
- 文件
- 不
- 域
- 域名
- 别
- 道格拉斯
- 向下
- 两
- ,我们将参加
- 电子商务
- 教育
- 或
- 推动者
- 使
- 端至端
- 提高
- 进入
- 企业
- 企业
- 实体
- 设备
- 特别
- 例子
- 例子
- 执行
- 主管人员
- 扩大
- 外部
- 设备
- 专栏
- 少数
- 最后
- 金融
- 金融
- 发现
- 以下
- 如下
- 针对
- 基金会
- 四
- 自由的
- 止
- 充分
- 其他咨询
- 生成
- 产生
- 产生
- 发电
- 代
- 生成的
- 生成式人工智能
- 得到
- 给
- 给予
- 全球
- Go
- 理想中
- 政府
- 政府机构
- 大
- 毛
- 指导
- 处理
- 手柄
- 处理
- 有
- 头
- 帮助
- 帮助
- 这里
- 高
- 创新中心
- How To
- 但是
- HTTPS
- 杂交种
- ICON
- ID
- if
- 实施
- 重要
- 改善
- 改善
- in
- 激励
- 包括
- 包括
- 包括
- 包含
- 信息
- 输入
- 机构
- 整合
- 意图
- 内部
- 国际
- 成
- 涉及
- 涉及
- IT
- 它的
- 一月
- 24 年 XNUMX 月
- 杰弗里
- JPG
- 键
- 关键词
- 知识
- 土地
- 语言
- 大
- 启动
- 铅
- 领导团队
- 信息
- 知道
- 学习
- 租
- 喜欢
- 喜欢
- 限制
- 小
- 圖書分館的位置
- 逻辑
- 长
- 看
- 机
- 机器学习
- 主要
- 管理
- 管理
- 制造业
- 匹配
- 匹配
- 可能..
- 意
- 会员
- 提到
- 可能
- 百万
- 模型
- 模型
- 更多
- 最先进的
- 多
- 姓名
- 狭窄
- 自然
- 自然语言处理
- 旅游导航
- 净
- 网络
- 工业网络
- 全新
- 北
- 北美
- 注意
- 现在
- 数
- 目标
- 观察
- of
- 折扣
- 供品
- 优惠精选
- 办公
- 官
- 人员
- on
- 点播
- 仅由
- 打开
- 操作
- 附加选项
- 附加选项
- or
- 其他名称
- 我们的
- 产量
- 学校以外
- 超过
- 克服
- 覆盖
- 己
- 面包
- 多情
- 性能
- 期间
- 的
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 政策
- 热门
- 帖子
- 前
- 平台精度
- 总统
- 车资
- 校长
- 处理
- 产品
- 项目
- 财产
- 提供
- 提供
- 优
- 国家
- 质量
- 查询
- 询问
- 题
- 有疑问吗?
- R
- 抹布
- 急速
- 罕见
- RE
- 原因
- 接收
- 最近
- 记录
- 减少
- 参考
- 有关
- 相关性
- 相应
- 依托
- 代表
- 需要
- 资源
- 响应
- 回复
- 导致
- 成果
- 恢复
- 回报
- 回报
- 右
- 角色
- Room
- 运行
- 样品
- 范围
- 得分了
- SDK
- 搜索
- 搜索
- 搜索
- 部分
- 安全
- 看到
- 段
- 选择
- 语义
- 语义
- 前辈
- 分开
- 服务
- 服务器
- 无服务器
- 服务
- 特色服务
- 集
- 共用的,
- 她
- 显示
- 作品
- 类似
- 尺寸
- So
- 独自
- 解决方案
- 一些
- 或很快需要,
- 来源
- 说
- 专家
- 具体的
- 广场
- 初创公司
- 步骤
- 存储
- 商店
- 商店
- 策略
- 优势
- 结构体
- 这样
- 合适的
- 峰会
- SUPPORT
- 支持
- 永续发展
- 产品
- 表
- 需要
- 任务
- 科技
- 专业技术
- 术语
- 文本
- 这
- 信息
- 其
- 然后
- 那里。
- 从而
- 因此
- Free Introduction
- 千
- 通过
- 始终
- 次
- 至
- 最佳
- Topics
- 传统
- 翻译
- 试图
- 转
- 二
- 类型
- 下
- 相关
- 理解
- 理解
- 独特
- 变幻莫测
- 使用
- 用例
- 用过的
- 用户
- 运用
- 折扣值
- 各种
- 各个
- 车辆
- 厂商
- 通过
- 副
- 副总裁
- 愿景
- 想
- 是
- we
- 卷筒纸
- Web服务
- 在线研讨会
- 您的网站
- 井
- 定义明确
- 西部
- 什么是
- 什么是
- ,尤其是
- 而
- 这
- 而
- 宽
- 广泛
- 更宽
- 将
- 中
- 女性
- 女性在技术方面
- Word
- 工作
- 工作流程
- 工作流程
- 合作
- 全世界
- 写作
- 产量
- 完全
- 您一站式解决方案
- YouTube的
- 和风网