AWS re:Invent 回顾

交易创新:Jefferies 基于 Amazon Bedrock 构建的 AI 助手 (IND3315)

回顾系列

场次笔记

交易创新:Jefferies 基于 Amazon Bedrock 构建的 AI 助手

简介

  • 在 AWS 上构建交易助手智能体,解决前台数据挑战
  • 旨在解决交易中访问和分析海量数据的问题。
  • Jefferies 与 AWS 的合作
  • Jefferies:一家拥有 60 年历史的全方位服务投资银行,以“客户永远第一”为座右铭。
  • 使命:帮助客户在交易、投资银行和分析领域充分发挥潜力。
  • 与 AWS 的合作对于推动持续创新至关重要。
  • Jefferies 全公司采用云原生解决方案,包括固定收益算法交易平台和股票交易期权。
  • 推出 Jeff AI,这是一个面向企业的生成式 AI 和智能体 AI 平台。
  • Jeff AI 支持智能检索、文档摘要和自动化工作流。

Jefferies 全球算法套件

  • 投资银行 Jefferies 向其机构客户提供的电子交易算法和服务。
  • 自动执行交易策略,帮助客户高效执行大额订单,同时尽量减少市场影响。
  • 算法
  • VWAP(成交量加权平均价格):在用户定义的时间段内,按照以成交量加权的市场平均价格执行交易的策略。
  • VOLUME(成交量参与):一种按实时市场成交量比例参与市场的算法。
  • STRIKE(执行缺口策略):一种专注于尽量缩小期望执行价格(录入订单时)与实际执行价格之间差异的策略。
  • SEEK(智能路由流动性搜寻器):一种智能订单路由器,可在明盘(显示)和暗盘(不显示)交易场所中搜索流动性。
  • MultiScale:让交易员能够高度控制交易执行,并对市场波动迅速作出响应。
  • Trader:提供增强的控制能力,并可根据市场事件和流动性状况切换策略。
  • Panel:该套件提供的另一种专有算法。
  • Blitz:一种执行策略,可能侧重于速度。
  • DarkSeek:SEEK 算法的特定版本,针对暗池流动性进行了优化。
  • Finale:可能是一种日终执行算法。
  • Opener:可能是一种开市执行算法。
  • Pairs:用于配对交易策略的算法,包括“Net Returns”“Ratio”和“Risk Arb”等变体。
  • Patience:一种可能为降低执行激进程度而设计、等待有利市场条件的算法。
  • Portfolio:专为高效执行规模较大的多股票订单而设计。
  • Post:可能是一种在主要市场收盘后进行交易的算法。
  • TWAP(时间加权平均价格):在指定时间段内均匀执行订单,以尽量减少市场影响的策略。

智能订单路由器 (SOR)

  • Jefferies 采用带有自动订单处理(AOP)系统的智能订单路由器(SOR)
  • 分析实时市场数据、流动性和价格,以实现最优执行
  • 拆分大额订单,并在明盘和暗盘交易场所之间动态路由
  • 尽量减少市场影响,并允许客户控制首选/排除的交易场所
  • 在另类交易系统(ATS)上使用条件订单协商,以获得更好的匹配
  • 实现“最佳执行”的核心策略 Jefferies SOR 的关键功能
  • 获取流动性:连接不同交易所和不显示订单的(暗盘)交易场所,以寻找可获得的最佳价格和深度。
  • 动态路由:持续监控市场状况,并实时调整订单路由。
  • 订单拆分:将大额订单拆分成较小部分,在多个交易场所执行,以减少市场影响。
  • 客户控制:允许客户指定首选或排除的交易场所。
  • 条件协商:可在 ATS 平台上使用“条件邀请”协商交易,以获得可能更优的单一价格成交。
  • 与算法集成:配合 Jefferies 自有算法或客户算法管理母订单并高效路由子订单。Jefferies 的 SOR 文档。
  • https://www.jefferies.com/wp-content/uploads/sites/4/2023/12/SMBC_SNET_SORDP_E N_v3.0.1_ncfd.pdf 面向客户的运作方式
  • 订单录入:客户发送订单,订单经过 AOP 筛选器。
  • SOR 分析:SOR 分析市场深度、流动性、价格和波动性。
  • 最优执行:将订单分段路由到最佳交易场所(明盘/暗盘),以获得尽可能好的结果,通常还会拆分大额订单。
  • 统一报告:结果经过整合,向客户呈现为一次统一的交易执行。
  • 透明度:客户可以了解订单的处理方式,也可以选择退出条件协商等特定功能。

单一价格成交

  • 一种被称为单一价格法(或集合竞价)的特定交易机制,由交易所采用,
  • 也可能是全部成交或取消(FOK)等订单类型的结果;该订单要求以特定价格全部执行。
  • 单一价格法(集合竞价)
  • 单一价格法是一些证券交易所采用的交易机制,通常用于开盘或收盘时段,或首次公开募股(IPO)等特定事件。
  • 运作方式:
  • 在一段设定时间内收集所有买卖订单。在指定时间确定一个“清算价格”,使可交易的股票数量达到最大。
  • 目的:
  • 此方法有助于降低价格波动,并确保尽可能多的订单以公平统一的价格执行,无论订单规模如何,都为所有参与者创造公平的竞争环境。
  • 特定订单类型的单一价格成交
  • “单一价格成交”是某些订单条件的结果,这些条件旨在确保整个订单以一个特定价位执行。
  • 全部成交或取消(FOK)订单:
  • 全部成交或取消订单规定,订单的全部数量必须立即以指定限价或更优价格完整撮合;否则,整个订单将自动取消。
  • 优势:
  • 这可确保大宗股票以单一、已知的价格成交,从而尽量减少市场扰动,并避免在波动市场中以可能不利的价格部分成交。

部署 GenAI 以促进业务用户参与

  • 使用聊天机器人,为交易员提供由 AI 驱动的交易模式和市场流动性洞察。
  • 旨在减少分析师和开发人员的工作量。
  • AWS 是 Jefferies 的技术合作伙伴和创新催化剂。
  • 交易助手系统
  • 由于数据量庞大且零散,难以获取实时洞察。
  • 需要端到端可见性,并汇聚数据以获得洞察。
  • 交易员没有时间,也缺乏编程技能来生成和维护所需系统。
  • 解决方案:使用交易助手降低门槛,通过 GenAI 提供实时对话分析。
  • 解决方案能力和架构
  • 易用性和快速获取洞察是关键设计驱动因素。
  • 交易员查询由 LLM(Titan embeddings 模型)处理并生成 SQL 查询。
  • 查询数据,并以多种格式(文本、表格、图表)提供答案。
  • 用于探索数据洞察的对话式分析界面。
  • 保持对话上下文,以提供相关洞察和建议。
  • 使用 Strands agents,以少量代码构建和运行 AI 智能体。
  • 随着系统演进,可灵活地通过 Amazon Bedrock 选择不同的 LLM。
  • 高级安全防护机制和行级数据权限。
  • 智能访问控制可防止未经授权访问敏感数据。
  • 记录所有对话并保留审计跟踪,以满足合规要求。

架构概述

建立连接

  • 交易助手通过 AWS Direct Connect 连接到 Jefferies 的本地商业智能平台 GFM,从而确保安全的高速连接。
  • 用户身份验证:
  • 交易员登录 GFM 时,系统会验证其凭证,确保他们拥有正确权限且只能访问已获授权的数据。
  • 使用 AWS EKS(Elastic Kubernetes Service)构建用户身份验证和用户会话创建服务。
  • 用户会话与查询智能体调用:
  • 身份验证成功后,请求会被路由到机器人服务,由其建立用户会话并调用查询智能体。
  • 查询智能体是一个 Strands agent,它与多个工具交互,以确定回答交易员问题的最佳数据源。
  • 查询规划与执行:
  • Strands agent 使用 Titan embeddings 模型的高级推理能力来规划和执行查询步骤。
  • 使用 Amazon Bedrock knowledge base 作为向量存储。
  • SQL 查询生成与执行:
  • “请给出今天美国交易的行业分布。
  • 查询智能体识别正确的数据源并生成 SQL 查询。
  • 查询执行器服务针对相关数据源运行 SQL 查询;这些数据源托管在 GridGain 上,后者是一个可即时检索数据的内存数据网格。
  • 数据可视化:
  • LLM(大语言模型)为数据选择适当的可视化形式。
  • Python 库将原始数据转换为可视化叙事、图表、表格和洞察,然后使用 Markdown UI 库将其显示在屏幕上。

对交易员的影响

  • 简化体验:对话式分析与丰富的可视化相结合,广受交易员好评。
  • 实时数据访问:交易员可快速实时获取行业分布、交易数据和其他洞察。
  • 直观界面:UI 小组件允许交易员用自然方式与交易助手互动,以日常语言输入问题。

Jefferies 的后续步骤

  • 增强功能:继续改进 Strands agent 及底层模型的能力,以提供更准确、更相关的洞察。
  • 扩展数据源:集成更多数据源,以更全面地呈现交易环境。
  • 改善用户体验:进一步优化 UI,使其更加直观易用。
  • 可扩展性:确保平台可以扩展,以适应不断增长的用户数量和数据量。

Beta 推出期间观察到的收益

节省时间

  • 日常分析任务所花费的时间减少了 80%。
  • 由于节省了时间,创造收入的能力有所提高。
  • 高采用率:
  • 表明解决方案有效且用户满意度高。
  • 降低技术负担:
  • 减少了多个原型和交易台对自定义仪表板的需求。
  • 自助服务能力减少了对技术资源的依赖。
  • 数据访问民主化:
  • 业务用户可以使用自然语言查询数百万条股票交易数据记录。
  • 实时发现交易模式和市场机会。
  • 面向未来的架构:
  • 能够自我学习并持续改进。
  • 可轻松与现有 BI 平台和基础设施集成。

未来计划

全球推广策略

  • 多产品扩展:将交易助手从股票业务扩展到不同原型和交易台。
  • 全球部署:将效率提升带到国际交易业务中。
  • 增强治理:强化可观测性和审计跟踪能力,以满足监管要求。
  • 高级代码生成:
  • 从基于 UI 的 Java 工具过渡到由 LLM 驱动的高级代码生成,以提供更好的用户体验。
  • 通用 AI API:
  • 目标是将解决方案转变为通用 API,供全公司其他业务领域使用。

主要经验

避免使用 LLM 进行可视化

  • 不要依赖 LLM 生成可视化,因为存在幻觉风险。
  • 使用 Python 库(如 markdown)生成可视化,以增强控制并尽量减少幻觉。
  • 使用快速数据存储:
  • 使用内存数据库,最大限度提高结果输出速度。
  • 使用 Python 构建 LLM 交互:
  • 使用 Python 灵活构建 LLM 交互,其他组件则可使用 Java,以便移植现有代码。

总结

  • 交易助手在 Beta 推出期间展现出显著收益,包括节省时间、采用率高和降低技术负担。
  • 主要经验强调了避免使用 LLM 进行可视化、使用快速数据存储,以及使用 Python 构建 LLM 交互的重要性。