AWS FSI Meetup 回顾

FSI Meetup 2025 Q4 - Graviton 迁移成功案例

回顾系列

场次笔记


利用 AWS 和 EC2 Graviton 推动系统转型

Numora 概览

  • 成立已有 100 年,总部位于东京
  • 五大业务部门:财富管理、投资管理、销售、全球市场和投资银行
  • 口号:“连接东西方市场”
  • 秉承纪律严明、锐意进取、提供创新解决方案和发挥思想领导力的传统
  • 为企业风险职能提供支持
  • 为全球业务运行市场风险和交易对手风险模型
  • 计算和数据密集型运营非常适合使用云
  • 对延迟基本没有顾虑

部署规模

  • 每天使用 EC2 Spot 部署超过 65,000 个核心来执行定价批处理
  • 每天生成约 2 TB 数据
  • 数据最长保留 7 年
  • 目前 S3 占用空间约为 2 TB,并利用 S3 Integring 以经济高效的方式存储历史数据

数据聚合与汇总

  • Numora 选择在内存中进行聚合
  • 使用超过 100 个超大型 EC2 实例,对信用风险和市场风险模型进行亚秒级聚合

议程

  • 公有云对金融机构计算风险的影响
  • Numora 风险系统的高层架构
  • 定价和聚合使用场景的 Graviton 案例研究
  • 迁移过程中的其他注意事项和经验

Numora 系统的高层架构

数据湖仓存储所有输入和输出

  • 输入包括交易、历史市场数据和参考数据(账户、货币、国家/地区)
  • 混合数据湖仓:主要在本地处理数据,并将数据导出到 S3 以供云端部署使用

定价引擎

  • 由 C++ 定价计算器组成
  • 加载输入数据、运行模型并输出交易级结果

聚合引擎

  • 同时加载数据和参考数据,以便按账簿、国家/地区、货币或交易对手进行亚秒级切片分析

内部定制 BI 工具

  • 基于事件的平台
  • 提供预设视图,并允许用户创建自己的视图
  • 创建虚拟表,以便在应用程序和电子表格中通过 SQL 访问并进行数据透视

定价使用场景与 Graviton 实施

  • 大约 5 年前在 AWS 上正式启用定价功能,最初在北弗吉尼亚区域使用 Intel,一年后又增加了俄亥俄区域
  • 大约 3 年前将所有定价引擎迁移到 Graviton
  • 由于数值准确性至关重要,需要完整地重新编译 C++ 定价引擎并进行数值回归测试
  • 在北弗吉尼亚和俄亥俄区域使用完全由 Spot 实例组成的 Auto Scaling 组运行定价引擎
  • 利用多种实例类型和不同的 T 恤式规格
  • 使用所有 Graviton 实例系列(Graviton 2、3 和 4)及其实例

定价层迁移到 Graviton 后的成果

  • 在 4xlarge 实例上运行一个引擎,在 24xlarge 实例上运行四个引擎
  • 成本降低 50%
  • 性能没有下降,且观察到小幅提升
  • 经验总结:谨慎选择部署区域、利用多区域并优化批处理尾部以降低成本

聚合使用场景与 Graviton 实施

  • 聚合由大型 JVM 完成
  • Java 供应商提供兼容 ARM 的 JVM 后,将聚合层切换到 Graviton
  • 由于系统基于 Java,无需重新编译,但进行了全面回归测试
  • 使用按需实例加载有状态数据并提供切片分析功能(切片分析通过将数据拆分为更小、更易管理的部分(切片),并重新排列这些元素来观察模式和趋势(切块)。其功能包括:将数据细分以便开展详细分析,以及支持对数据进行多维分析)
  • 实施 Compute Savings Plans,覆盖 80% 的用量并降低成本
  • 改用可提供额外优化的供应商
  • 为聚合引擎实施定制 Spot 实例方案,可暂停或回收未使用的实例,进一步降低成本
  • 目前使用 X2GD 实例(带磁盘存储的 Graviton),但也可以利用其他实例类型
  • 计划近期迁移到 Graviton 4

聚合平台迁移到 Graviton 后的成果

  • 据估算,在相同成本下,聚合平台的扩展能力提升到 3 倍
  • 在保持成本不变的同时,支持部署 FRTB IMA 模型等新业务功能

Numora 云迁移历程中的关键经验与建议

尽早投资部署流水线并强制实施资源标记

  • 使用集成了实例和操作系统控制引擎的集中式部署流水线
  • 有助于保持成本效益并减少错误

在团队中培养创业意识和主人翁精神

  • 通过 AWS 节省的成本可再投资于其他使用场景,或直接转化为利润
  • 实施一流的可观测性和防护机制

重点关注韧性

  • 首先在区域内进行多可用区部署
  • 实施多区域部署以增强韧性
  • 紧跟 AWS 创新,并在此基础上打造自己的创新
  • AWS 为构建系统和解决问题提供了强大的环境