交易創新：Jefferies 在 Amazon Bedrock 上的 AI 助理 (IND3315)

場次筆記

交易創新：Jefferies 在 Amazon Bedrock 上的 AI 助理

簡介

• 在 AWS 上建置交易助理代理程式，以解決前台資料挑戰
• 旨在解決存取與分析大量交易資料的問題。
• Jefferies 與 AWS 的合作關係
• Jefferies：擁有 60 年歷史的全方位服務投資銀行，座右銘是「永遠以客戶為先」。
• 使命：協助客戶在交易、投資銀行及分析方面發揮最大潛力。
• 與 AWS 的合作關係是推動持續創新的關鍵。
• Jefferies 全公司的雲端原生解決方案，包括固定收益演算法交易平台及股票交易選擇權。
• 推出 Jeff AI，這是一個適用於生成式 AI 與代理式 AI 的企業級 AI 平台。
• Jeff AI 支援智慧擷取、文件摘要及自動化工作流程。

Jefferies 全球演算法套件

• 投資銀行 Jefferies 向其機構客戶提供的電子交易演算法與服務。
• 將交易策略自動化，並協助客戶有效執行大額委託，同時將市場衝擊降至最低。
• 演算法
• VWAP（成交量加權平均價格）：在使用者定義的期間內，依照以成交量加權的市場平均價格執行交易的策略。
• VOLUME（成交量參與）：一種依即時市場成交量比例參與市場的演算法。
• STRIKE（執行落差策略）：著重於將期望執行價格（輸入委託時）與實際成交價格之間的差距降至最低的策略。
• SEEK（智慧路由流動性搜尋器）：一種智慧委託路由器，可在明盤（顯示）與暗盤（不顯示）交易場所中搜尋流動性。
• MultiScale：讓交易員能高度控制執行，並回應市場波動。
• Trader：提供更強的控制能力，並可因應市場事件與流動性狀況切換策略。
• Panel：套件中提供的另一種專有演算法。
• Blitz：一種可能著重於速度的執行策略。
• DarkSeek：針對暗池流動性最佳化的特定 SEEK 演算法版本。
• Finale：可能是一種收盤時執行演算法。
• Opener：可能是一種開盤時執行演算法。
• Pairs：用於配對交易策略的演算法，包含「Net Returns」、「Ratio」及「Risk Arb」等變體。
• Patience：可能是為較不積極的執行方式所設計，等待有利市場條件的演算法。
• Portfolio：專為有效執行規模較大的多檔股票委託而設計。
• Post：可能是用於主要市場收盤後交易的演算法。
• TWAP（時間加權平均價格）：在指定期間內平均執行委託，以將市場衝擊降至最低的策略。

智慧委託路由器 (SOR)

• Jefferies 採用搭配自動化委託處理 (AOP) 系統的智慧委託路由器 (SOR)
• 分析即時市場資料、流動性及價格，以達到最佳執行
• 將大額委託切分，並在明盤與暗盤交易場所之間動態路由
• 將市場衝擊降至最低，並讓客戶控制偏好／排除的交易場所
• 在另類交易系統 (ATS) 上使用條件式委託協商，以取得更佳撮合
• 達成「最佳執行」的核心策略 Jefferies SOR 的主要功能
• 存取流動性：連線至各種交易所及不顯示（暗盤）交易場所，以尋找最佳可得價格與深度。
• 動態路由：持續監控市場狀況，並即時調整委託路由。
• 委託切分：將大額委託拆分成較小部分，在多個交易場所執行，以降低市場衝擊。
• 客戶控制：允許客戶指定偏好或排除的交易場所。
• 條件式協商：可使用「條件式邀請」在 ATS 平台上協商交易，以取得可能更佳的單一價格成交。
• 與演算法整合：搭配 Jefferies 自有或客戶的演算法，有效管理母委託並路由子委託。Jefferies 的 SOR 文件。
• https://www.jefferies.com/wp-content/uploads/sites/4/2023/12/SMBC_SNET_SORDP_E N_v3.0.1_ncfd.pdf 客戶使用方式
• 輸入委託：客戶傳送委託，委託會通過 AOP 篩選器。
• SOR 分析：SOR 分析市場深度、流動性、價格及波動性。
• 最佳執行：將委託區段路由至最佳交易場所（明盤／暗盤），以獲得最佳可能結果，通常會切分大額委託。
• 統一報告：彙整結果，向客戶呈現單一且統一的執行。
• 透明度：客戶可查看其委託的處理方式，並可選擇退出條件式協商等特定功能。

單一價格成交

• 一種稱為單一價格法（或集合競價）、由交易所使用的特定交易機制，
• 或是立即成交否則取消 (FOK) 委託等委託類型的結果，此類委託要求以特定價格完整執行。
• 單一價格法（集合競價）
• 單一價格法是部分證券交易所使用的交易機制，通常用於開盤或收盤時段，或首次公開募股 (IPOs) 等特定事件。
• 運作方式：
• 在設定期間內收集所有買進與賣出委託。在指定時間決定單一「結算價格」，讓最多股數得以交易。
• 目的：
• 此方法有助於降低價格波動，並確保以公平一致的價格執行最大可能委託量，無論委託規模大小，都能為所有參與者創造公平競爭環境。
• 特定委託類型的單一價格成交
• 「單一價格成交」是特定委託條件的結果，這些條件旨在確保整筆委託以單一特定價位執行。
• 立即成交否則取消 (FOK) 委託：
• 立即成交否則取消委託指定整筆委託數量必須立即且完整地以指定限價或更佳價格撮合；否則會自動取消整筆委託。
• 優點：
• 這可確保大宗股票以單一已知價格交易，將市場干擾降至最低，並避免在波動市場中以可能不利的價格部分成交。

部署 GenAI 以促進商務使用者參與

• 使用聊天機器人，為交易員提供由 AI 驅動的交易模式與市場流動性洞察。
• 旨在減輕分析師與開發人員的工作量。
• AWS 是 Jefferies 的技術合作夥伴與創新催化劑。
• 交易助理系統
• 由於資料龐大且分散，難以取得即時洞察。
• 需要端對端可見性，並彙整資料以獲取洞察。
• 交易員沒有時間與程式設計技能來建立及維護必要系統。
• 解決方案：透過交易助理降低門檻，並以 GenAI 提供即時對話分析。
• 解決方案功能與架構
• 易用性及快速取得洞察是主要設計驅動因素。
• 交易員查詢由 LLM（Titan embeddings 模型）處理，以產生 SQL 查詢。
• 查詢資料，並以各種格式（文字、表格、圖表）提供答案。
• 用於探索資料洞察的對話式分析介面。
• 維持對話內容脈絡，以提供相關洞察與建議。
• 使用 Strands agents，以最少程式碼建置及執行 AI 代理程式。
• 隨系統演進，可透過 Amazon Bedrock 彈性選擇不同 LLM。
• 進階安全防護機制與資料列層級的資料權限。
• 智慧存取控制，防止未經授權存取敏感資料。
• 記錄所有對話並保留稽核軌跡，以符合法規遵循要求。

架構概觀

建立連線

• 交易助理透過 AWS Direct Connect 連線至 Jefferies 的內部部署商業智慧平台 GFM。這可確保連線安全且高速。
• 使用者驗證：
• 當交易員登入 GFM 時，系統會驗證其認證，以確保他們具備正確權限，且只能存取獲授權的資料。
• AWS EKS (Elastic Kubernetes Service) 用於建置驗證使用者及建立使用者工作階段的服務。
• 使用者工作階段與叫用查詢代理程式：
• 驗證完成後，請求會路由至機器人服務，由該服務建立使用者工作階段並叫用查詢代理程式。
• 查詢代理程式是 Strands agent，會與多項工具互動，以判斷回答交易員問題的最佳資料來源。
• 查詢規劃與執行：
• Strands agent 使用 Titan embeddings 模型的進階推理功能來規劃及執行查詢步驟。
• Amazon Bedrock knowledge base 用作向量儲存區。
• SQL 查詢產生與執行：
• 「告訴我今天美國交易的產業別分布。
• 」
• 查詢代理程式識別正確的資料來源，並產生 SQL 查詢。
• 查詢執行器服務會對相關資料來源執行 SQL 查詢，這些資料來源託管於 GridGain（用於即時資料擷取的記憶體內資料網格）。
• 資料視覺化：
• LLM (Large Language Model) 為資料選擇適當的視覺化方式。
• Python 程式庫將原始資料轉換成視覺化敘事、圖表、表格及洞察，接著使用 markdown UI 程式庫顯示於畫面上。

對交易員的影響

• 簡化體驗：結合豐富視覺化的對話式分析深受交易員好評。
• 即時資料存取：交易員可快速取得產業別分布、交易資料及其他即時洞察。
• 直覺式介面：UI 小工具讓交易員能自然地與交易助理互動，以一般語言輸入問題。

Jefferies 的後續步驟

• 增強功能：持續改善 Strands agent 及底層模型的功能，以提供更準確且更相關的洞察。
• 擴充資料來源：整合其他資料來源，以更全面地掌握交易環境。
• 改善使用者體驗：進一步改善 UI，使其更直覺且易於使用。
• 可擴展性：確保平台能擴展，以因應不斷增加的使用者人數與資料量。

Beta 推出期間觀察到的效益

節省時間

• 日常分析工作所花費的時間減少 80%。
• 由於節省時間，創造營收的能力有所提升。
• 高採用率：
• 顯示解決方案的有效性與使用者滿意度。
• 降低技術負擔：
• 減少多個原型與交易台對自訂儀表板的需求。
• 自助服務功能可降低對技術資源的依賴。
• 資料存取普及化：
• 商務使用者可使用自然語言查詢數百萬筆股票交易資料記錄。
• 即時探索交易模式與市場機會。
• 因應未來的架構：
• 可自行學習並持續改善。
• 可輕鬆與現有 BI 平台及基礎架構整合。

未來計畫

全球推出策略

• 多產品擴充：將交易助理從股票延伸至支援各種原型與交易台。
• 全球部署：將效率提升效益帶到國際交易業務。
• 強化治理：強化可觀測性與稽核軌跡功能，以符合法規要求。
• 進階程式碼產生：
• 從以 UI 為基礎的 Java 工具轉向由 LLM 驅動的精密程式碼產生，以提供更佳的使用者體驗。
• 通用 AI API：
• 目標是將解決方案轉變為通用 API，供全公司其他業務領域使用。

重要心得

避免使用 LLM 進行視覺化

• 不要依賴 LLM 產生視覺化內容，因為有產生幻覺的風險。
• 使用 Python 程式庫（例如 markdown）產生視覺化內容，以獲得更佳控制並盡量減少幻覺。
• 使用快速資料儲存區：
• 使用記憶體內資料庫，盡可能加快結果輸出速度。
• 使用 Python 建置 LLM 互動：
• 使用 Python 彈性建置 LLM 互動，其他元件則可使用 Java，以移植現有程式碼。

結論

• 交易助理在 Beta 推出期間展現顯著效益，包括節省時間、高採用率及降低技術負擔。
• 重要心得強調避免使用 LLM 進行視覺化、使用快速資料儲存區，以及使用 Python 建置 LLM 互動的重要性。