FSI 如何運用代理式 AI 徹底改造 HFT 分析 (GBL302)

場次筆記

簡介

• 免責聲明：所表達的觀點純屬個人意見，不代表 AWS 或相關組織的官方立場。僅供參考，不構成財務或專業建議。
• 交易生態系統概觀
• 參與者：買方與賣方在交易所下單。
• 市場流動性：可能沒有足夠的流動性。
• 造市商的角色：確保持續存在買進與賣出委託，提供流動性及交易對手。
• 委託簿抽象表示
• 買進委託（左側）：買方的委託。
• 賣出委託（右側）：賣方的委託。
• Y 軸：每個價位的累計數量。
• 價位：價格越高越靠近右側。
• 造市商的日常工作
• 掛出多筆買進與賣出委託。
• 風險管理：新聞或公告可能造成市場大幅波動。
• 庫存管理：對避免因市場突然變動而蒙受損失至關重要。
• 造市商的理想市場條件
• 可控波動性：市場小幅波動。
• 快速執行：快速執行買進與賣出委託。
• 高週轉率：儘管每筆交易利潤不高，高頻率交易仍可帶來可觀的整體利潤。

造市商策略與波動性因素

價差與利潤的權衡

• 擴大價差：造市商可能考慮擴大價差，以提高每筆交易的利潤。
• 權衡：價差較大可能導致成交次數減少，使整體利潤降低。
• 高頻交易：造市商通常選擇以較低利潤頻繁交易，使週轉率最大化。
• 波動性與價差調整
• 波動性影響：波動性是定價的關鍵因素；造市商會根據預期波動性調整價差。
• 事件驅動的波動性：例如 FOMC 會議對聯邦基金利率的影響。
• 快速分析與行動：造市商必須快速分析新聞並調整委託，以避免損失。
• 影響市場的事件範例
• FOMC 會議：發布時間及結果已知的可預測事件。
• 社群媒體影響：具影響力人物（例如 Trump、Elon Musk）的推文等不可預測事件，可能立即引發市場反應。
• Dogecoin 範例：Elon Musk 關於加密貨幣的推文可能造成價格快速變動，突顯由社群媒體驅動之新聞的不可預測性與解讀難度。

數位資產市場情緒分析的挑戰

意見領袖對數位資產的影響

• 不可預測的特性：Elon Musk 等意見領袖的推文可能迅速影響加密貨幣價格。
• 解讀難度：推文通常具有主觀性，需要智慧解讀。
• 分析速度：人類判斷對即時交易而言過於緩慢；因此需要自動化解決方案。
• 情緒分析方法的演進
• 字典方法：最初使用產業詞彙（例如看跌、看漲）及模式比對的方法。
• 限制：
• 詞彙有限且無法妥善處理內容脈絡（例如將「大規模空頭清算事件」誤解為負面）。
• 統計比對與機器學習：
• 轉向使用 Naive Bayes 或 FinBERT 等模型的監督式學習。
• 優點：更佳的泛化能力與內容脈絡理解。
• 挑戰：需要大量已標記資料，導致成本高昂且上市時間較長。
• 對進階解決方案的需求
• 即時分析：需要快速、自動化的情緒分析，以跟上市場變動。
• 內容脈絡感知：解決方案必須正確解讀內容脈絡，才能提供可靠的情緒分析。

運用大型語言模型 (LLM) 推進情緒分析

以 Transformer 為基礎的多模態推理

• LLM、Claude 及 DeepSeek 等現代 LLM 只需少量微調，即可進行情境感知的情緒分析。
• 能夠針對特定新聞標題及特定領域事件（例如協定遭利用）進行推理。
• 推論效能最佳化
• 對時間窗口短暫的動態市場進行即時情緒分析至關重要。
• 最佳化歷程：
• 2025 年二月：最初使用 SageMaker Jumpstart 部署於 P5EN 執行個體，達到每秒 80 個輸出權杖。
• 2025 年四月：改用 VLLM，啟用多權杖預測、混合精度、線性注意力及分散式平行處理，將效能提升至每秒 140 個輸出權杖。
• 2025 年八月：以 SGLN 取代 VLLM，利用推測解碼達到每秒 180 個輸出權杖。
• 最佳化的重要性
• 高事件量：每分鐘有 10,000 個事件時，每一毫秒的推論延遲都會累積。
• 處理能力加倍：將每秒輸出權杖從 80 提高至 180，可在相同時間窗口內將新聞擷取處理量加倍。
• 端對端延遲：降至 10 秒以下，避免逆向選擇。
• 實作概觀
• 首日架構：部署最佳化情緒分析解決方案所使用的初始設定與元件。

情緒分析的首日架構與重複內容處理

首日架構

• 新聞擷取：新聞串流 API 將資料饋送至 X-ray 儲存貯體，觸發 Lambda 函數依資產、急迫性及情緒進行分類。
• 中繼資料標記：Lambda 函數觸發 deepseek 模型，將中繼資料標記至 Aurora Prospects 及 OpenSearch 等資料庫。
• 使用者互動：QCLI 終端機讓交易員及分析師使用 Claude 等 LLM 查詢新聞來源中的特定資訊（例如 Trump 公告或 Elon Musk 推文的最新消息）。
• 加密貨幣新聞的重複內容挑戰
• 問題：同一則新聞在幾分鐘內於不同平台（Twitter、Reddit、Discord、Telegram）重複報導。
• 成本與延遲：使用昂貴的 LLM 處理每一則重複內容，會增加成本與延遲。

重複內容管線

步驟 1：嵌入

• 在 Lambda 中使用 VGEM3 等嵌入模型計算嵌入。
• 步驟 2：相似度檢查：
• 若相似度 > 0.75：標記為重複內容，並插入 OpenSearch 的重複內容集合，以免進行處理。
• 若相似度 < 0.5：可能是獨特內容；與 OpenSearch 的獨特內容集合比對，以檢查歷史新聞。
• 步驟 3：分析：
• 若確實為獨特內容，則執行近即時預測、擴大價差建議、資產影響評估及價格變動機率。
• 步驟 4：產生預測報告：
• 將報告傳送至交易員面板選定頻道，由人員決定要採取的行動。

微調嵌入

• 通用嵌入模型可能無法有效處理加密貨幣領域特有的重複內容。
• 微調的重要性：散佈圖顯示現成 BGEM3 在數千組加密貨幣新聞查詢文件配對上的效能。

微調嵌入與代理式架構

初始散佈圖

• 綠點：相似度分數高 (>0.75) 的重複新聞文章。
• 紅點：相似度分數低 (<0.5) 的非重複新聞文章。
• 模糊中間區（橘色）：0.5 至 0.75 之間重疊，表示無法有效區分。
• 微調後的 BGEM3：
• 使用數千篇已標記的加密貨幣新聞文章微調後，綠點與紅點明確分離。
• 相似度分數 0.3 至 0.6 之間清楚分離，消除模糊中間區。
• 經微調、具有 560 百萬個參數的小型嵌入模型。
• 代理式架構與提示工程
• 不需要微調 LLM；提示工程就已足夠。
• 代理式架構的威力：
• 使用 Cock 等通用推理模型進行階層式任務分解。
• 專用嵌入層能以符合成本效益的方式更快取得上市成果。
• 透過架構消除偏差。
• 教導系統對新穎事件進行推理。
• 快速示範
• 交易員面板：右側顯示新聞頻道。
• 左側：由管線分析的串流新聞。
• 範例：
• SEC 申報文件：已進行分析，但因不會影響市場而未傳送給交易員。
• 例行新聞：分類為不具影響力。
• 具影響力的新聞：例如 Trump 發布關於中國日益敵對的推文，系統將其識別為具影響力並傳送給交易員，以決定是否調整價差。
• 重要重點
• 採用代理式架構而非微調。
• 使用通用推理模型進行階層式任務分解。
• 採用專用嵌入層，以符合成本效益並更快取得成果。
• 人機協作，運用交易員意見回饋迴圈持續改善系統。
• 在人員監督下提供 24/7 即時涵蓋。

數位資產造市商使用 AWS Macro Services 進行代理式新聞分析

免責聲明：所表達的觀點純屬個人意見，不代表 AWS 或相關組織的官方

立場。僅供參考，不構成財務或專業建議。

交易生態系統概觀

參與者：買方與賣方在交易所下單。 市場流動性：可能沒有足夠的流動性。 造市商的角色：確保持續存在買進與賣出委託，提供流動性及交易對手。

委託簿抽象表示

買進委託（左側）：買方的委託。 賣出委託（右側）：賣方的委託。 Y 軸：每個價位的累計數量。 價位：價格越高越靠近右側。

造市商的日常工作

掛出多筆買進與賣出委託。 風險管理：新聞或公告可能造成市場大幅波動。 庫存管理：對避免因市場突然變動而蒙受損失至關重要。

造市商的理想市場條件

可控波動性：市場小幅波動。 快速執行：快速執行買進與賣出委託。 高週轉率：儘管每筆交易利潤不高，高頻率交易仍可帶來可觀的整體利潤。

造市商策略與波動性因素

價差與利潤的權衡

• 擴大價差：造市商可能考慮擴大價差，以提高每筆交易的利潤。
• 權衡：價差較大可能導致成交次數減少，使整體利潤降低。
• 高頻交易：造市商通常選擇以較低利潤頻繁交易，使週轉率最大化。

波動性與價差調整

• 波動性影響：波動性是定價的關鍵因素；造市商會根據預期波動性調整價差。
• 事件驅動的波動性：例如 FOMC 會議對聯邦基金利率的影響。
• 快速分析與行動：造市商必須快速分析新聞並調整委託，以避免損失。

影響市場的事件範例

• FOMC 會議：發布時間及結果已知的可預測事件。
• 社群媒體影響：具影響力人物（例如 Trump、Elon Musk）的推文等不可預測事件，可能立即引發市場反應。
• Dogecoin 範例：Elon Musk 關於加密貨幣的推文可能造成價格快速變動。

這突顯了由社群媒體驅動之新聞的不可預測性與解讀難度。

數位資產市場情緒分析的挑戰

意見領袖對數位資產的影響

• 不可預測的特性：Elon Musk 等意見領袖的推文可能迅速影響加密貨幣價格。
• 解讀難度：推文通常具有主觀性，需要智慧解讀。
• 分析速度：人類判斷對即時交易而言過於緩慢；因此需要自動化解決方案。

情緒分析方法的演進

• 字典方法：最初使用產業詞彙（例如看跌、看漲）及模式比對的方法。
• 限制：詞彙有限且無法妥善處理內容脈絡（例如將「大規模空頭清算事件」誤解為負面）。

統計比對與機器學習

• 轉向使用 Naive Bayes 或 FinBERT 等模型的監督式學習。
• 優點：更佳的泛化能力與內容脈絡理解。
• 挑戰：需要大量已標記資料，導致成本高昂且上市時間較長。

對進階解決方案的需求

• 即時分析：需要快速、自動化的情緒分析，以跟上市場變動。
• 內容脈絡感知：解決方案必須正確解讀內容脈絡，才能提供可靠的情緒分析。

運用大型語言模型 (LLM) 推進情緒分析

以 Transformer 為基礎的多模態推理

• LLM、Clock 及 DeepSeek 等現代 LLM 只需少量微調，即可進行情境感知的情緒分析。
• 能夠針對特定新聞標題及特定領域事件（例如協定遭利用）進行推理。

推論效能最佳化

• 對時間窗口短暫的動態市場進行即時情緒分析至關重要。

最佳化歷程：

• 2025 年二月：最初使用 SageMaker Jumpstart 部署於 P5EN 執行個體，達到每秒 80 個輸出權杖。
• 2025 年四月：改用 VLLM，啟用多權杖預測、混合精度、線性注意力及分散式平行處理，將效能提升至每秒 140 個輸出權杖。
• 2025 年八月：以 SGLN 取代 VLLM，利用推測解碼達到每秒 180 個輸出權杖。

最佳化的重要性

• 高事件量：每分鐘有 10,000 個事件時，每一毫秒的推論延遲都會累積。
• 處理能力加倍：將每秒輸出權杖從 80 提高至 180，可在相同時間窗口內將新聞擷取處理量加倍。
• 端對端延遲：降至 10 秒以下，避免逆向選擇。

實作概觀

• 首日架構：部署最佳化情緒分析解決方案所使用的初始設定與元件。

情緒分析的首日架構與重複內容處理

首日架構

• 新聞擷取：新聞串流 API 將資料饋送至 X-ray 儲存貯體，觸發 Lambda 函數依資產、急迫性及情緒進行分類。
• 中繼資料標記：Lambda 函數觸發 deepse 模型，將中繼資料標記至 Aurora Prospects 及 OpenSearch 等資料庫。
• 使用者互動：QCLI 終端機讓交易員及分析師使用 Clock 等 LLM 查詢新聞來源中的特定資訊（例如 Trump 公告或 Elon Musk 推文的最新消息）。

加密貨幣新聞的重複內容挑戰

• 問題：同一則新聞在幾分鐘內於不同平台（Twitter、Reddit、Discord、Telegram）重複報導。
• 成本與延遲：使用昂貴的 LLM 處理每一則重複內容，會增加成本與延遲。

重複內容管線

• 步驟 1：嵌入

在 Lambda 中使用 VGEM3 等嵌入模型計算嵌入。

• 步驟 2：相似度檢查：

若相似度 > 0.75：標記為重複內容，並插入 OpenSearch 的重複內容集合，以免進行處理。 若相似度 < 0.5：可能是獨特內容；與 OpenSearch 的獨特內容集合比對，以檢查歷史新聞。

• 步驟 3：分析：

若確實為獨特內容，則執行近即時預測、擴大價差建議、資產影響評估及價格變動機率。

• 步驟 4：產生預測報告：

將報告傳送至交易員面板選定頻道，由人員決定要採取的行動。 微調嵌入

• 通用嵌入模型可能無法有效處理加密貨幣領域特有的重複內容。
• 微調的重要性：散佈圖顯示現成 BGEM3 在數千組加密貨幣新聞查詢文件配對上的效能。

🔧 微調嵌入與代理式架構

初始散佈圖：

• 綠點：相似度分數高 (>0.75) 的重複新聞文章。
• 紅點：相似度分數低 (<0.5) 的非重複新聞文章。
• 模糊中間區（橘色）：0.5 至 0.75 之間重疊，表示無法有效區分。

微調後的 BGEM3：

• 使用數千篇已標記的加密貨幣新聞文章微調後，綠點與紅點明確分離。
• 相似度分數 0.3 至 0.6 之間清楚分離，消除模糊中間區。
• 經微調、具有 5.6 億個參數的小型嵌入模型。

代理式架構與提示工程

• 不需要微調 LLM；提示工程就已足夠。

代理式架構的威力：

• 使用 Cock 等通用推理模型進行階層式任務分解。
• 專用嵌入層能以符合成本效益的方式更快取得上市成果。
• 透過架構消除偏差。
• 教導系統對新穎事件進行推理。

快速示範

• 交易員面板：右側顯示新聞頻道。
• 左側：由管線分析的串流新聞。
• 範例：

SEC 申報文件：已進行分析，但因不會影響市場而未傳送給交易員。 例行新聞：分類為不具影響力。 具影響力的新聞：例如 Trump 發布關於中國日益敵對的推文，系統將其識別為具影響力並傳送給交易員，以決定是否調整價差。

重要重點

• 採用代理式架構而非微調。
• 使用通用推理模型進行階層式任務分解。
• 採用專用嵌入層，以符合成本效益並更快取得成果。
• 人機協作，運用交易員意見回饋迴圈持續改善系統。
• 在人員監督下提供 24/7 即時涵蓋。

AWS re:Invent 回顧 (GBL302)

使用 AWS Macro Services 進行代理式新聞分析的數位資產造市商

免責聲明：所表達的觀點純屬個人意見，不代表 AWS 或相關組織的官方立場。僅供參考，

不構成財務或專業建議。

交易生態系統概觀

參與者：買方與賣方在交易所下單。

• 市場流動性：可能沒有足夠的流動性。
• 造市商的角色：確保持續存在買進與賣出委託，提供流動性及交易對手。

委託簿抽象表示

• 買進委託（左側）：買方的委託。
• 賣出委託（右側）：賣方的委託。
• Y 軸：每個價位的累計數量。
• 價位：價格越高越靠近右側。

造市商的日常工作

• 掛出多筆買進與賣出委託。
• 風險管理：新聞或公告可能造成市場大幅波動。
• 庫存管理：對避免因市場突然變動而蒙受損失至關重要。

造市商的理想市場條件

• 可控波動性：市場小幅波動。
• 快速執行：快速執行買進與賣出委託。
• 高週轉率：儘管每筆交易利潤不高，高頻率交易仍可帶來可觀的整體利潤。

造市商策略與波動性因素

價差與利潤的權衡

• 擴大價差：造市商可能考慮擴大價差，以提高每筆交易的利潤。
• 權衡：價差較大可能導致成交次數減少，使整體利潤降低。
• 高頻交易：造市商通常選擇以較低利潤頻繁交易，使週轉率最大化。

波動性與價差調整

• 波動性影響：波動性是定價的關鍵因素；造市商會根據預期波動性調整價差。
• 事件驅動的波動性：例如 FOMC 會議對聯邦基金利率的影響。
• 快速分析與行動：造市商必須快速分析新聞並調整委託，以避免損失。

影響市場的事件範例

• FOMC 會議：發布時間及結果已知的可預測事件。
• 社群媒體影響：具影響力人物（例如 Trump、Elon Musk）的推文等不可預測事件，可能立即引發市場反應。
• Dogecoin 範例：Elon Musk 關於加密貨幣的推文可能造成價格快速變動，突顯由社群媒體驅動之新聞的不可預測性與解讀難度。

數位資產市場情緒分析的挑戰

意見領袖對數位資產的影響

• 不可預測的特性：Elon Musk 等意見領袖的推文可能迅速影響加密貨幣價格。
• 解讀難度：推文通常具有主觀性，需要智慧解讀。
• 分析速度：人類判斷對即時交易而言過於緩慢；因此需要自動化解決方案。

情緒分析方法的演進

• 字典方法：最初使用產業詞彙（例如看跌、看漲）及模式比對的方法。
• 限制：詞彙有限且無法妥善處理內容脈絡（例如將「大規模空頭清算事件」誤解為負面）。

統計比對與機器學習

• 轉向使用 Naive Bayes 或 FinBERT 等模型的監督式學習。
• 優點：更佳的泛化能力與內容脈絡理解。
• 挑戰：需要大量已標記資料，導致成本高昂且上市時間較長。

對進階解決方案的需求

• 即時分析：需要快速、自動化的情緒分析，以跟上市場變動。
• 內容脈絡感知：解決方案必須正確解讀內容脈絡，才能提供可靠的情緒分析。

運用大型語言模型 (LLM) 推進情緒分析

以 Transformer 為基礎的多模態推理

• LLM、Clock 及 DeepSeek 等現代 LLM 只需少量微調，即可進行情境感知的情緒分析。
• 能夠針對特定新聞標題及特定領域事件（例如協定遭利用）進行推理。

推論效能最佳化

• 對時間窗口短暫的動態市場進行即時情緒分析至關重要。

最佳化歷程：

• 2025 年二月：使用 SageMaker Jumpstart 在 P5EN 執行個體上進行初始部署，達到每秒 80 個輸出權杖。
• 2025 年四月：改用 VLLM，啟用多權杖預測、混合精度、線性注意力及分散式平行處理，將效能提升至每秒 140 個輸出權杖。
• 2025 年八月：以 SGLN 取代 VLLM，利用推測解碼達到每秒 180 個輸出權杖。

最佳化的重要性

• 高事件量：每分鐘有 10,000 個事件時，每一毫秒的推論延遲都會累積。
• 處理能力加倍：將每秒輸出權杖從 80 提高至 180，可在相同時間窗口內將新聞擷取處理量加倍。
• 端對端延遲：降至 10 秒以下，避免逆向選擇。

實作概觀

• 首日架構：部署最佳化情緒分析解決方案所使用的初始設定與元件。
• 📡 情緒分析的首日架構與重複內容處理

首日架構

• 新聞擷取：新聞串流 API 將資料傳輸至 X-ray 儲存貯體，觸發 Lambda 函數依資產、急迫性及情緒進行分類。
• 中繼資料標記：Lambda 函數觸發 deepse 模型，將中繼資料標記至 Aurora Prospects 及 OpenSearch 等資料庫。
• 使用者互動：QCLI 終端機讓交易員及分析師使用 Clock 等 LLM 查詢新聞來源中的特定資訊。

（例如 Trump 公告或 Elon Musk 推文的最新消息）。

加密貨幣新聞的重複內容挑戰

• 問題：同一則新聞在幾分鐘內於不同平台（Twitter、Reddit、Discord、Telegram）重複報導。
• 成本與延遲：使用昂貴的 LLM 處理每一則重複內容，會增加成本與延遲。

重複內容管線

• 步驟 1：嵌入

在 Lambda 中使用 VGEM3 等嵌入模型計算嵌入。

• 步驟 2：相似度檢查：

若相似度 > 0.75：標記為重複內容，並插入 OpenSearch 的重複內容集合，以免進行處理。 若相似度 < 0.5：可能是獨特內容；與 OpenSearch 的獨特內容集合比對，以檢查歷史新聞。

• 步驟 3：分析：

若確實為獨特內容，則執行近即時預測、擴大價差建議、資產影響評估及價格變動機率。

• 步驟 4：產生預測報告：

將報告傳送至交易員面板選定頻道，由人員決定要採取的行動。 微調嵌入

• 通用嵌入模型可能無法有效處理加密貨幣領域特有的重複內容。
• 微調的重要性：散佈圖顯示現成 BGEM3 在數千組加密貨幣新聞查詢文件配對上的效能。

微調嵌入與代理式架構

初始散佈圖：

• 綠點：相似度分數高 (> 0.75) 的重複新聞文章。
• 紅點：相似度分數低 (< 0.5) 的非重複新聞文章。
• 模糊中間區（橘色）：0.5 至 0.75 之間重疊，表示無法有效區分。

微調後的 BGEM3：

• 使用數千篇已標記的加密貨幣新聞文章微調後，綠點與紅點明確分離。
• 相似度分數 0.3 至 0.6 之間清楚分離，消除模糊中間區。
• 經微調、具有 5.6 億個參數的小型嵌入模型。

代理式架構與提示工程

• 不需要微調 LLM；提示工程就已足夠。

代理式架構的威力：

• 使用 Cock 等通用推理模型進行階層式任務分解。
• 專用嵌入層能以符合成本效益的方式更快取得上市成果。
• 透過架構消除偏差。
• 教導系統對新穎事件進行推理。

快速示範

• 交易員面板：右側顯示新聞頻道。
• 左側：由管線分析的串流新聞。
• 範例：

SEC 申報文件：已進行分析，但因不會影響市場而未傳送給交易員。 例行新聞：分類為不具影響力。 具影響力的新聞：例如 Trump 發布關於中國日益敵對的推文，系統將其識別為具影響力並傳送給交易員，以決定是否調整價差。

重要重點

• 採用代理式架構而非微調。
• 使用通用推理模型進行階層式任務分解。
• 採用專用嵌入層，以符合成本效益並更快取得成果。
• 人機協作，運用交易員意見回饋迴圈持續改善系統。
• 在人員監督下提供 24/7 即時涵蓋。