Paano FSI Binago ang HFT Analytics gamit ang Agentic AI (GBL302)

Mga Tala ng Sesyon

Panimula

• Disclaimer: Ang mga view na ipinahayag ay personal at hindi opisyal na AWS o mga kaakibat na posisyon ng organisasyon. Layunin ng impormasyon lamang, hindi payo sa pananalapi o propesyonal.
• Pangkalahatang-ideya ng Trading Ecosystem
• Mga Kalahok: Ang mga mamimili at nagbebenta ay naglalagay ng mga order sa mga palitan.
• Market Liquidity: Maaaring kulang sa sapat na liquidity.
• Tungkulin ng Mga Tagagawa ng Market: Tiyakin ang tuluy-tuloy na pagbili at pagbebenta ng mga order, na nagbibigay ng pagkatubig at mga katapat.
• Order Book Abstraction
• Mga Bid Order (Kaliwa): Mga order ng mga mamimili.
• Magtanong ng Mga Order (Kanan): Mga order ng mga nagbebenta.
• Y-Axis: Pinagsama-samang laki sa bawat antas ng presyo.
• Mga Antas ng Presyo: Mas mataas na presyo na mas malapit sa kanang bahagi.
• Pang-araw-araw na Gawain ng Market Maker
• Maglagay ng maramihang bid at magtanong ng mga order.
• Pamamahala ng Panganib: Ang mga balita o anunsyo ay maaaring magdulot ng makabuluhang paggalaw ng merkado.
• Pamamahala ng Imbentaryo: Kritikal upang maiwasan ang mga pagkalugi mula sa biglaang pagbabago ng merkado.
• Tamang-tama na Kondisyon ng Market para sa Mga Gumagawa ng Market
• Kontroladong Pagkasumpungin: Maliit na mga pagbabago sa merkado.
• Mabilis na Pagpapatupad: Mag-bid at magtanong ng mga order na naisagawa nang mabilis.
• Mataas na Rate ng Turnover: Sa kabila ng maliliit na kita sa bawat kalakalan, ang mataas na dalas ng mga kalakalan ay maaaring humantong sa makabuluhang pangkalahatang kita.

Mga Istratehiya sa Tagagawa ng Market at Mga Salik ng Pagkasumpungin

Spread at Profit Trade-Off

• Pagtaas ng Spread: Maaaring isaalang-alang ng mga gumagawa ng merkado na palawakin ang spread para sa mas mataas na kita sa bawat kalakalan.
• Trade-Off: Maaaring magresulta ang mas matataas na spread sa mas kaunting execution, na makakabawas sa kabuuang kita.
• High Frequency Trading: Madalas na pinipili ng mga market makers ang mga madalas na trade na may mas maliit na kita upang mapakinabangan ang turnover.
• Pagkasumpungin at Pagsasaayos ng Spread
• Epekto ng Pagkasumpungin: Ang pagkasumpungin ay isang pangunahing salik sa pagpepresyo; inaayos ng mga gumagawa ng merkado ang mga spread batay sa inaasahang pagkasumpungin.
• Pagkasumpungin na Dahil sa Kaganapan: Kasama sa mga halimbawa ang mga FOMC na pagpupulong sa mga rate ng pondo ng Fed.
• Rapid Analysis and Action: Market makers must quickly analyze news and adjust orders to avoid losses.
• Mga Halimbawa ng Mga Kaganapang Gumagalaw sa Market
• FOMC Mga Pagpupulong: Mga nahuhulaang kaganapan na may alam na mga oras ng pagpapalabas at mga resulta.
• Impluwensya sa Social Media: Ang mga hindi mahuhulaan na kaganapan tulad ng mga tweet mula sa mga maimpluwensyang figure (hal., Trump, Elon Musk) ay maaaring magdulot ng agarang mga reaksyon sa merkado.
• Halimbawa ng Dogecoin: Ang mga tweet ni Elon Musk tungkol sa mga cryptocurrencies ay maaaring humantong sa mabilis na pagbabago ng presyo, na naglalarawan ng hindi mahuhulaan at kahirapan sa pagbibigay-kahulugan sa mga balitang hinimok ng social media.

Mga Hamon sa Digital Asset Market Sentiment Analysis

Epekto ng Influencer sa Mga Digital na Asset

• Hindi Mahuhulaan na Kalikasan: Ang mga tweet mula sa mga influencer tulad ng Elon Musk ay maaaring mabilis na makaapekto sa mga presyo ng cryptocurrency.
• Kahirapan sa Interpretasyon: Ang mga Tweet ay kadalasang subjective at nangangailangan ng matalinong interpretasyon.
• Bilis ng Pagsusuri: Masyadong mabagal ang paghatol ng tao para sa real-time na kalakalan; kinakailangan ang mga awtomatikong solusyon.
• Ebolusyon ng Mga Diskarte sa Pagsusuri ng Sentimento
• Diskarte sa Diksyunaryo: Paunang pamamaraan gamit ang mga lexicon ng industriya (hal., bearish, bullish) at pagtutugma ng pattern.
• Mga Limitasyon:
• Limitado ang bokabularyo at hindi magandang pangangasiwa sa konteksto (hal., misinterpreting negatibo ang "Massive Short liquidation event").
• Pagtutugma ng Istatistika at Machine Learning:
• Paglipat sa pinangangasiwaang pag-aaral gamit ang mga modelo tulad ng Naive Bayes o FinBERT.
• Mga Bentahe: Mas mahusay na generalization at pag-unawa sa konteksto.
• Mga Hamon: Nangangailangan ng malawak na may label na data, na humahantong sa mataas na gastos at mas mahabang oras sa merkado.
• Kailangan ng Mga Advanced na Solusyon
• Real-Time na Pagsusuri: Pangangailangan para sa mabilis, automated na pagsusuri ng sentimento upang makasabay sa mga paggalaw ng merkado.
• Kamalayan sa Konteksto: Dapat na tumpak na bigyang-kahulugan ng mga solusyon ang konteksto upang makapagbigay ng maaasahang pagsusuri ng damdamin.

Mga Pagsulong sa Pagsusuri ng Sentiment na may Malaking Modelo ng Wika (LLMs)

Transformer-Based Multimodal Reasoning

• Ang mga modernong LLM tulad ng LLM, Claude, at DeepSeek ay nagbibigay-daan sa pagsusuri ng sentimento na may kamalayan sa konteksto na may kaunting fine-tuning.
• May kakayahang mangatwiran sa mga partikular na pamagat ng balita at mga kaganapang partikular sa domain (hal., mga pagsasamantala sa protocol).
• Inference Performance Optimization
• Kritikal para sa real-time na pagsusuri ng sentimento sa mga dynamic na market na may maikling panahon na mga window.
• Paglalakbay sa Pag-optimize:
• Pebrero 2025: Paunang deployment gamit ang SageMaker Jumpstart sa P5EN instance, na nakakakuha ng 80 output token sa bawat segundo.
• Abril 2025: Lumipat sa VLLM, pinapagana ang mga hula ng multi-token, halo-halong katumpakan, linear na atensyon, at distributed parallelism, na nagpapalakas ng performance sa 140 output token bawat segundo.
• Agosto 2025: Pinalitan ang VLLM ng SGLN, na gumagamit ng speculative decoding upang makamit ang 180 output token sa bawat segundo.
• Kahalagahan ng Optimization
• Mataas na Dami ng Kaganapan: Sa 10,000 na mga kaganapan kada minuto, bawat millisecond ng inference latency compounds.
• Pagdodoble ng Kapasidad sa Pagproseso: Ang pagtaas ng mga output token bawat segundo mula 80 hanggang 180 ay nagdodoble sa pagproseso ng pag-ingest ng balita sa loob ng parehong window ng oras.
• End-to-End Latency: Nakamit sa ilalim ng 10 segundo, pag-iwas sa masamang pagpili.
• Pangkalahatang-ideya ng Pagpapatupad
• Unang Araw na Arkitektura: Paunang pag-setup at mga bahaging ginamit para sa pag-deploy ng na-optimize na solusyon sa pagsusuri ng sentimento.

Unang Araw ng Arkitektura at Paghawak ng Duplikasyon sa Pagsusuri ng Sentimento

Unang Araw Arkitektura

• Pag-ingest ng Balita: Ang streaming ng balita API ay nagpapakain ng data sa isang X-ray bucket, na nagti-trigger ng Lambda function para sa pag-uuri batay sa asset, urgency, at sentiment.
• Pag-tag ng Metadata: Ang Lambda function ay nagti-trigger ng deepseek na modelo upang i-tag ang metadata sa mga database tulad ng Aurora Prospects at OpenSearch.
• Pakikipag-ugnayan ng User: QCLI terminal ay nagbibigay-daan sa mga mangangalakal at analyst na mag-query ng mga mapagkukunan ng balita gamit ang mga LLM tulad ni Claude para sa partikular na impormasyon (hal., pinakabagong mga balita sa mga anunsyo ni Trump o mga tweet ni Elon Musk).
• Duplication Challenge sa Crypto News
• Isyu: Ang parehong balita ay iniulat nang maraming beses sa iba't ibang mga platform (Twitter, Reddit, Discord, Telegram) sa loob ng ilang minuto.
• Gastos at Latency: Ang pagpoproseso ng bawat duplicate sa pamamagitan ng mga mamahaling LLM ay nagpapataas ng mga gastos at latency.

Duplication Pipeline

Hakbang 1: Embeddings

• Kalkulahin ang mga pag-embed sa Lambda gamit ang mga modelo ng pag-embed tulad ng VGEM3.
• Hakbang 2: Pagsusuri ng Pagkakatulad:
• Kung pagkakatulad > 0.75: Markahan bilang duplicate at ipasok sa mga dobleng koleksyon sa OpenSearch upang maiwasan ang pagproseso.
• Kung pagkakatulad < 0.5: Malamang na kakaiba; suriin laban sa mga natatanging koleksyon sa OpenSearch para sa makasaysayang balita.
• Hakbang 3: Pagsusuri:
• Kung talagang kakaiba, magsagawa ng malapit sa real-time na mga hula, magpakalat ng mga rekomendasyon sa pagpapalawak, pagtatasa ng epekto ng asset, at posibilidad ng paggalaw ng presyo.
• Hakbang 4: Bumuo ng Ulat sa Hula:
• Magpadala ng ulat sa trader deck piliin ang channel para sa desisyon ng tao sa pagkilos.

Fine-Tuning Embeddings

• Maaaring hindi epektibong pangasiwaan ng mga generic na modelo ng pag-embed ang mga duplicate na partikular sa crypto.
• Kahalagahan ng Fine-Tuning: Inilalarawan ng isang scatter plot na nagpapakita ng pagganap ng isang out-of-the-box BGEM3 sa libu-libong mga pares ng query na dokumento mula sa crypto news.

Fine-Tuning Embeddings at Ahensyang Arkitektura

Paunang Scatter Plot

• Green Dots: Dobleng mga artikulo ng balita na may mataas na mga marka ng pagkakatulad (>0.75).
• Mga Red Dots: Mga artikulo ng balita na hindi nadoble na may mababang marka ng pagkakatulad (<0.5).
• Maputik na Gitna (Kahel): Magpatong sa pagitan ng 0.5 at 0.75 na nagpapahiwatig ng hindi epektibong paghihiwalay.
• Fine-Tuned BGEM3:
• Pagkatapos ng fine-tuning sa libu-libong may label na mga artikulo ng balita sa crypto, malinaw na paghihiwalay sa pagitan ng berde at pulang tuldok.
• Malinis na paghihiwalay sa pagitan ng 0.3 hanggang 0.6 na mga marka ng pagkakatulad, na inaalis ang maputik na gitna.
• Pinong-pino ang maliliit na modelo ng pag-embed na may 560 milyong parameter.
• Mga Ahensyang Arkitektura at Maagap na Engineering
• Hindi na kailangan para sa fine-tuning LLMs; sapat na ang mabilis na engineering.
• Kapangyarihan ng Ahensyang Arkitektura:
• Hierarchical task decomposition gamit ang pangkalahatang mga modelo ng pangangatwiran tulad ng Cock.
• Espesyal na layer ng pag-embed para sa cost-effective at mas mabilis na mga resulta ng time-to-market.
• Pag-aalis ng bias sa pamamagitan ng arkitektura.
• Sistema ng pagtuturo sa pangangatuwiran tungkol sa mga nobelang pangyayari.
• Mabilis na Demo
• Trader Deck: Ang kanang bahagi ay nagpapakita ng mga channel ng balita.
• Kaliwang bahagi: Pag-stream ng balita na sinuri ng pipeline.
• Mga halimbawa:
• SEC filings: Sinuri ngunit hindi ipinadala sa mga mangangalakal bilang hindi gumagalaw sa pamilihan.
• Mga nakagawiang balita: Inuri bilang hindi nakakaapekto.
• Maimpluwensyang balita: E.g., ang tweet ni Trump tungkol sa pagiging masungit ng China, na kinilala bilang nakakaapekto at ipinadala sa mga mangangalakal para sa pagpapasya sa pagsasaayos ng spread.
• Mga Pangunahing Takeaway
• Paggamit ng mga ahenteng arkitektura sa paglipas ng fine-tuning.
• Hierarchical task decomposition na may pangkalahatang mga modelo ng pangangatwiran.
• Espesyal na layer ng pag-embed para sa pagiging epektibo sa gastos at mas mabilis na mga resulta.
• Human-in-the-loop na may feedback loop ng trader para sa patuloy na pagpapabuti ng system.
• 24/7 real-time na saklaw na may pangangasiwa ng tao.

Digital Asset Market Makers Gumagamit ng AWS Macro Services para sa Agentic News Analysis

Disclaimer: Ang mga view na ipinahayag ay personal at hindi opisyal na AWS o kaakibat na organisasyon

mga posisyon. Layunin ng impormasyon lamang, hindi payo sa pananalapi o propesyonal.

Pangkalahatang-ideya ng Trading Ecosystem

Mga Kalahok: Ang mga mamimili at nagbebenta ay naglalagay ng mga order sa mga palitan. Market Liquidity: Maaaring kulang sa sapat na liquidity. Tungkulin ng Mga Tagagawa ng Market: Tiyakin ang tuluy-tuloy na pagbili at pagbebenta ng mga order, na nagbibigay ng pagkatubig at mga katapat.

Order Book Abstraction

Mga Bid Order (Kaliwa): Mga order ng mga mamimili. Magtanong ng Mga Order (Kanan): Mga order ng mga nagbebenta. Y-Axis: Pinagsama-samang laki sa bawat antas ng presyo. Mga Antas ng Presyo: Mas mataas na presyo na mas malapit sa kanang bahagi.

Pang-araw-araw na Gawain ng Market Maker

Maglagay ng maramihang bid at magtanong ng mga order. Pamamahala ng Panganib: Ang mga balita o anunsyo ay maaaring magdulot ng makabuluhang paggalaw ng merkado. Pamamahala ng Imbentaryo: Kritikal upang maiwasan ang mga pagkalugi mula sa biglaang pagbabago ng merkado.

Tamang-tama na Kondisyon ng Market para sa Mga Gumagawa ng Market

Kontroladong Pagkasumpungin: Maliit na mga pagbabago sa merkado. Mabilis na Pagpapatupad: Mag-bid at magtanong ng mga order na naisagawa nang mabilis. Mataas na Rate ng Turnover: Sa kabila ng maliliit na kita sa bawat kalakalan, ang mataas na dalas ng mga trade ay maaaring humantong sa makabuluhang pangkalahatang kita.

Mga Istratehiya sa Tagagawa ng Market at Mga Salik ng Pagkasumpungin

Spread at Profit Trade-Off

• Pagtaas ng Spread: Maaaring isaalang-alang ng mga market makers na palawakin ang spread para sa mas mataas na kita bawat
• Trade-Off: Maaaring magresulta ang mas matataas na spread sa mas kaunting execution, na makakabawas sa kabuuang kita. kalakalan.
• High Frequency Trading: Madalas na pinipili ng mga market makers ang mga madalas na trade na may mas maliit na kita upang mapakinabangan ang turnover.

Pagkasumpungin at Pagsasaayos ng Spread

• Epekto ng Pagkasumpungin: Ang pagkasumpungin ay isang pangunahing salik sa pagpepresyo; inaayos ng mga market makers ang mga spread batay sa
• Pagkasumpungin na Dahil sa Kaganapan: Kasama sa mga halimbawa ang mga FOMC na pagpupulong sa mga rate ng pondo ng Fed. inaasahang pagkasumpungin.
• Mabilis na Pagsusuri at Pagkilos: Dapat mabilis na suriin ng mga gumagawa ng merkado ang mga balita at ayusin ang mga order upang maiwasan ang mga pagkalugi.

Mga Halimbawa ng Mga Kaganapang Gumagalaw sa Market

• FOMC Mga Pagpupulong: Mga nahuhulaang kaganapan na may alam na mga oras ng pagpapalabas at mga resulta.
• Impluwensya sa Social Media: Mga hindi inaasahang pangyayari tulad ng mga tweet mula sa mga maimpluwensyang tao (hal., Trump,
• Dogecoin Halimbawa: Ang mga tweet ni Elon Musk tungkol sa mga cryptocurrencies ay maaaring humantong sa mabilis na presyo Elon Musk) ay maaaring magdulot ng agarang mga reaksyon sa merkado.

mga pagbabago, na naglalarawan ng hindi mahuhulaan at kahirapan sa pagbibigay-kahulugan sa mga balitang hinimok ng social media.

Mga Hamon sa Digital Asset Market Sentiment Analysis

Epekto ng Influencer sa Mga Digital na Asset

• Hindi Mahuhulaan na Kalikasan: Mabilis na makakaapekto ang mga tweet mula sa mga influencer tulad ni Elon Musk
• Kahirapan sa Interpretasyon: Ang mga Tweet ay kadalasang subjective at nangangailangan ng matalinong interpretasyon. mga presyo ng cryptocurrency.
• Bilis ng Pagsusuri: Masyadong mabagal ang paghatol ng tao para sa real-time na kalakalan; kinakailangan ang mga awtomatikong solusyon.

Ebolusyon ng Mga Diskarte sa Pagsusuri ng Sentimento

• Diskarte sa Diksyunaryo: Paunang pamamaraan gamit ang mga lexicon ng industriya (hal., bearish, bullish) at pattern
• Mga Limitasyon: Limitado ang bokabularyo at hindi magandang pangangasiwa sa konteksto (hal., maling pagbibigay-kahulugan sa "Massive matching.

Maikling kaganapan sa pagpuksa" bilang negatibo).

Pagtutugma ng Istatistika at Machine Learning

• Paglipat sa pinangangasiwaang pag-aaral gamit ang mga modelo tulad ng Naive Bayes o FinBERT.
• Mga Bentahe: Mas mahusay na generalization at pag-unawa sa konteksto.
• Mga Hamon: Nangangailangan ng malawak na may label na data, na humahantong sa mataas na gastos at mas mahabang oras sa merkado.

Kailangan ng Mga Advanced na Solusyon

• Real-Time na Pagsusuri: Pangangailangan para sa mabilis, automated na pagsusuri ng damdamin upang makasabay
• Kamalayan sa Konteksto: Dapat tumpak na bigyang-kahulugan ng mga solusyon ang konteksto upang makapagbigay ng maaasahang paggalaw ng sentimento sa merkado.

pagsusuri.

Mga Pagsulong sa Pagsusuri ng Sentiment na may Malaking Modelo ng Wika (LLMs)

Transformer-Based Multimodal Reasoning

• Ang mga modernong LLM tulad ng LLM, Clock, at DeepSeek ay nagbibigay-daan sa pagsusuri ng sentimento na may kamalayan sa konteksto na may kaunting fine-tuning.
• May kakayahang mangatwiran sa mga partikular na pamagat ng balita at mga kaganapang partikular sa domain (hal., mga pagsasamantala sa protocol).

Inference Performance Optimization

• Kritikal para sa real-time na pagsusuri ng sentimento sa mga dynamic na market na may maikling panahon na mga window.

Paglalakbay sa Pag-optimize:

• Pebrero 2025: Paunang deployment gamit ang SageMaker Jumpstart sa mga P5EN na pagkakataon,
• Abril 2025: Lumipat sa VLLM, pinapagana ang mga hula ng multi-token, halo-halong katumpakan, linear na pagkamit ng 80 output token bawat segundo.
• Agosto 2025: Pinalitan ang VLLM ng SGLN, gumagamit ng speculative decoding para makuha ang 180 na atensyon, at ipinamahagi ang parallelism, na nagpapataas ng performance sa 140 output token bawat segundo.

mga token ng output bawat segundo.

Kahalagahan ng Optimization

• Mataas na Dami ng Kaganapan: Sa 10,000 na mga kaganapan kada minuto, bawat millisecond ng inference latency
• Pagdodoble ng Kapasidad sa Pagproseso: Ang pagtaas ng mga output token bawat segundo mula 80 hanggang 180 ay nagdodoble ng mga compound.
• End-to-End Latency: Nakamit sa ilalim ng 10 segundo, pag-iwas sa masamang pagpili. pagpoproseso ng pag-ingest ng balita sa loob ng parehong window ng oras.

Pangkalahatang-ideya ng Pagpapatupad

• Unang Araw na Arkitektura: Paunang pag-setup at mga bahaging ginamit para sa pag-deploy ng na-optimize na solusyon sa pagsusuri ng sentimento.

Unang Araw ng Arkitektura at Paghawak ng Duplikasyon sa Pagsusuri ng Sentimento

Unang Araw Arkitektura

• Pag-ingest ng Balita: Ang streaming ng balita API ay nagpapakain ng data sa isang X-ray bucket, na nagti-trigger ng isang Lambda
• Pag-tag ng Metadata: Ang Lambda function ay nagti-trigger ng isang deepse na modelo upang i-tag ang metadata sa mga database function para sa pag-uuri batay sa asset, urgency, at sentiment.
• Pakikipag-ugnayan ng User: QCLI terminal ay nagbibigay-daan sa mga mangangalakal at analyst na mag-query ng mga mapagkukunan ng balita gamit ang tulad ng Aurora Prospects at OpenSearch.

Ang mga LLM tulad ng Clock para sa partikular na impormasyon (hal., pinakabagong balita sa mga anunsyo ni Trump o Elon

Mga tweet ni Musk).

Duplication Challenge sa Crypto News

• Isyu: Ang parehong balita ay iniulat nang maraming beses sa iba't ibang mga platform (Twitter, Reddit, Discord,
• Gastos at Latency: Ang pagpoproseso ng bawat duplicate sa pamamagitan ng mga mamahaling LLM ay nagpapataas ng mga gastos at Telegram) sa loob ng ilang minuto.

latency. Duplication Pipeline

• Hakbang 1: Embeddings

Kalkulahin ang mga pag-embed sa Lambda gamit ang mga modelo ng pag-embed tulad ng VGEM3.

• Hakbang 2: Pagsusuri ng Pagkakatulad:

Kung pagkakatulad > 0.75: Markahan bilang duplicate at ipasok sa mga dobleng koleksyon sa OpenSearch sa Kung pagkakatulad < 0.5: Malamang na kakaiba; suriin laban sa mga natatanging koleksyon sa OpenSearch para maiwasan ang pagproseso.

• Hakbang 3: Pagsusuri: makasaysayang balita.

Kung talagang natatangi, magsagawa ng malapit sa real-time na mga hula, magpakalat ng mga rekomendasyon sa pagpapalawak, asset

• Hakbang 4: Bumuo ng Ulat ng Hula: pagtatasa ng epekto, at posibilidad ng paggalaw ng presyo.

Magpadala ng ulat sa trader deck piliin ang channel para sa desisyon ng tao sa pagkilos. Fine-Tuning Embeddings

• Maaaring hindi epektibong pangasiwaan ng mga generic na modelo ng pag-embed ang mga duplicate na partikular sa crypto.
• Kahalagahan ng Fine-Tuning: Inilalarawan ng isang scatter plot na nagpapakita ng pagganap ng isang out-of-the-box BGEM3 sa libu-libong mga pares ng query na dokumento mula sa crypto news.

🔧 Fine-Tuning na Mga Embedding at Ahensyang Arkitektura

Paunang Scatter Plot:

• Green Dots: Dobleng mga artikulo ng balita na may mataas na mga marka ng pagkakatulad (>0.75).
• Mga Red Dots: Mga artikulo ng balita na hindi nadoble na may mababang marka ng pagkakatulad (<0.5).
• Maputik na Gitna (Kahel): Magpatong sa pagitan ng 0.5 at 0.75 na nagpapahiwatig ng hindi epektibong paghihiwalay.

Fine-Tuned BGEM3:

• Pagkatapos ng fine-tuning sa libu-libong may label na mga artikulo ng balita sa crypto, malinaw na paghihiwalay sa pagitan
• Malinis na paghihiwalay sa pagitan ng 0.3 hanggang 0.6 na mga marka ng pagkakatulad, na inaalis ang maputik na gitna. berde at pulang tuldok.
• Pinong-pino ang maliliit na modelo ng pag-embed na may 560 milyong parameter.

Mga Ahensyang Arkitektura at Maagap na Engineering

• Hindi na kailangan para sa fine-tuning LLMs; sapat na ang mabilis na engineering.

Kapangyarihan ng Ahensyang Arkitektura:

• Hierarchical task decomposition gamit ang pangkalahatang mga modelo ng pangangatwiran tulad ng Cock.
• Espesyal na layer ng pag-embed para sa cost-effective at mas mabilis na mga resulta ng time-to-market.
• Pag-aalis ng bias sa pamamagitan ng arkitektura.
• Sistema ng pagtuturo sa pangangatuwiran tungkol sa mga nobelang pangyayari.

Mabilis na Demo

• Trader Deck: Ang kanang bahagi ay nagpapakita ng mga channel ng balita.
• Kaliwang bahagi: Pag-stream ng balita na sinuri ng pipeline.
• Mga halimbawa:

SEC filings: Sinuri ngunit hindi ipinadala sa mga mangangalakal bilang hindi gumagalaw sa pamilihan. Mga nakagawiang balita: Inuri bilang hindi nakakaapekto. Epektibong balita: E.g., ang tweet ni Trump tungkol sa pagiging masungit ng China, natukoy na may epekto at ipinadala sa mga mangangalakal para sa pagpapasya sa pagsasaayos ng spread.

Mga Pangunahing Takeaway

• Paggamit ng mga ahenteng arkitektura sa paglipas ng fine-tuning.
• Hierarchical task decomposition na may mga pangkalahatang modelo ng pangangatwiran.
• Espesyal na layer ng pag-embed para sa pagiging epektibo sa gastos at mas mabilis na mga resulta.
• Human-in-the-loop na may feedback loop ng trader para sa patuloy na pagpapabuti ng system.
• 24/7 real-time na saklaw na may pangangasiwa ng tao.

AWS re:Invent recap (GBL302)

Pagsusuri ng balita ng ahensya para sa mga gumagawa ng digital asset market gamit ang AWS macro services

Disclaimer: Ang mga pananaw na ipinahayag ay personal at hindi kumakatawan sa opisyal na posisyon ng AWS o mga kaugnay na organisasyon. Para sa mga layunin ng impormasyon lamang,

Hindi bumubuo ng payo sa pananalapi o propesyonal.

Pangkalahatang-ideya ng Trading Ecosystem

Mga Kalahok: Ang mga mamimili at nagbebenta ay naglalagay ng mga order sa palitan.

• Market Liquidity: Maaaring may kakulangan ng sapat na liquidity.
• Ang papel ng gumagawa ng merkado: pagtiyak ng patuloy na pagbili at pagbebenta ng mga order, pagbibigay ng pagkatubig at mga katapat.

Pag-order ng abstract ng libro

• Bumili ng order (kaliwa): Order ng mamimili.
• Magbenta ng order (kanan): Utos ng nagbebenta.
• Y-axis: Pinagsama-samang laki sa bawat antas ng presyo.
• Mga antas ng presyo: Ang mas mataas na presyo ay mas malapit sa kanan.

Ang araw-araw na gawain ng isang market maker

• Maglagay ng maramihang pagbili at pagbebenta ng mga order.
• Pamamahala ng Panganib: Ang mga balita o anunsyo ay maaaring magresulta sa makabuluhang paggalaw ng merkado.
• Pamamahala ng Imbentaryo: Mahalagang maiwasan ang mga pagkalugi dahil sa mga biglaang pagbabago sa merkado.

Mga perpektong kondisyon sa merkado para sa mga gumagawa ng merkado

• Nakokontrol na Volatility: Maliit na paggalaw ng merkado.
• Mabilis na Pagpapatupad: Ang mga order sa pagbili at pagbebenta ay mabilis na isinasagawa.
• Mataas na rate ng turnover: Bagama't mas maliit ang mga kita sa bawat kalakalan, ang mataas na dalas ng mga trade ay maaaring magresulta sa makabuluhang pangkalahatang kita.

Mga Istratehiya sa Tagagawa ng Market at Mga Salik ng Pagkasumpungin

Mga spread at trade-off ng kita

• Palakihin ang mga spread: Maaaring isaalang-alang ng mga gumagawa ng merkado ang pagpapalawak ng mga spread upang makamit ang mas mataas na kita sa bawat kalakalan.
• Trade-off: Ang mas mataas na spread ay maaaring magresulta sa mas kaunting mga execution, kaya nagpapababa ng kabuuang kita.
• High-frequency trading: Madalas na pinipili ng mga market makers na mag-trade nang madalas para sa mas maliliit na kita upang mapakinabangan ang turnover.

Pagkasumpungin at pagsasaayos ng pagkalat

• Epekto sa pagkasumpungin: Ang pagkasumpungin ay isang pangunahing salik sa pagpepresyo; inaayos ng mga gumagawa ng merkado ang mga spread batay sa inaasahang pagkasumpungin.
• Pagkasumpungin na sanhi ng kaganapan: Halimbawa, ang epekto ng FOMC na mga pagpupulong sa rate ng pederal na pondo.
• Mabilis na pagsusuri at pagkilos: Dapat mabilis na suriin ng mga gumagawa ng merkado ang mga balita at ayusin ang mga order upang maiwasan ang mga pagkalugi.

Mga halimbawa ng mga kaganapan sa pagmamaneho sa merkado

• FOMC Pagpupulong: Isang mahuhulaan na kaganapan na may alam na oras ng pagpapalabas at kinalabasan.
• Epekto sa social media: Ang mga hindi inaasahang kaganapan gaya ng mga tweet mula sa mga maimpluwensyang tao (hal., Trump, Elon Musk) ay maaaring humantong sa
• Halimbawa ng Dogecoin: Ang mga tweet ni Elon Musk tungkol sa cryptocurrency ay maaaring humantong sa mabilis na pagbabago ng presyo, na naglalarawan ng agarang reaksyon sa merkado na hinimok ng social media.

Ang unpredictability at kahirapan ng interpretasyon ng balita.

Mga hamon ng pagsusuri ng sentimento sa merkado ng digital asset

Epekto ng Influencer sa Mga Digital na Asset

• Unpredictability: Ang mga tweet mula sa mga influencer tulad ng Elon Musk ay maaaring mabilis na makaapekto sa mga presyo ng cryptocurrency.
• Pinagkakahirapan ng interpretasyon: Ang mga tweet ay kadalasang subjective at nangangailangan ng matalinong interpretasyon.
• Bilis ng pagsusuri: Masyadong mabagal ang paghatol ng tao para sa real-time na kalakalan; kailangan ang mga awtomatikong solusyon.

Ang ebolusyon ng mga pamamaraan ng pagsusuri ng damdamin

• Diskarte sa diksyunaryo: Isang paunang diskarte gamit ang bokabularyo ng industriya (hal. bearish, bullish) at pagtutugma ng pattern.
• Mga Limitasyon: Limitado ang bokabularyo at mahinang pagpoproseso ng konteksto (hal. maling pagbibigay-kahulugan sa “malaking maikling kaganapan sa pagpuksa” bilang negatibo).

Pagtutugma ng istatistika at machine learning

• Lumipat sa pinangangasiwaang pag-aaral gamit ang mga modelo tulad ng Naive Bayes o FinBERT.
• Mga Bentahe: Mas mahusay na paglalahat at pag-unawa sa konteksto.
• Hamon: Nangangailangan ng malalaking halaga ng may label na data, na nagreresulta sa mataas na gastos at mas mahabang oras sa merkado.

Demand para sa mga advanced na solusyon

• Real-time na pagsusuri: Ang mabilis, awtomatikong pagsusuri ng sentimento ay kailangan para makasabay sa mga paggalaw ng market.
• Context-aware: Dapat na tumpak na bigyang-kahulugan ng mga solusyon ang konteksto upang makapagbigay ng maaasahang pagsusuri ng damdamin.

Pag-unlad sa Pagsusuri ng Sentimento ng Malalaking Modelo ng Wika (LLM)

Multimodal na pangangatwiran batay sa Transformer

• Ang makabagong LLM (gaya ng LLM, Clock, at DeepSeek) ay nagbibigay-daan sa pagsusuri ng sentimento na may kamalayan sa konteksto na may kaunting fine-tuning.
• Kakayahang mangatwiran tungkol sa mga partikular na ulo ng balita at mga kaganapang partikular sa domain (gaya ng mga kahinaan sa protocol).

Inference performance optimization

• Para sa mga dynamic na market na may maikling oras na mga window, ang real-time na pagsusuri ng sentimento ay mahalaga.

Proseso ng pag-optimize:

• 2025 taon 2 buwan: 80 output bawat segundo gamit ang SageMaker Jumpstart para sa paunang deployment sa P5EN instance
• 2025 taon 4 buwan: Lumipat sa VLLM upang ipatupad ang multi-label na hula, halo-halong katumpakan, linear na atensyon at distributed parallelism, pagpapabuti ng pagganap na lampas sa marka.
• 2025 taon 8 buwan: Palitan ang VLLM ng SGLN, na gumagamit ng speculative decoding upang makamit ang 180 output token bawat segundo.
• Tumaas sa 140 output token bawat segundo.

Ang kahalagahan ng pag-optimize

• Mataas na dami ng kaganapan: 10,000 mga kaganapan kada minuto, na may bawat millisecond ng inference latency na naipon.
• Dobleng lakas sa pagpoproseso: Palakihin ang mga marka ng output bawat segundo mula 80 hanggang 180, pagdodoble ng pagproseso ng pagpasok ng balita sa parehong window ng oras.
• End-to-end latency: Makamit ang mas mababa sa 10 segundo at iwasan ang mga salungat na pagpipilian.

Pangkalahatang-ideya ng pagpapatupad

• Unang Araw na Arkitektura: Paunang pag-setup at mga bahagi para sa pag-deploy ng na-optimize na solusyon sa pagsusuri ng sentimento.
• 📡 Day 1 Duplicate Processing sa Architecture at Sentiment Analysis

Unang araw na arkitektura

• Pag-ingest ng balita: Ang stream ng balita API ay naglilipat ng data sa isang X-ray bucket, na nagti-trigger ng function ng Lambda batay sa asset, pagkamadalian, at
• Pag-tag ng metadata: Ang mga function ng Lambda ay nagti-trigger ng mga deepse na modelo upang i-tag ang metadata sa mga database gaya ng Aurora Prospects at Sentiment Classification.
• Pakikipag-ugnayan ng User: Ang QCLI terminal ay nagbibigay-daan sa mga mangangalakal at analyst na mag-query ng mga mapagkukunan ng balita para sa partikular na impormasyon gamit ang LLM (gaya ng Clock) para sa partikular na impormasyon sa OpenSearch).

(hal. ang pinakabagong balita sa mga anunsyo ni Trump o mga tweet ni Elon Musk).

Paulit-ulit na mga Hamon sa Crypto News

• Problema: Ang parehong balita ay iniulat nang maraming beses sa iba't ibang mga platform (Twitter, Reddit, Discord, Telegram) sa loob lamang ng ilang minuto.
• Gastos at Pagkaantala: Ang pagpoproseso sa bawat duplicate sa pamamagitan ng mahal na LLM ay nagdaragdag ng gastos at pagkaantala.

Duplicate na pipeline

• Hakbang 1: Pag-embed

Ang mga pag-embed ay kinukuwenta sa Lambda gamit ang isang modelo ng pag-embed tulad ng VGEM3.

• Hakbang 2: Pagsusuri ng pagkakatulad:

Kung pagkakatulad > 0.75: Markahan bilang duplicate at ipasok sa duplicate na set sa OpenSearch para maiwasan ang pagproseso. Kung pagkakatulad < 0.5: Marahil kakaiba; tingnan ang mga natatanging koleksyon sa OpenSearch para sa makasaysayang balita.

• Hakbang 3: Pagsusuri:

Kung talagang isa lang, magsagawa ng malapit sa real-time na mga pagtataya, magpakalat ng mga rekomendasyon sa pagpapalawak, mga pagtatasa sa epekto ng asset at mga probabilidad ng paggalaw ng presyo.

• Hakbang 4: Bumuo ng ulat ng pagtataya:

Magpadala ng mga ulat sa channel ng pagpili ng trader deck para makapagpasya ang mga tao sa mga aksyon. Fine-tune embed

• Maaaring hindi mahawakan ng mga generic na modelo ng pag-embed ang mga duplicate na partikular sa pag-encrypt nang mahusay.
• Ang kahalagahan ng fine-tuning: Pagganap ng box BGEM3 sa libu-libong naka-encrypt na mga pares ng dokumento ng query ng balita sa pamamagitan ng scatterplots.

Fine-tuning na pag-embed at proxy architecture

Paunang scatter plot:

• Mga berdeng tuldok: Dobleng mga artikulo ng balita na may mataas na mga marka ng pagkakatulad (> 0.75).
• Mga pulang tuldok: hindi duplicate na mga artikulo ng balita na may mababang marka ng pagkakatulad (< 0.5).
• Malabo na gitna (kahel): magkakapatong sa pagitan ng 0.5 hanggang 0.75, na nagpapahiwatig ng hindi magandang paghihiwalay.

Pagkatapos ng fine-tuning BGEM3:

• Pagkatapos ng fine-tuning sa libu-libong may label na mga artikulo ng balita sa crypto, mayroong malinaw na paghihiwalay sa pagitan ng berde at pulang tuldok.
• Malinaw na paghihiwalay sa pagitan ng 0.3 hanggang 0.6 na mga marka ng pagkakatulad, na inaalis ang malabo na mga gitna.
• Pinong-pinong maliit na modelo ng pag-embed na may 5.6 bilyong parameter.

Arkitektura ng ahente at agarang engineering

• Walang kinakailangang fine-tuning LLM; sapat na ang pahiwatig na proyekto.

Ang kapangyarihan ng arkitektura ng ahensya:

• Hierarchical task decomposition gamit ang isang pangkalahatang modelo ng pangangatwiran tulad ng Cock.
• Nakatuon sa pag-embed ng layer para sa cost-effectiveness at mas mabilis na oras sa market.
• Tanggalin ang bias sa pamamagitan ng arkitektura.
• Turuan ang system na mangatwiran tungkol sa mga bagong kaganapan.

Mabilis na demo

• Trader Deck: Mga channel ng balita na ipinapakita sa kanan.
• Kaliwa: Pag-stream ng balita na nasuri sa pamamagitan ng pipeline.
• Halimbawa:

SEC File: sinuri ngunit hindi ipinadala sa mga mangangalakal dahil hindi ito nakakaapekto sa pamilihan. Pangkalahatang Balita: Inuri bilang walang epekto. Maimpluwensyang balita: tulad ng mga tweet ni Trump tungkol sa pagiging masungit ng China, ay natukoy na may epekto at ipinadala sa mga mangangalakal upang matukoy ang mga pagsasaayos ng pagkalat.

Mga pangunahing punto

• Gumamit ng proxy architecture sa halip na fine-tuning.
• Hierarchical task decomposition gamit ang isang pangkalahatang modelo ng pangangatwiran.
• Espesyal na layer ng pag-embed para sa cost-effective at mas mabilis na mga resulta.
• Lumalahok ang mga tao sa mga loop ng feedback ng trader upang patuloy na mapabuti ang system.
• 24/7 Real-time na saklaw, pangangasiwa ng tao.