Trading Innovation: Jefferies' AI Assistant sa Amazon Bedrock (IND3315)

Mga Tala ng Sesyon

Inobasyon sa pangangalakal: Jefferies' AI assistant sa Amazon Bedrock

Panimula

• Pagbuo ng Trade Assistant Agent sa AWS para Malutas ang Mga Hamon sa Data ng
• Front Office
• Naglalayong lutasin ang problema ng pag-access at pagsusuri ng malalaking dami ng data para sa pangangalakal.
• Jefferies at AWS Partnership
• Jefferies: 60 taong gulang na full-service investment bank na may motto na "clients first always".
• Misyon: Tulungan ang mga kliyente na makamit ang pinakamataas na potensyal sa trading, investment banking, at analytics.
• Ang pakikipagtulungan ng AWS ay mahalaga para sa paghimok ng patuloy na pagbabago.
• Mga cloud-native na solusyon sa kabuuan ng Jefferies, kabilang ang fixed income algorithmic trading platform at mga opsyon sa equity trading.
• Pagpapakilala ng Jeff AI, isang enterprise-grade AI platform para sa generative at ahente AI.
• Sinusuportahan ng Jeff AI ang smart retrieval, pagbubuod ng dokumento, at mga automated na daloy ng trabaho.

Pandaigdigang Algorithmic Suite ng Jefferies

• Mga electronic trading algorithm at serbisyo na inaalok ng investment bank Jefferies sa mga institusyonal na kliyente nito.
• I-automate ang mga diskarte sa pangangalakal at tulungan ang mga kliyente na magsagawa ng malalaking order nang mahusay habang pinapaliit ang epekto sa merkado.
• Mga algorithm
• VWAP (Volume-Weighted Average Price): Isang diskarte upang magsagawa ng kalakalan alinsunod sa average na presyo ng merkado na natimbang sa dami sa loob ng panahong tinukoy ng user.
• VOLUME (Volume Participation): Isang algorithm na idinisenyo upang lumahok sa merkado na naaayon sa real-time na dami ng market.
• STRIKE (Implementation Shortfall na diskarte): Isang diskarte na nakatuon sa pagliit ng pagkakaiba sa pagitan ng gustong presyo ng pagpapatupad (sa oras ng pagpasok ng order) at ng aktwal na presyong naisakatuparan.
• SEEK (Smart-routing liquidity finder): Isang smart order router na naghahanap ng liquidity sa parehong maliwanag (ipinapakita) at madilim (hindi ipinapakita) na mga lugar ng kalakalan.
• MultiScale: Nagbibigay-daan sa mga mangangalakal ng mataas na antas ng kontrol sa mga pagpapatupad at pagtugon sa pagkasumpungin ng merkado.
• Trader: Nagbibigay ng pinahusay na kontrol at kakayahang lumipat ng mga diskarte bilang tugon sa mga kaganapan sa merkado at mga sitwasyon ng pagkatubig.
• Panel: Isa pang pagmamay-ari na algorithm na inaalok sa loob ng suite.
• Blitz: Isang diskarte sa pagpapatupad, malamang na nakatuon sa bilis.
• DarkSeek: Isang partikular na bersyon ng SEEK algorithm na na-optimize para sa mga dark pool ng liquidity.
• Finale: Malamang na isang end-of-day execution algorithm.
• Opener: Malamang na isang market-open execution algorithm.
• Pairs: Mga algorithm para sa mga diskarte sa pangangalakal ng mga pares, na may mga variation tulad ng "Net Returns," "Ratio," at "Risk Arb".
• Patience: Isang algorithm na malamang na idinisenyo para sa hindi gaanong agresibong pagpapatupad, naghihintay para sa mga paborableng kondisyon ng merkado.
• Portfolio: Idinisenyo para sa mahusay na pagpapatupad ng mas malalaking, maraming stock order.
• Post: Malamang na isang algorithm para sa pangangalakal pagkatapos magsara ang pangunahing merkado.
• TWAP (Time-Weighted Average Price): Isang diskarte upang magsagawa ng mga order nang pantay-pantay sa isang tinukoy na panahon upang mabawasan ang epekto sa merkado.

Smart Order Router (SOR)

• Ang Jefferies ay gumagamit ng Smart Order Router (SOR) sa Automated Order Processing (AOP) system
• Sinusuri ang real-time na data ng merkado, pagkatubig, at mga presyo para sa pinakamainam na pagpapatupad
• Naghihiwa ng malalaking order at dinadala ang mga ito nang pabago-bago sa mga maliwanag at madilim na lugar
• Pinaliit ang epekto sa merkado at pinapayagan ang kontrol ng kliyente sa mga ginustong/ibinukod na lugar
• Gumagamit ng conditional order negotiation sa Alternative Trading Systems (ATS) para sa mas magagandang tugma
• Pangunahing diskarte para sa pagkamit ng "pinakamahusay na pagpapatupad" Mga Pangunahing Pag-andar ng
• Jefferies' SOR
• Ina-access ang Liquidity: Kumokonekta sa iba't ibang mga palitan at hindi ipinapakita (madilim) na mga lugar upang mahanap ang pinakamahusay na magagamit na presyo at lalim.
• Dynamic na Pagruruta: Patuloy na sinusubaybayan ang mga kondisyon ng merkado at iniangkop ang pagruruta ng order sa real-time.
• Order Slicing: Hinahati-hati ang malalaking order sa mas maliliit na piraso para sa pagpapatupad sa maraming lugar upang mabawasan ang epekto sa merkado.
• Kontrol ng Kliyente: Nagbibigay-daan sa mga kliyente na tukuyin ang gusto o hindi kasamang mga lugar.
• Kondisyonal na Negosasyon: Maaaring makipagnegosasyon sa mga trade sa ATS na mga platform gamit ang "conditional na imbitasyon" para sa potensyal na mas mahusay na single-price fill.
• Pagsasama sa Algorithms: Gumagana sa sarili o kliyenteng algorithm ng Jefferies' upang pamahalaan ang mga order ng magulang at iruta ang mga order ng bata nang mahusay. Jefferies' SOR na dokumentasyon.
• https://www.jefferies.com/wp-content/uploads/sites/4/2023/12/SMBC_SNET_SORDP_E N_v3.0.1_ncfd.pdf Paano Ito Gumagana para sa
• Mga Kliyente
• Pagpasok ng Order: Ang isang kliyente ay nagpapadala ng isang order, na dumadaan sa AOP na mga filter.
• SOR Pagsusuri: Sinusuri ng SOR ang lalim ng merkado, pagkatubig, presyo, at pagkasumpungin.
• Pinakamainam na Pagpapatupad: Niro-ruta nito ang mga segment ng order sa pinakamagandang lugar (maliwanag/madilim) para sa pinakamahusay na posibleng resulta, kadalasang naghihiwa ng malalaking order.
• Pinag-isang Ulat: Pinagsama-sama ang mga resulta upang ipakita ang isang solong, pinag-isang pagpapatupad sa kliyente.
• Transparency: Makikita ng mga kliyente kung paano pinangangasiwaan ang kanilang mga order at maaaring mag-opt out sa ilang partikular na feature tulad ng conditional negotiation.

Napuno ng solong-presyo

• Isang partikular na uri ng mekanismo ng pangangalakal na kilala bilang Single Price Method (o tawag sa auction) na ginagamit ng mga palitan,
• ang resulta ng isang uri ng order tulad ng isang Fill or Kill (FOK) na order, na nangangailangan ng kumpletong pagpapatupad sa isang partikular na presyo.
• Single Price Method (Call Auction)
• Ang Single Price Method ay isang mekanismo ng pangangalakal na ginagamit ng ilang stock exchange, kadalasan sa panahon ng pagbubukas o pagsasara ng mga sesyon ng merkado, o para sa mga partikular na kaganapan tulad ng Mga Paunang Pampublikong Alok (IPOs).
• Paano ito Gumagana:
• Ang lahat ng mga order sa pagbili at pagbebenta ay kinokolekta sa isang takdang panahon. Sa isang tinukoy na oras, ang isang solong "clearing price" ay tinutukoy na nagbibigay-daan sa maximum na bilang ng mga pagbabahagi na ikakalakal.
• Layunin:
• Ang pamamaraang ito ay nakakatulong na bawasan ang pagkasumpungin ng presyo at tinitiyak na ang pinakamataas na posibleng dami ng mga order ay isasagawa sa isang patas, pare-parehong presyo, na lumilikha ng antas ng paglalaro para sa lahat ng mga kalahok anuman ang laki ng order. Mga Punan ng Isang Presyo para sa Mga Partikular na Uri ng Order
• Ang "single-price fill" ay ang kinalabasan ng ilang partikular na kundisyon ng order na idinisenyo upang matiyak na ang isang buong order ay isasagawa sa isang partikular na punto ng presyo.
• Fill or Kill (FOK) Mga Order:
• Ang isang Fill or Kill na order ay tumutukoy na ang buong dami ng order ay dapat na itugma kaagad at ganap sa itinalagang presyo ng limitasyon o mas mahusay; kung hindi, ang buong order ay awtomatikong nakansela.
• Advantage:
• Tinitiyak nito na ang isang malaking bloke ng mga pagbabahagi ay kinakalakal sa isang solong, alam na presyo, pinapaliit ang pagkagambala sa merkado at pag-iwas sa bahagyang pagpuno sa mga potensyal na hindi paborableng mga presyo sa pabagu-bagong mga merkado.

Ini-deploy ang GenAI para sa Business User Engagement

• Paggamit ng chatbot upang mabigyan ang mga mangangalakal ng AI-mga insight na hinihimok sa mga pattern ng kalakalan at pagkatubig ng merkado.
• Layunin na bawasan ang workload ng analyst at developer.
• AWS bilang kasosyo sa teknolohiya at innovation catalyst para sa Jefferies.
• Trade Assistant System
• Mga kahirapan sa pag-access ng mga real-time na insight dahil sa malawak at pira-pirasong data.
• Kailangan ng end-to-end na visibility at pinagsama-samang data para sa mga insight.
• Ang mga mangangalakal ay kulang sa oras at mga kasanayan sa coding upang makabuo at mapanatili ang mga kinakailangang sistema.
• Solusyon: Trade Assistant upang bawasan ang mga hadlang at magbigay ng real-time na analytics ng pag-uusap sa GenAI.
• Mga Kakayahang Solusyon at Arkitektura
• Dali ng paggamit at mabilis na pag-access sa mga insight bilang pangunahing mga driver ng disenyo.
• Mga query ng mangangalakal na naproseso ng LLM (Titan embeddings model) upang makabuo ng SQL na mga query.
• Data query at mga sagot na ibinigay sa iba't ibang mga format (teksto, mga talahanayan, mga tsart).
• Interface ng analytics ng pag-uusap para sa pag-explore ng mga insight sa data.
• Pagpapanatili ng konteksto ng pakikipag-usap para sa mga nauugnay na insight at mungkahi.
• Paggamit ng mga ahente ng Strands para sa pagbuo at pagpapatakbo ng mga ahente ng AI na may kaunting code.
• Kakayahang pumili ng iba't ibang LLMs sa pamamagitan ng Amazon Bedrock habang nagbabago ang system.
• Mga advanced na security guardrail at row-level data entitlement.
• Mga kontrol sa matalinong pag-access upang maiwasan ang hindi awtorisadong pag-access sa sensitibong data.
• Pag-log ng lahat ng pag-uusap na may mga audit trail para sa pagsunod.

Pangkalahatang-ideya ng Arkitektura

Pagkakatatag ng Koneksyon

• Kumokonekta ang trade assistant sa Jefferies' on-premises business intelligence platform, GFM, sa pamamagitan ng AWS Direct Connect. Tinitiyak nito ang isang secure at high-speed na koneksyon.
• Pagpapatunay ng User:
• Kapag ang isang mangangalakal ay nag-log in sa GFM, ang kanilang mga kredensyal ay na-verify upang matiyak na mayroon silang mga tamang karapatan at maaari lamang ma-access ang awtorisadong data.
• Ang AWS EKS (Elastic Kubernetes Service) ay ginagamit upang bumuo ng mga serbisyo para sa pag-authenticate ng mga user at paglikha ng mga session ng user.
• User Session at Query Agent Invocation:
• Kapag na-authenticate, ang kahilingan ay iruruta sa mga serbisyo ng bot, na nagtatatag ng session ng user at humihiling sa ahente ng query.
• Ang ahente ng query ay isang ahente ng Strands na nakikipag-ugnayan sa maraming tool upang matukoy ang pinakamahusay na mapagkukunan ng data upang sagutin ang tanong ng mangangalakal.
• Pagpaplano at Pagpapatupad ng Query:
• Ginagamit ng ahente ng Strands ang mga advanced na kakayahan sa pangangatwiran ng modelong Titan embeddings upang magplano at magsagawa ng mga hakbang sa query.
• Amazon Bedrock knowledge base ay ginagamit bilang vector store.
• SQL Pagbuo at Pagpapatupad ng Query:
• "Ibigay ang breakdown ng sektor para sa pangangalakal sa US ngayon."
• Tinutukoy ng ahente ng query ang tamang pinagmumulan ng data at bumubuo ng isang SQL na query.
• Ang serbisyo ng tagapagpatupad ng query ay nagpapatakbo ng query na SQL laban sa mga nauugnay na pinagmumulan ng data, na naka-host sa GridGain, isang in-memorya na grid ng data para sa instant data retrieval.
• Visualization ng Data:
• Pinipili ng LLM (Malaking Modelo ng Wika) ang naaangkop na visualization para sa data.
• Kino-convert ng Python library ang raw data sa mga visual na kwento, chart, talahanayan, at insight, na pagkatapos ay ipinapakita sa screen gamit ang markdown na UI library.

Epekto sa mga Mangangalakal

• Pinasimpleng Karanasan: Ang pakikipag-usap na analytics na sinamahan ng mga rich visualization ay mahusay na natanggap ng mga mangangalakal.
• Real-Time na Pag-access sa Data: Mabilis na makakakuha ang mga mangangalakal ng mga breakdown ng sektor, data ng kalakalan, at iba pang mga insight sa real-time.
• Intuitive Interface: Ang widget na UI ay nagpapahintulot sa mga mangangalakal na natural na makipag-ugnayan sa trade assistant, na nagta-type ng mga tanong sa simpleng wika.

Mga Susunod na Hakbang para sa Jefferies

• Pinahusay na Pag-andar: Patuloy na pahusayin ang mga kakayahan ng ahente ng Strands at ang mga pinagbabatayan na modelo upang makapagbigay ng mas tumpak at nauugnay na mga insight.
• Pinalawak na Mga Pinagmumulan ng Data: Isama ang mga karagdagang mapagkukunan ng data upang magbigay ng mas komprehensibong pagtingin sa landscape ng kalakalan.
• Mga Pagpapahusay sa Karanasan ng User: Higit pang pinuhin ang UI upang gawin itong mas intuitive at madaling gamitin.
• Scalability: Tiyaking makaka-scale ang platform para ma-accommodate ang lumalaking bilang ng mga user at tumataas ang dami ng data.

Mga Benepisyo na Naobserbahan sa Beta Rollout

Pagtitipid sa Oras

• Isang 80% na pagbawas sa oras na ginugol sa mga nakagawiang gawaing analitikal.
• Tumaas na kapasidad ng pagbuo ng kita dahil sa pagtitipid sa oras.
• Mataas na Rate ng Pag-ampon:
• Ipinapahiwatig ang pagiging epektibo ng solusyon at kasiyahan ng gumagamit.
• Pinababang Pasan sa Teknolohiya:
• Nabawasan ang pangangailangan para sa mga custom na dashboard sa maraming prototype at trading desk.
• Binabawasan ng mga kakayahan sa self-service ang pagdepende sa mga mapagkukunan ng teknolohiya.
• Democratized Data Access:
• Maaaring mag-query ang mga user ng negosyo ng milyun-milyong talaan ng data ng equity trading gamit ang natural na wika.
• Real-time na pagtuklas ng mga pattern ng kalakalan at mga pagkakataon sa merkado.
• Architecture na Matibay sa Hinaharap:
• Pag-aaral sa sarili at patuloy na pagpapabuti.
• Madaling isinasama sa mga kasalukuyang BI na platform at imprastraktura.

Mga Plano sa Hinaharap

Pandaigdigang Diskarte sa Paglunsad

• Pagpapalawak ng Maramihang Produkto: Palawakin ang trade assistant nang higit sa mga equities upang suportahan ang magkakaibang mga prototype at trading desk.
• Pandaigdigang Deployment: Magdala ng mga pakinabang ng kahusayan sa mga internasyonal na operasyon ng kalakalan.
• Pinahusay na Pamamahala: Palakasin ang mga kakayahan sa observability at audit trail upang matugunan ang mga kinakailangan sa regulasyon.
• Advanced na Pagbuo ng Code:
• Paglipat mula sa UI-based na mga tool sa Java patungo sa sopistikadong LLM-driven na pagbuo ng code para sa mas magandang karanasan ng user.
• Pangkalahatang AI API:
• Layunin na gawing generic na API ang solusyon na magagamit sa buong negosyo sa iba pang larangan ng negosyo.

Mga Pangunahing Pagkatuto

Iwasan ang LLM para sa Visualizations

• Huwag umasa sa LLM upang makabuo ng mga visualization dahil sa panganib ng mga guni-guni.
• Gumamit ng Python library (tulad ng markdown) upang makabuo ng mga visualization para sa mas mahusay na kontrol at pag-minimize ng mga guni-guni.
• Gumamit ng Fast Data Stores:
• Gumamit ng isang in-memory na database upang i-maximize ang bilis ng output ng resulta.
• Bumuo ng LLM Mga Pakikipag-ugnayan sa Python:
• Gumamit ng Python para sa kakayahang umangkop sa pagbuo ng LLM na mga pakikipag-ugnayan, habang ang ibang mga bahagi ay maaaring nasa Java upang mai-port ang umiiral nang code.

Konklusyon

• Ang trade assistant ay nagpakita ng malalaking benepisyo sa beta rollout nito, kabilang ang pagtitipid sa oras, mataas na rate ng pag-aampon, at pinababang pasanin sa teknolohiya.
• Ang mga pangunahing pag-aaral ay binibigyang-diin ang kahalagahan ng pag-iwas sa LLM para sa mga visualization, paggamit ng mabilis na mga data store, at pagbuo ng LLM na mga pakikipag-ugnayan sa Python.