Mula sa "Pagtutugma" tungo sa "Pag-unawa": Pagsasanay sa Personalized AI Search na Pinapagana ng AgentCore Memory

Mga Tala ng Sesyon

Paghahanap

Daloy ng Arkitektura ng Search Engine

Input:

• Mga Paraan ng Query Retrieval (mula sa Query):
• Lexical matching batay sa inverted index
• Collaborative filtering batay sa item
• Retrieval batay sa embedding Yugto ng Pagsasama: Pinagsasama ang mga output mula sa tatlong paraan ng retrieval upang maging:
• Hindi nakaayos na set ng mga produkto na walang duplikasyon Mga Yugto ng Ranking:
• Paunang ranking
• Ranking ayon sa kaugnayan
• Ranking Mga Karagdagang Input sa Mix-Ranking:
• Advertising
• Content media Huling Yugto ng Ranking:
• Mix-ranking —- Arkitektura ng system para pahusayin ang pagtutugma ng produkto gamit ang semantic matching Input:
• Mga Component ng Query Matching:
• Behavioral Data
• Pagtutugma ng mga Keyword
• Daloy ng Data sa Semantic Matching:
• Ipinapasa ang Query sa Keywords Matching at Semantic Matching
• Nagbibigay ang Behavioral Data ng behavioral signal sa Ranking
• Bumubuo ang Keywords Matching at Behavioral Data ng hindi nakaayos na set ng mga tugma
• Nagbibigay ang Semantic Matching ng semantic similarity score sa Ranking Yugto ng Pagproseso:
• Output ng Ranking:
• Nakaayos na listahan ng mga produkto —- Daloy ng Proseso ng Workflow ng LLM Agent:
• Query -->LLM -->Plano
• Plano -->LLM -->Mga Aksyon
• Mga Aksyon -->"Kumpleto na ba ang plano?" (Punto ng Pagpapasya)
• Kung "oo" -->LLM -->Tapusin ang sagot
• Kung "hindi" -->Bumalik sa "Mga Aksyon" (sa pamamagitan ng isang hakbang ng LLM) Lohika ng Pagpapasya:
• Gumagamit ng LLM upang matukoy kung kumpleto na ang plano. Mga Pagkakaiba 01 Tradisyonal na Paghahanap
• Umaasa sa pagtutugma ng keyword
• Ranking ayon sa bigat ng link ng webpage
• Layuning mabilis na makakuha ng napakaraming impormasyon 02 AI Search
• Semantikong pag-unawa
• Inilalagay sa vectors + keywords ang kaugnay na impormasyon
• Binubuo ng malalaking model ang impormasyon
• Layuning tumpak na sagutin ang mga tanong ng user

Memory

Arkitektura ng LLM na may Context Storage

Mga Pangunahing Component

• User
• Chat APP
• LLM (Walang state)
• Workflow ng Context Storage
• Magpadala ng mensahe (mula User papuntang Chat APP)
• Dalhin ang kumpletong context (mula Chat APP papuntang LLM)
• Ibalik ang tugon (mula LLM papuntang Chat APP)
• I-store ang history (mula Chat APP papuntang Context Storage)
• Ibalik ang resulta (mula Chat APP papuntang User) Nilalaman ng Context Storage
• System Prompt
• Round 1: Tanong ng User
• Round 1: Sagot ng AI
• Round 2: Tanong ng User
• Round 2: Sagot ng AI —- Arkitektura para sa isang agentic system
• gumagamit ng mga LLM upang pamahalaan ang memories at knowledge graphs mula sa mga pag-uusap: Daloy at Extraction ng Data
• Input: Ipinapasok sa system ang mga pag-uusap (mga mensahe).
• Extraction LLM: Pinoproseso ng isang Large Language Model ang mga mensahe upang bumuo ng structured data.
• Mga Output: "Mga bagong memory" at "mga bagong entity at ugnayan". Mga Component ng Storage
• Vector Database: Ini-store ang "umiiral + mga bagong memory" para sa retrieval at mga update.
• Graph Database: Ini-store ang "umiiral + mga bagong entity at ugnayan" para sa mga update. Pag-update at Pamamahala
• Update LLM: Isang pangalawang LLM ang namamahala sa pagbabalik ng mga update ng data sa mga database.
• Mga Function: Pinamamahalaan ang "mga update sa storage" para sa parehong database.
• Mga Operasyon: Kabilang ang mga tahasang aksyong "Add", "Delete", at "Update" para sa naka-store na data. Pangkalahatang Layunin
• Memories ADD: Pinadadali ng buong system ang tuloy-tuloy na pag-store at pamamahala ng context ng pag-uusap at nakuhang kaalaman. —- Mga Component at Kahulugan ng Pinahusay na Context Storage System
• System Prompt: Mga tagubilin o configuration ng system.
• Dialog History: Talaan ng pag-uusap.
• Tool Definitions: Mga available na function para sa AI agent.
• weather_api(): requires location, date
• calculator(): requires expression
• Thinking: Proseso ng pangangatwiran ng agent. Interaksyon sa Memory
• Extraction (mula Thinking papuntang Memory)
• Backfill (mula Memory papuntang Thinking)
• Memory: Pangmatagalan o panandaliang knowledge base. Halimbawang Workflow: "I-query ang lagay ng panahon (Fahrenheit)"
• User: I-query ang lagay ng panahon (Fahrenheit)
• AI: Kailangang tawagin ang weather API
• History ng Paggamit ng Tool:
• Call: weather_api(location='Beijing', date='today')
• Return: {'temperature': 25, 'condition': 'sunny'}
• Call: calculator(expression='25*1.8+32')
• Return: 77 Benepisyo:
• Pangmatagalang retention at mahusay na pamamahala
• Tuloy-tuloy na pag-update ng kaalaman
• Personalized na serbisyo
• Suporta sa mga kumplikadong task
• Pinahusay na kalidad ng interaksyon
• Mula stateless tungong stateful

AgentCore Memory

Amazon Bedrock AgentCore

• Gumamit ng anumang framework at model nang hindi namamahala ng infrastructure; ligtas na bumuo, mag-deploy, at magpatakbo ng mga high-performance Agent at scale. Mga Component
• Runtime
• Memory
• Identity
• Gateway
• Code Interpreter
• Browser Tool
• Observability Pinasimpleng Pamamahala ng Memory System
• Naka-abstract na memory infrastructure
• Batay sa serverless architecture para sa awtomatikong scaling
• Awtomatikong i-store at pamahalaan ang context information ng mga Agent sa maraming session Mga Serbisyong Enterprise-Level
• Magbigay ng nakalaang storage sa bawat customer upang ganap na matiyak ang data privacy
• Magbigay ng encryption protection at regionalized data storage upang matugunan ang enterprise-level security needs Malalim na Customization
• I-customize ang mga memory mode ayon sa mga partikular na scenario ng application
• Magtakda ng mga panuntunan sa extraction ng long-term memory
• Piliin ang naaangkop na model at i-customize ang mga salita sa prompt upang i-optimize ang epekto ng extraction ng long-term memory —- Mga Component ng Agent Memory Agent Core:
• Pangangatwiran ng Agent
• State ng Agent
• Mga Knowledge Component
• Pagtawag sa Tool
• Pagpapakahulugan ng Policy Short-Term Memory:
• Context Window
• History ng Pag-uusap
• History ng Pagtawag sa Tool Long-Term Memory:
• Buod ng mga Event
• Impormasyon sa Profile ng User
• Impormasyon ng Dokumento Mga Koneksyon:
• Storage - sa pagitan ng Agent Core at mga Memory component
• Retrieve - sa pagitan ng mga Memory component at Automatic Memory Retrieval Module
• Automatic Memory Retrieval Module

Arkitektura at mga Benepisyo ng Agent gamit ang Amazon Bedrock AgentCore Memory

Functionality ng Agent

• Awtomatikong hinahati ng intelligent agent ang kumplikadong pangangailangan ng user (hal., "Magrekomenda ng laptop na mas mababa sa 5000 yuan para sa isang estudyante sa unibersidad na nagpapatakbo ng design software") sa maraming magkakasabay na sub-task.
• Mga halimbawa ng sub-task: "Pagsusuri ng scenario ng paggamit ng estudyante sa unibersidad", "Pag-filter ng budget", "Pagtutugma sa requirement sa pagpapatakbo ng software". Mga Benepisyo ng AgentCore Memory
• Umaasa sa mga teknikal na bentahe ng long-term memory ng AgentCore Memory.
• Lubos na pinabibilis ang proseso ng development ng Agent.
• Nagbibigay ng maraming pakinabang sa mga real-world application:
• Lubos na nababawasan ang paggamit ng token para sa matatalinong paghahanap batay sa mga profile ng user.
• Epektibong napapahusay ang accuracy rate ng resulta ng paghahanap.
• Nagbibigay ng malaking pagsulong sa teknikal na competitiveness at cost-effectiveness. Daloy ng Diagram ng System
• Humahantong ang User Query sa Agent Runtime Environment (Strands Agents). Nakikipag-ugnayan ang Strands Agents sa:
• Mga Tool (Retrieval ng Kagustuhan ng User)
• Amazon Bedrock LLM (Nagpoproseso ng Output)
• AgentCore Memory Pinamamahalaan ng AgentCore Memory ang:
• Short Term Memory (Mga Event ng Interaksyon)
• Awtomatikong Memory Extraction
• Long Term Memory (Mga Kagustuhan ng User)
• Nagreresulta ang proseso sa isang Tugon ng Agent para sa user.