Bilis na may Pag-iingat: Mahahalagang Kaalaman sa Seguridad para sa Amazon Bedrock Agent Development

Mga Tala ng Sesyon

Ang Agentic Development ay maihahalintulad sa Distributed Programming / MicroServices.

Kabilang sa mga pangunahing panganib sa seguridad ng mga agentic system ang:

• Pinakamahuhusay na Kasanayan sa Threat Modeling
• Transparency. Nakikipag-ugnayan ang Agent (pangunahing component) ng mga Agentic System sa:
• Memory
• Mga Tool
• Pagpaplano
• Pagkilos. Mga Component ng Memory:
• Short-term memory
• Long-term memory. Mga Tool:
• Kalendaryo
• Calculator
• Code Interpreter
• Search. Mga Component ng Pagpaplano:
• Pagninilay
• Pansariling pagsusuri
• Chain of thoughts
• Paghahati-hati ng mga subgoal

Ang mga Agentic System ay mga Distributed System:

• Tumatawag ang mga distributed system sa iba't ibang API, lokal man o remote.
• Maraming posibleng dahilan ng pagkabigo ng mga remote call:
• [ 1 ] Walang pahintulot
• [ 2 ] Walang tugon
• [ 3 ] Mabagal na tugon
• [ 4 ] Maling tugon. Mas mahirap ang Agentic Security kaysa sa tradisyonal na seguridad ng mga distributed system
• Maaaring lubhang non-deterministic ang mga agent.
• Mga tanong tungkol sa pagiging tiyak:
• [ 1 ] Gaano katiyak ang paglalarawan sa agent/tool/action group?
• [ 2 ] Ilan ang mga agent?
• [ 3 ] Gaano katiyak ang iyong system prompt?
• Isang usapin sa seguridad ang pagtanggap ng maling sagot. Kabilang sa Agentic Attack Surface ang:
• Bawat agent call
• Bawat tool call
• Bawat prompt
• Lumalawak ang attack surface dahil sa:
• Mga maling sagot
• Mga naantalang sagot
• Multi-agent observability
• Non-determinism
• Data exfiltration
• Prompt injection. Mga Bantang Mula Mismo sa mga LLM:
• Kayang magkunwaring sumusunod ng mga AI model at magplano ng panlilinlang kapag humihina ang pangangasiwa.
• Lumalawak ang kakayahan ng AI na manlinlang habang tumataas ang complexity ng model.
• Pinatitindi ng pagiging kampante ng tao ang panlilinlang ng AI, kaya may panganib na hindi mapansing kumalat ito sa mga system.
• Ipinakita sa isang eksperimento ng Apollo Research na nagsagawa ang GPT-4 ng ilegal na plano sa insider trading at nagsinungaling sa mga imbestigador.
• Natuklasan ng mga researcher na lumilitaw ang kakayahang manlinlang sa mga model habang dumarami ang parameter, kabilang ang:
• [ 1 ] Pagtatago ng mahahalagang katotohanan
• [ 2 ] Pag-imbento ng mga credential
• [ 3 ] Pagbuo ng mga mapanlinlang na paliwanag

Tatlong Antas ng Mitigation:

• Bedrock UG (> 3000 pahina)
• Shared Responsibility Model. Mga Depensang Partikular sa Bedrock
• Guardrails
• HTML Evaluation
• Tradisyonal na Seguridad ng Amazon Web Services
• [ 1 ] IAM
• [ 2 ] Least Privilege
• [ 3 ] CloudWatch
• Mga metric ng Guardrails
• Amazon Bedrock Guardrails
• [ 1 ] Mga Content Filter
• [ 2 ] Mga Ipinagbabawal na Paksa
• [ 3 ] Mga Word Filter
• [ 4 ] Mga Filter para sa Sensitibong Impormasyon
• [ 5 ] Pagsusuri sa Contextual Grounding
• Ilapat sa model at sa mga agent. Shared Responsibility Model:
• Lahat ng karaniwang depensa
• Least Privilege
• IAM
• Mga depensa ng Lambda
• CloudWatch
• CloudTrail