Risiko keamanan dan batasan sandbox
Mengapa pengaturan agen penting untuk keamanan, dan apa yang dapat dan tidak dapat dilakukan oleh sandbox Managed Agents.
Halaman ini menjelaskan mengapa pengaturan dalam Amankan deployment Managed Agents Anda penting, serta apa yang dapat dan tidak dapat dilakukan oleh sandbox.
Mengapa ini penting
Instruksi tersembunyi dalam konten yang dibaca oleh agen dapat mengarahkan agen tersebut. Hal ini disebut prompt injection (injeksi prompt). Claude secara inheren tahan terhadapnya, tetapi perilaku model bukanlah kontrol keamanan. Pengaturan dalam Amankan deployment Managed Agents Anda membatasi dampaknya jika suatu upaya berhasil.
Claude juga dapat mengambil langkah yang tidak Anda duga saat terus bekerja untuk menyelesaikan tugas yang Anda berikan. Misalnya, Claude mungkin menggunakan alat atau kredensial yang dapat dijangkaunya untuk melewati suatu hambatan. Pengaturan yang sama membatasi apa yang dapat dijangkau oleh langkah semacam itu, dan peninjau offline dapat menandainya setelahnya.
| Apa yang bisa salah | Contoh | Kontrol |
|---|---|---|
| Input yang tidak tepercaya mengarahkan agen | Sebuah tiket memerintahkan agen untuk membatalkan setiap pesanan yang terbuka | Set alat terkecil, input tidak tepercaya dijauhkan dari alat yang kuat, persetujuan untuk tindakan berisiko |
| Kode di dalam sandbox dapat menggunakan kredensial | Skrip yang dijalankan agen karena tertipu mengirimkan kunci agen ke host luar, atau menggunakannya untuk membaca pesanan setiap pelanggan | Kredensial di dalam vault, jaringan terbatas, persetujuan untuk tindakan berisiko |
| Jaringan terbuka memungkinkan data keluar | Perintah bash mengirimkan file ke host luar | Jaringan terbatas, daftar domain web_fetch |
| Claude mengambil langkah yang tidak Anda duga | Untuk melewati suatu hambatan, Claude menggunakan alat atau kredensial yang dapat dijangkaunya | Pengaturan dalam Amankan deployment Managed Agents Anda. Peninjau offline dapat menandai langkah tersebut setelahnya |
Pengaturan ini menurunkan risiko tetapi tidak menghilangkannya, jadi jangan menaruh data di dalam sandbox yang sama sekali tidak boleh keluar darinya. Agen tetap dapat memasukkan data yang boleh dibacanya ke dalam balasannya sendiri atau output alat. Batasi izin kunci di layanan yang menerbitkannya, karena pengaturan ini tidak membatasinya. Pengaturan ini tidak mengamankan alat kustom Anda, server MCP Anda, atau infrastruktur yang Anda hosting sendiri.
Apa yang dapat dan tidak dapat dilakukan oleh sandbox
Managed Agents secara desain menyimpan loop agen, riwayat sesi, dan rahasia vault di luar sandbox. Untuk latar belakang desainnya, lihat Scaling Managed Agents.
| Bagian | Tempat berjalan | Apa yang membatasinya |
|---|---|---|
| Loop agen | Server Anthropic | Set alat, kebijakan izin, dan anggaran yang Anda tetapkan |
bash dan alat file | Sandbox. Di environment cloud, setiap sesi mendapatkan container Linux terisolasinya sendiri | Jaringan environment, set alat, dan kebijakan izin |
web_search dan web_fetch | Server Anthropic | Daftar domain milik alat itu sendiri dan, di environment cloud limited, host yang diizinkan oleh environment. web_fetch juga hanya membuka URL yang sudah muncul dalam sesi |
| Rahasia vault | Di luar sandbox. Kredensial MCP tidak pernah masuk ke dalamnya. Untuk kredensial variabel lingkungan, kode melihat placeholder | Untuk kredensial MCP, URL server MCP yang menjadi tujuannya. Untuk kredensial variabel lingkungan, host yang diizinkan oleh kredensial, lokasi injeksinya, dan host yang diizinkan oleh environment |
| Riwayat sesi | Server Anthropic, hingga Anda menghapus sesi | Kunci API untuk workspace, peran Developer dan Admin di Claude Console, dan penghapusan sesi |
| Alat kustom | Aplikasi Anda | Kode Anda |
Di environment cloud, sesi tidak berbagi status filesystem. Memory store yang dilampirkan ke lebih dari satu sesi akan dibagikan di antara sesi-sesi tersebut.
Batasan-batasan ini tidak saling menggantikan. Misalnya, membatasi host environment tidak menghentikan agen menggunakan kredensial pada host yang Anda izinkan.
Was this page helpful?