Риски безопасности и границы песочницы
Почему настройки агента важны для безопасности и что песочница Managed Agents может и чего не может делать.
На этой странице объясняется, почему важны настройки из раздела Защита развёртывания Managed Agents, и что песочница может и чего не может делать.
Почему это важно
Скрытые инструкции в содержимом, которое читает агент, могут управлять агентом. Это называется «prompt injection» (внедрение подсказок). Claude изначально устойчив к нему, но поведение модели не является средством контроля безопасности. Настройки из раздела Защита развёртывания Managed Agents ограничивают последствия, если попытка окажется успешной.
Claude также может предпринять шаг, которого вы не ожидали, продолжая работу над поставленной вами задачей. Например, он может использовать доступный ему инструмент или учётные данные, чтобы обойти препятствие. Те же настройки ограничивают то, к чему может получить доступ такой шаг, а офлайн-проверяющий может впоследствии отметить его.
| Что может пойти не так | Пример | Средства контроля |
|---|---|---|
| Недоверенные входные данные управляют агентом | Обращение в поддержку предписывает агенту отменить все открытые заказы | Минимальный набор инструментов, недоверенные входные данные изолированы от мощных инструментов, одобрение рискованных действий |
| Код в песочнице может использовать учётные данные | Скрипт, который агента обманом заставили запустить, отправляет ключ агента на внешний хост или использует его для чтения заказов всех клиентов | Учётные данные в хранилищах, ограниченная сеть, одобрение рискованных действий |
| Открытая сеть позволяет данным утечь | Команда bash отправляет файл на внешний хост | Ограниченная сеть, список доменов web_fetch |
| Claude предпринимает шаг, которого вы не ожидали | Чтобы обойти препятствие, он использует доступный ему инструмент или учётные данные | Настройки из раздела Защита развёртывания Managed Agents. Офлайн-проверяющий может впоследствии отметить этот шаг |
Эти настройки снижают риск, но не устраняют его, поэтому не помещайте в песочницу данные, которые никогда не должны её покидать. Агент по-прежнему может включить данные, которые ему разрешено читать, в свой ответ или вывод инструмента. Ограничивайте разрешения ключа в сервисе, который его выдал, поскольку эти настройки их не ограничивают. Настройки не защищают ваши пользовательские инструменты, ваши серверы MCP или вашу самостоятельно размещаемую инфраструктуру.
Что песочница может и чего не может делать
Managed Agents по замыслу хранит цикл агента, историю сессий и секреты хранилища вне песочницы. Подробнее о принципах проектирования см. в статье Scaling Managed Agents.
| Компонент | Где выполняется | Что его ограничивает |
|---|---|---|
| Цикл агента | Серверы Anthropic | Заданные вами набор инструментов, политики разрешений и бюджет |
bash и файловые инструменты | Песочница. В облачной среде каждая сессия получает собственный изолированный контейнер Linux | Сетевые настройки среды, набор инструментов и политики разрешений |
web_search и web_fetch | Серверы Anthropic | Собственный список доменов инструмента и, в облачной среде limited, разрешённые хосты среды. Кроме того, web_fetch открывает только URL-адреса, которые уже появлялись в сессии |
| Секрет хранилища | Вне песочницы. Учётные данные MCP никогда в неё не попадают. Для учётных данных в виде переменной окружения код видит заполнитель | Для учётных данных MCP — URL сервера MCP, для которого они предназначены. Для учётных данных в виде переменной окружения — хосты, разрешённые для этих учётных данных, место их внедрения и разрешённые хосты среды |
| История сессий | Серверы Anthropic, пока вы не удалите сессию | Ключи API рабочего пространства, роли Developer и Admin в Claude Console и удаление сессии |
| Пользовательские инструменты | Ваше приложение | Ваш код |
В облачной среде сессии не разделяют состояние файловой системы. Хранилище памяти, подключённое к нескольким сессиям, является общим для них.
Эти ограничения не заменяют друг друга. Например, ограничение хостов среды не мешает агенту использовать учётные данные на разрешённом вами хосте.
Was this page helpful?