Песочница (sandbox)

Песочница — технический механизм изоляции, при котором процесс или агент работает внутри контейнера с явно заданными разрешениями: ограниченным доступом к файловой системе, сети, операционной системе и внешним API. Изначально концепция пришла из разработки браузеров и антивирусного ПО; в контексте ИИ-агентов она приобрела особое значение с появлением систем, способных выполнять произвольный код и управлять внешними инструментами.

Технически песочница реализуется через контейнеризацию (Docker, gVisor), виртуальные машины, seccomp-фильтры или специализированные среды выполнения. Агент получает доступ только к заранее одобренным инструментам — например, может читать файлы в определённой директории, но не вносить изменения в хост-систему. Все инструментальные вызовы журналируются и при необходимости проверяются человеком.

По мере того как LLM-агенты получают возможность использовать браузеры, терминал и внешние сервисы, песочница стала обязательным элементом безопасной архитектуры. Без изоляции вредоносный промпт может заставить агента выполнить деструктивные операции — удалить файлы, спровоцировать утечку данных или совершить несанкционированные транзакции.

К 2026 году песочница является стандартом в агентных платформах: Claude Computer Use от Anthropic, Operator от OpenAI и open-source фреймворки (E2B, Modal) предоставляют облачные песочницы с оплатой за время выполнения. Регуляторы ЕС в рамках AI Act рассматривают изолированное выполнение как одну из ключевых мер управления рисками для высокорисковых автономных систем.

Пример

“Компания развёртывает ИИ-агента для обработки клиентских заявок в облачной песочнице E2B: агент может читать CRM-данные и отправлять письма, однако полностью лишён доступа к базе данных платёжных систем.