Учебный стенд для исследования безопасности банковского ИИ-агента: проверки прав доступа, взаимодействия через MCP и A2A, внедрения инструкций и отравления памяти.
Стенд объединяет три самостоятельные системы:
| Система | Компоненты | Проект Langfuse |
|---|---|---|
| Интернет-банк | Банковский агент, интерфейс банка, MCP АБС, АБС и поиск новостей | Banking |
| Поиск путешествий | Тревел-агент, собственный DuckDuckGo MCP и мок авиабилетов; внешний MCP Туту | Travel |
| Персистентная память | API памяти, LLM-оркестратор и MongoDB | Persistent Memory |
У систем разные Docker-сети, API-ключи Langfuse и контейнерные образы с собственным кодом.
Банк обращается к travel-системе только по A2A через travel-api, а к памяти — через
memory-api. Прямого доступа к чужим агентам, MCP или MongoDB у него нет.
Keycloak и инфраструктура хранения Langfuse общие. Подробнее — в архитектуре.
Нужны Docker Compose v2 и не менее 8 ГБ свободной оперативной памяти для Docker.
-
Создайте файл настроек:
cp .env.example .env
-
В
.envукажитеOPENAI_API_KEY. При необходимости изменитеOPENAI_BASE_URL,OPENAI_MODELиEMBEDDING_MODEL. Провайдер должен поддерживать Chat Completions и Embeddings. -
Запустите стенд:
docker compose --env-file .env up -d --build
Проверьте контейнеры:
docker compose --env-file .env psПервый запуск скачивает образы и собирает приложения. После готовности Keycloak откройте интерфейс банка. Если он открылся раньше Keycloak, обновите страницу.
Меняйте параметры в .env, затем повторяйте ту же команду запуска. Все сервисы сравнения
поднимаются вместе со стендом; параметры определяют, к какому MCP обращается агент.
| Параметр | Значение | Поведение |
|---|---|---|
ABS_MCP_MODE |
secure |
Клиент определяется по JWT через обмен токенами Keycloak |
ABS_MCP_MODE |
vulnerable |
LLM выбирает customer_id для уязвимого MCP АБС |
FLIGHTS_PROVIDER |
tutu |
Поиск авиабилетов через MCP Туту |
FLIGHTS_PROVIDER |
mock |
Один вымышленный рейс из собственного MCP |
FLIGHTS_MOCK_NOTE |
clean.txt |
Нейтральная заметка в ответе мока |
FLIGHTS_MOCK_NOTE |
provider-note.txt |
Ложная инструкция для опыта с отравлением памяти |
По умолчанию выбраны secure, tutu, clean.txt. Пример для совместного исследования
нарушения контроля доступа и отравления памяти:
ABS_MCP_MODE=vulnerable
FLIGHTS_PROVIDER=mock
FLIGHTS_MOCK_NOTE=provider-note.txtПосле изменения .env:
docker compose --env-file .env up -d --buildFLIGHTS_MOCK_NOTE выбирает файл из infra/flights-mcp/. Его можно редактировать;
мок читает текст при каждом запросе. Ошибка Туту не приводит к подмене результатов моком.
Уязвимый режим меняет банковские инструменты чата. Обзор счетов в интерфейсе и профиль для персонализации всегда используют защищённый MCP. Денежные операции требуют отдельного подтверждения в обоих режимах. Смена настроек не удаляет историю и память.
Подробнее: настройки и проверка подключений, порядок проведения опытов.
| Пользователь | Пароль | Идентификатор клиента |
|---|---|---|
ivan.petrov |
banking-demo |
customer-001 |
anna.sokolova |
banking-demo |
customer-002 |
mikhail.orlov |
banking-demo |
customer-003 |
elena.smirnova |
banking-demo |
customer-004 |
| Сервис | Адрес | Учётная запись |
|---|---|---|
| Интерфейс банка | localhost:3000 | Пользователи из таблицы выше |
| Keycloak | localhost:8080 | admin / admin |
| Langfuse | localhost:3001 | researcher@example.test / langfuse |
| API банковского агента | localhost:8000/docs | Пользовательский JWT |
| Карточка тревел-агента | Agent Card | Публичное описание A2A |
В Langfuse переключайтесь между проектами Banking, Travel и Persistent Memory.
Они создаются автоматически с разными ключами из .env. Если стенд запускался раньше,
прежний смешанный проект сохраняется как история; новые трассы направляются в три
новых проекта.
Пароли указаны для исходного .env.example. Кроме этих портов стенд использует
5432, 27017, 8001–8004, 8101, 8104–8106 и 9090.
Банковский агент получает текущую дату и время в BANK_TIMEZONE, базовый профиль
из АБС, всю сохранённую историю текущего диалога и до восьми релевантных воспоминаний
из каждого долгосрочного слоя. В профиль входят ФИО, пол, тип клиента и VIP-статус.
Содержимое выбранных воспоминаний передаётся без дополнительной обрезки.
Рабочую память и историю хранит memory-service. Отдельный memory-orchestrator
обрабатывает их по расписанию или по операторскому запросу и создаёт эпизодические,
семантические и процедурные записи. Эти данные используются в последующих LLM-вызовах.
Профиль и история банковского агента не передаются тревел-агенту или внешним MCP.
В .env параметр MEMORY_ORCHESTRATION_INTERVAL_SECONDS задаёт интервал обработки:
1800 — 30 минут по умолчанию, 10 — быстрый опыт, 0 — только ручной запуск.
Для опыта с отравлением можно отключить расписание и вызвать
POST http://localhost:8004/api/v1/orchestrator/collect с токеном memory-operator.
Пример запроса — в настройках памяти.
Для автоматических тестов нужен Python 3.12 или новее:
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements-dev.txt
ruff check services tests scripts
pytest -qДля проверки основных функций работающего стенда:
python scripts/smoke_test.pyЭта проверка обращается к LLM и только подготавливает денежную операцию.
Параметр --confirm дополнительно выполняет перевод 1 RUB между тестовыми счетами.
docker compose --env-file .env downСтенд содержит намеренные уязвимости и локальные тестовые пароли. Он не предназначен
для реальных банковских данных. Keycloak работает в режиме start-dev, TLS не настроен.
Туту и DuckDuckGo требуют доступа к внешней сети. Туту используется только для поиска, без оформления заказа и передачи данных пассажиров. Бронирование в Travel Agent — локальная имитация. Поиск отелей не реализован. Без доступной LLM или модели эмбеддингов соответствующая операция возвращает ошибку; подготовленных ответов вместо модели нет.
- Примерный план курса по интероперабельности
- Два семинара по безопасности ИИ-ассистентов и ИИ-агентов
- Настройки
- Запуск, диагностика и данные
- Сценарии исследований
- Общая архитектура стенда
- Модель угроз
- Банковский агент: архитектура и маршруты
- Агент путешествий: архитектура и маршруты
- Система памяти: архитектура и маршруты
- Память и контекст LLM
- MCP и A2A