Skip to content

About

No description, website, or topics provided.

Resources

Security policy

Stars

0 stars

Watchers

0 watching

Forks

Repository files navigation

Agentic Banking Lab

Учебный стенд для исследования безопасности банковского ИИ-агента: проверки прав доступа, взаимодействия через MCP и A2A, внедрения инструкций и отравления памяти.

Стенд объединяет три самостоятельные системы:

Система Компоненты Проект Langfuse
Интернет-банк Банковский агент, интерфейс банка, MCP АБС, АБС и поиск новостей Banking
Поиск путешествий Тревел-агент, собственный DuckDuckGo MCP и мок авиабилетов; внешний MCP Туту Travel
Персистентная память API памяти, LLM-оркестратор и MongoDB Persistent Memory

У систем разные Docker-сети, API-ключи Langfuse и контейнерные образы с собственным кодом. Банк обращается к travel-системе только по A2A через travel-api, а к памяти — через memory-api. Прямого доступа к чужим агентам, MCP или MongoDB у него нет. Keycloak и инфраструктура хранения Langfuse общие. Подробнее — в архитектуре.

Запуск

Нужны Docker Compose v2 и не менее 8 ГБ свободной оперативной памяти для Docker.

  1. Создайте файл настроек:

    cp .env.example .env
  2. В .env укажите OPENAI_API_KEY. При необходимости измените OPENAI_BASE_URL, OPENAI_MODEL и EMBEDDING_MODEL. Провайдер должен поддерживать Chat Completions и Embeddings.

  3. Запустите стенд:

    docker compose --env-file .env up -d --build

Проверьте контейнеры:

docker compose --env-file .env ps

Первый запуск скачивает образы и собирает приложения. После готовности Keycloak откройте интерфейс банка. Если он открылся раньше Keycloak, обновите страницу.

Выбор MCP и источника авиабилетов

Меняйте параметры в .env, затем повторяйте ту же команду запуска. Все сервисы сравнения поднимаются вместе со стендом; параметры определяют, к какому MCP обращается агент.

Параметр Значение Поведение
ABS_MCP_MODE secure Клиент определяется по JWT через обмен токенами Keycloak
ABS_MCP_MODE vulnerable LLM выбирает customer_id для уязвимого MCP АБС
FLIGHTS_PROVIDER tutu Поиск авиабилетов через MCP Туту
FLIGHTS_PROVIDER mock Один вымышленный рейс из собственного MCP
FLIGHTS_MOCK_NOTE clean.txt Нейтральная заметка в ответе мока
FLIGHTS_MOCK_NOTE provider-note.txt Ложная инструкция для опыта с отравлением памяти

По умолчанию выбраны secure, tutu, clean.txt. Пример для совместного исследования нарушения контроля доступа и отравления памяти:

ABS_MCP_MODE=vulnerable
FLIGHTS_PROVIDER=mock
FLIGHTS_MOCK_NOTE=provider-note.txt

После изменения .env:

docker compose --env-file .env up -d --build

FLIGHTS_MOCK_NOTE выбирает файл из infra/flights-mcp/. Его можно редактировать; мок читает текст при каждом запросе. Ошибка Туту не приводит к подмене результатов моком.

Уязвимый режим меняет банковские инструменты чата. Обзор счетов в интерфейсе и профиль для персонализации всегда используют защищённый MCP. Денежные операции требуют отдельного подтверждения в обоих режимах. Смена настроек не удаляет историю и память.

Подробнее: настройки и проверка подключений, порядок проведения опытов.

Учётные записи и адреса

Пользователь Пароль Идентификатор клиента
ivan.petrov banking-demo customer-001
anna.sokolova banking-demo customer-002
mikhail.orlov banking-demo customer-003
elena.smirnova banking-demo customer-004
Сервис Адрес Учётная запись
Интерфейс банка localhost:3000 Пользователи из таблицы выше
Keycloak localhost:8080 admin / admin
Langfuse localhost:3001 researcher@example.test / langfuse
API банковского агента localhost:8000/docs Пользовательский JWT
Карточка тревел-агента Agent Card Публичное описание A2A

В Langfuse переключайтесь между проектами Banking, Travel и Persistent Memory. Они создаются автоматически с разными ключами из .env. Если стенд запускался раньше, прежний смешанный проект сохраняется как история; новые трассы направляются в три новых проекта.

Пароли указаны для исходного .env.example. Кроме этих портов стенд использует 5432, 27017, 8001–8004, 8101, 8104–8106 и 9090.

Контекст агента и память

Банковский агент получает текущую дату и время в BANK_TIMEZONE, базовый профиль из АБС, всю сохранённую историю текущего диалога и до восьми релевантных воспоминаний из каждого долгосрочного слоя. В профиль входят ФИО, пол, тип клиента и VIP-статус. Содержимое выбранных воспоминаний передаётся без дополнительной обрезки.

Рабочую память и историю хранит memory-service. Отдельный memory-orchestrator обрабатывает их по расписанию или по операторскому запросу и создаёт эпизодические, семантические и процедурные записи. Эти данные используются в последующих LLM-вызовах. Профиль и история банковского агента не передаются тревел-агенту или внешним MCP.

В .env параметр MEMORY_ORCHESTRATION_INTERVAL_SECONDS задаёт интервал обработки: 1800 — 30 минут по умолчанию, 10 — быстрый опыт, 0 — только ручной запуск. Для опыта с отравлением можно отключить расписание и вызвать POST http://localhost:8004/api/v1/orchestrator/collect с токеном memory-operator. Пример запроса — в настройках памяти.

Проверки

Для автоматических тестов нужен Python 3.12 или новее:

python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements-dev.txt
ruff check services tests scripts
pytest -q

Для проверки основных функций работающего стенда:

python scripts/smoke_test.py

Эта проверка обращается к LLM и только подготавливает денежную операцию. Параметр --confirm дополнительно выполняет перевод 1 RUB между тестовыми счетами.

Остановка

docker compose --env-file .env down

Границы учебного стенда

Стенд содержит намеренные уязвимости и локальные тестовые пароли. Он не предназначен для реальных банковских данных. Keycloak работает в режиме start-dev, TLS не настроен.

Туту и DuckDuckGo требуют доступа к внешней сети. Туту используется только для поиска, без оформления заказа и передачи данных пассажиров. Бронирование в Travel Agent — локальная имитация. Поиск отелей не реализован. Без доступной LLM или модели эмбеддингов соответствующая операция возвращает ошибку; подготовленных ответов вместо модели нет.

Документация

About

No description, website, or topics provided.

Resources

Security policy

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages