Для обеспечения безопасности при настройке AI‑агента или AI‑операции в ELMA Cortex можно подключить два инструмента, которые можно использовать по отдельности или совместно:
- проверки Guardrails — позволяют убедиться, что запросы пользователя и ответы AI‑агента или AI‑операции не нарушают заданные политики проверки, чтобы:
- останавливать действия, угрожающие безопасности — блокировать запросы и ответы, содержащие корпоративные секреты, попытки получить запрещённые данные и системные инструкции;
- повышать достоверность ответов от искусственного интеллекта — ограничивать запросы, для которых агент или операция не предназначены, чтобы не предоставлять пользователю некорректную информацию;
- маскирование чувствительных данных для языковой модели — предоставляет защиту от утечки информации с помощью замены данных в запросах на условные значения или обезличенные токены. При необходимости можно настроить восстановление данных в ответе для пользователя.
Совместное использование проверок Guardrails и маскирования
Если вы настроили для AI‑агента или AI‑операции одновременно проверки Guardrails и маскирование чувствительных данных, они применяются к запросам и ответам при каждом взаимодействии с компонентом. Рассмотрим, в каком порядке они используются и как взаимодействуют друг с другом:
- В запросе маскируются чувствительные данные.
- Запрос с замаскированными данными анализируется с помощью проверок Guardrails, настроенных для входного этапа. Для отдельных проверок можно настроить обработку текста без маскирования.
- Если проверки пройдены, запрос отправляется на обработку языковой модели.
- Ответ модели анализируется с помощью проверок Guardrails, настроенных для выходного этапа.
- Пользователь получает безопасный ответ. При необходимости замаскированные данные восстанавливаются до исходных значений.