ELMA Cortex — это продукт для комплексной интеграции технологий искусственного интеллекта (AI) в вашу компанию. Он использует большие языковые модели для автоматизации работы сотрудников и ускорения рутинных операций, позволяя:
- настроить AI-агентов, которые предоставляют сотрудникам информацию в чате и выполняют действия в системе;
- встраивать AI-операции в бизнес-процессы, интерфейсы и скрипты компании;
- подключать умный поиск по корпоративной базе данных.
Продукт можно использовать для любой редакции и поставки платформы ELMA365. Сервер ELMA Cortex устанавливается в инфраструктуре клиента.
Терминология ELMA Cortex
Рассмотрим основные понятия, связанные с ELMA Cortex:
- Большая языковая модель (Large language model, LLM) — система искусственного интеллекта, способная анализировать и генерировать текст. В ELMA Cortex поддерживаются готовые языковые модели различных провайдеров, а также модели, прошедшие процедуру тонкой настройки;
- Тонкая настройка (Fine-tuning) — адаптация готовой языковой модели для решения определённых задач, в ходе которой модель дополнительно обучается на пользовательском наборе данных;
- Токен — минимальная единица текста, с которой работает языковая модель: слово, часть слова или знак. При использовании модели предоставляется определённое количество токенов, которые расходуются на анализ запросов и формирование ответов;
- Компоненты ELMA Cortex — функции продукта, работающие на основе искусственного интеллекта:
- AI-агенты — виртуальные сотрудники компании, которые выполняют роль ботов‑ассистентов. Пользователи общаются с ними в чате на страницах ELMA365. AI‑агенты дают ответы на запросы на естественном языке, могут обрабатывать данные и выполнять действия в системе.
Например, сотрудник может попросить AI‑агента найти все договоры за прошлый месяц, отсортировать их по сумме и назначить по ним задачи. В дальнейших версиях будет реализована автономная работа AI‑агентов. Они смогут действовать в фоновом режиме без участия пользователей;
- AI-операции — вид специализированных AI-агентов, которые однократно выполняют определённую функцию или задачу. Они позволяют получить предсказуемый результат, так как для них задаётся формат входных и выходных данных — текст или объект JSON. AI‑операцию можно запустить в ходе бизнес-процесса, с формы или страницы, из скрипта с помощью API.
Например, в процессе обработки письма от клиента можно использовать AI‑операцию, чтобы составить его краткое содержание, затем отобразить этот текст в задаче пользователя;
- Умный поиск — позволяет использовать векторный (семантический) поиск, чтобы искать ответы с учётом смысла и контекста запроса. В качестве базы данных можно использовать веб‑сайты, документы, систему Confluence, а также информацию из элементов приложений ELMA365.
Проекты умного поиска подключаются к AI‑агентам и AI‑операциям, чтобы те предоставляли точные данные, полученные из установленных источников. Например, сотрудник может задавать в чате с AI‑агентом вопросы по нормативным документам компании;
- Инструменты — функции, которые агенты и AI‑операции могут вызывать для выполнения расчётов, совершения действий, получения информации и т. д. Возможности каждого агента или AI‑операции определяются подключёнными к ним инструментами. В ELMA Cortex доступны:
В ELMA Cortex можно использовать готовые инструменты, настроить функции для взаимодействия с приложениями и бизнес-процессами ELMA365, а также добавить собственные инструменты, подключив их с помощью MCP‑серверов — например, чтобы получать данные из внешней системы.
Состав продукта ELMA Cortex
Продукт включает в себя две составляющих:
- Сервер ELMA Cortex — устанавливается в инфраструктуре клиента. Представляет собой конструктор, который содержит страницы:
- Агенты;
- AI-операции;
- Умный поиск;
- Инструменты ELMA365 — для настройки пользовательских инструментов, которые позволяют расширить возможности AI‑агентов и AI‑операций при взаимодействии с ELMA365;
- Провайдеры — для подключения провайдеров больших языковых моделей;
- API-ключи — для настройки интеграции с ELMA365 или внешней системой.
- Решение Интеграция с ELMA Cortex — предоставляется по запросу, включает в себя одноимённый модуль, который включает:
- настройку интеграции с сервером ELMA Cortex;
- настройку доступа пользователей к AI‑агентам;
- виджет чата с AI‑агентами — автоматически отображается на страницах для пользователей, которые имеют доступ хотя бы к одному AI‑агенту;
- виджет Вызов AI-Операции — включает в себя поле для указания AI-операции и кнопку для её вызова. Виджет можно разместить на любой форме или странице системы, чтобы пользователь мог применить настроенную AI‑операцию из ELMA Cortex, нажав на кнопку;
- графический элемент для бизнес-процессов Вызов AI-Операции — его можно добавить в процесс, чтобы на определённом шаге выполнять AI‑операцию.
Лицензирование ELMA Cortex
Для использования продукта нужно:
- Приобрести серверную лицензию ELMA Cortex. Этот тип лицензии имеет следующие особенности:
- стоимость фиксирована и не зависит от объёма используемых токенов;
- после покупки вы сможете настраивать любое количество AI-агентов, AI‑операций и проектов умного поиска;
- функциональные возможности продукта доступны всем пользователям ELMA365.
- Обеспечить доступ к большим языковым моделям. Поддерживается использование облачных сервисов и размещение моделей в собственной инфраструктуре. Расходы на модели оплачиваются их провайдерам и не входят в стоимость лицензии.
- Опционально подключить внешние сервисы для аналитики данных, например платформу Arize Phoenix для трассировки AI‑агентов, AI‑операций и умного поиска.