Операции с LLM (LLM Operations)

Раздел продвинутых инструментов для работы с языковыми моделями. Компоненты позволяют автоматизировать рутинные задачи, извлекать структуру из хаоса и динамически управлять выбором моделей для достижения баланса между скоростью, качеством и ценой.

Batch Run — пакетная обработка. Запускает выбранную LLM для каждой строки в таблице (DataFrame). Идеален для массовой генерации описаний, перевода списков или анализа сотен отзывов за один проход с выводом результата в новую таблицу.

LLM Selector — интеллектуальный выбор модели. Использует модель-«судью» для анализа входящего запроса и автоматического выбора лучшей исполнительной модели из пула. Выбор может основываться на приоритете качества, скорости или стоимости.

Smart Router — семантический разветвитель. В отличие от обычных фильтров, использует ИИ для классификации запроса по смыслу. Направляет данные на разные выходные порты (например, «Жалоба», «Благодарность», «Вопрос») на основе их содержания, а не простого поиска слов.

Smart Transform — ИИ-фильтр данных. Позволяет трансформировать сложные JSON-структуры с помощью команд на естественном языке (например, «извлеки только email-адреса»). LLM сама генерирует программную функцию для выполнения вашей задачи.

Structured Output — извлечение данных. Превращает неструктурированный текст (статьи, письма) в четкие таблицы или объекты с заданными полями. Вы сами определяете схему (ключи и типы данных), а ИИ заполняет её, отсеивая лишнюю информацию.