Пошаговое руководство

Настоящее руководство по шагам опишет базовый алгоритм для обучения языковой модели.

1. Перейдите в раздел Проекты.
2. Создайте проект AI Текст -> Задачи NLP.
3. Перейдите в раздел Использование и в блоке Состояние сервиса нажмите Открыть редактор. Откроется редактор файнтюнинга.
4. Выберите базовые параметры:
   • Базовая модель: выберите модель в окне Выбор базовой модели. Модели сгруппированы по движку (vLLM, Ollama); для файнтюнинга используйте модели с меткой ФТ, например ft-base-0.6b-fp16 или ft-base-2b-fp16.
   • Наименование модели: укажите, как будет называться модель.
   • Целевая машина: выберите машину со свободной GPU.
5. Сбалансируйте датасет.
   • Загрузите xlsx-файл с данными, содержащими запрос к модели и правильный ответ на него.
   • Сконфигурируйте балансировку: нажмите на иконку карандаша, укажите input_col (имя столбца с запросом к модели), output_col (имя столбца с ответом модели) и sheet_name (имя листа, на котором находятся эти два столбца). Остальные значения можно оставить стандартными.
   • Нажмите Сбалансировать
   • Дождитесь результатов балансировки.
6. Укажите параметры файнтюнинга. Для первого попытки можно оставить стандартные значения.
7. Нажмите Запустить.
8. Дождитесь завершения процесса.
   • Оцените параметры, указанные в таблице: acc (точность), loss (потери), f1_macro (отражает точность без учета веса класса).
   • Оцените Результат - процент ошибок, галлюцинаций.
9. Если результаты процесса неудовлетворительные, измените параметры и повторите процесс.
   • Получите 2-ю, 3-ю и последующие версии модели, пока не достигните целевых показателей
   • Менять можно как исходный несбалансированный датасет, параметры балансировки, базовую модель, параметры файнтюнинга, включая шаблон запроса и квантизацию
   • Сравнивайте результаты между собой бегло по таблице
   • Выбирайте запись в таблице, чтобы детально оценить версию модели
10. Когда получены потребные показатели модели, нажмите “+” (Добавить в каталог).
11. Дождитесь добавления модели в каталог. Модель станет доступна в окне Выбор базовой модели с меткой ФТ и названием проекта.
12. Нажмите Вернуться в проект и перейдите в раздел Навыки.
13. Создайте навык Файнтюнинг.
14. Перейдите в раздел Машины и откройте машину, на которой будет работать модель.
15. Нажмите + Добавить LLM, в поле Выбор базовой модели выберите обученную модель (фильтр Файнтюнинг), задайте параметры и нажмите Запустить. Подробнее – в статье Управление моделями на целевой машине.
16. Дождитесь статуса Запущена и вернитесь в проект.
17. Перейдите в раздел Использование.
18. В блоке Конфигурация сервиса выберите машину, а в поле LLM – запущенную модель в окне Выбор LLM. Чтобы быстро найти обученную модель, используйте фильтр Файнтюнинг или поиск по названию проекта. Установите флажок Закрепить эту модель: иначе при замене модели на машине навык начнёт отвечать другой моделью, и его ответы радикально изменятся.
19. Нажмите Использовать и дождитесь запуска сервиса.
20. Перейдите в раздел Тестирование.
21. Вставьте в поле Текст для обработки любое значение запроса к модели, которое нужно обработать (например, из столбца input_col в несбалансированном датасете).
22. Нажмите кнопку Отправить и дождитесь ответа модели.
23. Убедитесь, что модель генерирует ответ в виде кода, который затем преобразуется в класс из предоставленного датасета (столбец output_col).
24. При необходимости вернитесь к процессу файнтюнинга модели, чтобы получить более высокие показатели точности.
25. Удалите лишние модели из хранилища на Целевой машине, нажав соответствующую иконку в Редакторе файнтюнинга.