KworkБоты и автоматизация
Ищу специалиста с практическим опытом дообучения LLM для работы с русскоязычным текстом. Задача: обучить локальную языковую модель выполнять глубокую переработку текста с сохранением смысла, фактов, терминов, фамилий, цифр, ссылок и структуры материала. Модель не должна пропускать предложения и абзацы, придумывать новые факты или просто заменять слова синонимами. Есть собственный датасет в формате «исходный текст → качественно переработанный текст», примеры хороших и плохих результатов, validation/test набор. Оборудование: RTX 5080 16 GB, Windows 11 + WSL2 Ubuntu. Уже использую Python, Transformers, Unsloth, PEFT, 4-bit модели. Рассматриваю Qwen, Mistral/Ministral или другую подходящую open-source модель. От специалиста требуется: - анализ и подготовка датасета; - выбор базовой модели; - настройка SFT / LoRA / QLoRA; - подбор параметров обучения; - проведение обучения; - оценка результата на отложенных текстах; - сравнение модели до и после обучения; - рабочие скрипты обучения и инференса; - рекомендации по дальнейшему расширению датасета. Важно: нужен именно специалист по fine-tuning LLM, а не по промптам или работе через API. В отклике напишите, какие модели дообучали, работали ли с Qwen/Mistral/Unsloth и есть ли примеры похожих проектов.
Viktor_Sulaev