Unsloth: дообучение открытых моделей
Открытая библиотека, которая делает LoRA и QLoRA примерно вдвое быстрее и на 60–70 % экономнее по памяти. Благодаря ей модель на 8 миллиардов дообучается в бесплатном Colab.
Что получается
Готовые ноутбуки под каждую популярную модель: подставил датасет, запустил, через час — адаптер и экспорт в GGUF для Ollama или LM Studio. Unsloth Studio — та же схема в окне без кода (бета).
Не получается: без видеокарты NVIDIA (или облачного ноутбука) ничего не запустится; датасет, параметры и проверка — по-прежнему на вас; документация на английском.
Сильные и слабые места
Быстро и экономно
8 млрд в 4 битах на одной T4.
Открытый код
Apache 2.0, коммерческое использование.
Studio
Дообучение кнопками, пока в бете.
Данные на вас
Формат, чистка, проверка — не автоматизированы.
Главная ошибка
Дообучать, не попробовав инструкцию с примерами. Половина задач «переучить модель» закрывается системной инструкцией за час.
Собрать датасет и ноутбук Unsloth
Агент честно скажет, нужно ли дообучение, соберёт JSONL из ваших данных и напишет ноутбук под бесплатный GPU с проверкой до и после.
Поставить задачу →Частые вопросы
Unsloth работает на Windows?
Да, при наличии видеокарты NVIDIA; без неё — ноутбуки Colab и Kaggle.
Сколько примеров нужно?
От 50–100 для стиля, сотни для предметной области; качество важнее количества.