Тонкая настройка (Fine-Tuning) AI

Как создать качественный русскоязычный датасет на примере проекта «Нужное вокруг»

Тонкая настройка (Supervised Fine-Tuning, SFT) больших языковых моделей (LLM) позволяет адаптировать их под специфические задачи, уникальный стиль письма или узкую предметную область. Однако аксиома машинного обучения гласит: качество модели напрямую зависит от качества данных, на которых она обучается. Создать хороший датасет — это искусство.

Знакомьтесь: dataset_junk_store

В своем репозитории dataset_junk_store я публикую специализированный русскоязычный SFT-датасет в формате JSONL (со структурой сообщений OpenAI). Этот датасет создан для обучения моделей сюрреалистичному ролеплею и креативному письму в уникальном сеттинге: метафизическая лавка «Нужное вокруг» и её загадочный хранитель — Дон Пригодин.

О чём статья: что такое SFT-датасет на практике, как я собрал русскоязычный датасет из 1173 диалогов для файнтюна, кто такой Дони Пригодин и лавка «Нужное вокруг», какой формат нужен для обучения и какие ошибки я совершил. С примерами и кодом.

GitHub: https://github.com/pro2rus/dataset_junk_store

Зачем вообще тюнить модель самому?

Стоковые ChatGPT, Claude, Qwen, Llama — отличные generalist-ы. Они вежливые, усреднённые, правильные.

Но как только вам нужен:

персонаж со своим голосом для фильма, игры или книги,
стилист — сюрреалист, философ, сказатель, а не «AI-ассистент»,
русскоязычный ролеплей без постоянного сползания в английский шаблон,

— промпта уже не хватает. Промпт забывается, стиль плывёт через 10 реплик, персонаж превращается в «услужливого помощника».

Решение — дообучение (fine-tuning). А источник для него — датасет.

Я как AI-филммейкер и сценарист столкнулся с этим в лоб: мне нужен был живой второстепенный герой, который держит стиль 50+ реплик. Так родилась лавка «Нужное вокруг» и одноимённый датасет.

Концепция: магазин, где продают забвение

Вы когда-нибудь чувствовали, что потеряли что-то важное, чего у вас никогда не было?

За вашей прихожей открывается пространство, где законы логики уступают место законам случая. Витрины из кустов, травы и старых лавок. Здесь продают пыль с привкусом забвения, сломанные вещи и воспоминания, которые вы предпочли бы забыть.

Продавец — Дони Пригодин. Он сидит на старом стуле. Денег не берёт — берёт ваше время и внимание.

Не пытайтесь ничего купить. Просто осмотритесь. Возможно, этот хлам — именно то, что поможет вам понять, кто вы есть на самом деле.

Полный тизер лежит в репозитории в файле teaser_junk_store.md. Это и есть system-персона, ядро стиля: тихий сюрреализм, философия без морализаторства, короткие афористичные ответы.

Почему именно такой сеттинг для датасета? Три причины:

Узкий, но глубокий мир. Легко держать консистентность: лавка, хлам, Дони.
Стиль легко отличить. Сюр легко проверить: либо модель звучит как Дони, либо скатывается в «Чем я могу помочь?».
Русский язык. 99% открытых ролеплей-датасетов — английские. Русских SFT-наборов с характером почти нет.

Что внутри датасета

Коротко в цифрах:

1173 примера, ~444 КБ
Формат JSONL, OpenAI messages
Язык — русский
Стиль — сюрреалистичный философский ролеплей

Каждая строка — один диалог:

{"messages": [
  {"role": "user", "content": "Сколько стоит эта чашка?"},
  {"role": "assistant", "content": "Она не стоит. Она лежит. А лежащее — бесценно."}
]}

Кто знаком с Alpaca / ShareGPT / OpenAI fine-tune — формат родной. Его используют TRL + transformers, Unsloth, Axolotl, LLaMA-Factory без конвертации.

Внутри — не просто «вопрос-ответ». Я закладывал типы диалогов:

торг, который не торг («Дони, продай мне…» — «Я не продаю, я показываю»),
расспросы о вещах (чашка, ключ, пыль, стул),
метафизика (время, память, забвение),
молчание и паузы (короткие ответы — тоже стиль),
проверка на прочность (грубость, «ты же ИИ», «скажи как нормальный ассистент» — Дони не ломается).

Это важно: датасет для характера должен содержать и провокации, иначе первый же «а ты кто на самом деле?» снесёт персонажа.

Где найти?

Исходные данные и документация уже доступны в открытом доступе. Буду рад вашим звездам (⭐)!

🔗 Ссылка на проект: github.com/pro2rus/dataset_junk_store

Dataset на Hugging Face

Модель AI можно скачать на Hugging Face.