Github Trends®
9583 findingsmedian surprise 0.0071window 30 days
UNIT / TREND-MONITOR · REV 2.6
[ 30 days window ]
SOURCE: own snapshots
FINDING #6310 · UNIT ID 1162516847
MakazhanAlpamys/Soup
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
[ PYTHON ]ЗАРАБОТОК C · 48/100[ GITHUB ↗ ]
SURPRISE SCORE
0.00

Score Breakdown

SURPRISE0.13
ENGAGEMENT0.41
FRESHNESS1.40
SCORE = SURPRISE × ENGAGEMENT^0.7 × FRESHNESS × VISIBILITY × CONFIDENCE
SURPRISE = WINDOW STARS / DAYS / (AUDIENCE + FLOOR)
80% OF STARS IN ARCHIVE
[BOT] SUSPECTED STAR BOT — SCORE PENALIZED. SIGNATURES:
S2 · NO EXTERNAL ISSUE/PR AUTHORS DESPITE 100+ STARS
S5 · PREDATES WINDOW, YET HALF+ OF ALL ITS STARS LANDED IN IT
S7 · THIS REPO IS ~ALL OF THE OWNER'S STARS

Growth Telemetry

VELOCITY /D
80.70
ACCEL
+6.09
RETENTION
26.6%
PEAK 2026-08-16 · FORK-RETENTION 53.9% · 2,421 STARS / WINDOW

Author Audience

AUDIENCE
560
FOLLOWERS
248
OWNER ★
3,117

Engagement Signals

FORKS
455
ISSUE AUTH
0
PR AUTH
0
UNIQUE STARGAZERS 2,421 / 2,421 (DIVERSITY 1.00)

Потенциал заработка

C48/100
СПРОС78
Спрос есть: рынок MLOps/LLMOps растёт, а fine-tuning и hosted training уже монетизируются крупными игроками.
ЗАХВАТ34
Дистрибуция слабая: конкуренты крупнее, а layer streaming как moat пока выглядит копируемым.
ДОСТУП72
Apache-2.0 позволяет коммерциализацию, но нужны инвестиции в QA, UX, поддержку и продуктовую упаковку.
«Заработать можно, но сейчас проект топит слабый capture: ниша платёжеспособна, а защита от конкурентов ещё слаба.»

Рыночный анализ · Обзор

Soup — это Python CLI для fine-tuning и post-training LLM из одного YAML-файла, с упором на локальное обучение на слабых GPU.
LLMOps / LLM fine-tuning tooling / local AI / low-VRAM trainingЗРЕЛОСТЬ · РАСТЁТ
ЯЗЫК
Python
ЛИЦЕНЗИЯ
Apache-2.0
РЕЕСТР
pypi
РЕЛИЗ
v0.73.0
КОНТРИБЬЮТОРЫ
15
УСТАНОВКА: pip install soup-cli
Что делает

Soup упрощает весь workflow до установки, одной конфигурации и одной команды. Он помогает собирать датасеты, настраивать fine-tuning, запускать обучение, проверять совместимость моделей и потом валидировать результат. Главная фича — layer streaming: базовая модель не держится целиком в VRAM, а подаётся на GPU по слоям, что позволяет пробовать обучение больших моделей на consumer GPU с малой памятью. Проект также покрывает DPO/ORPO/SimPO/KTO, serving и eval-gates.

Какую боль решает

Снимает боль ручной MLOps-инфраструктуры вокруг LLM fine-tuning: SSH на GPU-машины, сложные конфиги, подбор памяти, квантования и постпроверка качества.

Сценарии использования
  • Локальный LoRA/QLoRA fine-tuning open-weight LLM на ноутбуке или домашнем ПК без аренды GPU.
  • SFT, DPO, ORPO, SimPO и KTO для маленьких команд, которым нужен доменный ассистент.
  • Проверка, влезет ли модель в доступную видеокарту, и подбор quantization/batch size.
  • CI-gate для fine-tuned weights через soup ship с регрессионными проверками.
  • Экспорт и serving локальных моделей в экосистемы Hugging Face, Ollama, GGUF, vLLM и SGLang.
Целевой пользователь

ML-инженеры, indie AI builders, исследователи и небольшие команды, которым нужен LLM fine-tuning без полноценной MLOps-команды.

Open-source аналоги

hiyouga/LlamaFactoryСИЛЬНЕЕ74,000
Зрелый one-stop fine-tuning toolkit с CLI, Web UI, множеством моделей и методов, а также deploy-пайплайном.
unslothai/unslothСИЛЬНЕЕ70,700
Сильный бренд в fast и low-memory fine-tuning, с широким комьюнити и практиками для локального обучения.
huggingface/peftСМЕЖНЫЙ21,500
Базовая библиотека parameter-efficient fine-tuning, а не полный workflow-CLI для one YAML.
huggingface/trlСМЕЖНЫЙ19,100
Стандартный библиотечный слой для RLHF и preference training, на котором Soup строит более простой UX.
Lightning-AI/litgptСМЕЖНЫЙ13,600
Recipes to pretrain, finetune and deploy at scale; больше про масштаб, чем про ультра-low-VRAM consumer training.
axolotl-ai-cloud/axolotlСИЛЬНЕЕ12,300
Самый близкий YAML-based конкурент с широкой поддержкой LoRA/QLoRA, DPO, KTO, ORPO и multi-GPU.
pytorch/torchtuneНИШЕВЫЙ5,800
PyTorch-native post-training library, но с ослабленной активностью и меньшим фокусом на consumer low-VRAM.
Позиционирование

Soup — нишевый догоняющий в OSS fine-tuning: полезный wedge в low-VRAM streaming, но не лидер против LlamaFactory, Unsloth и Axolotl.

Коммерческие аналоги

Fireworks AI Training / Fine-tuningB2BПО ПОТРЕБЛЕНИЮ
Managed training для open models: SFT, DPO, full-param обучение и deployment fine-tuned моделей.
Масштабный B2B-продукт; точные пользователи и выручка не подтверждены из первоисточника.
LoRA SFT до 16B$0.50 / 1M tokens
LoRA DPO до 16B$1.00 / 1M tokens
Full SFT до 16B$1.00 / 1M tokens
Full DPO до 16B$2.00 / 1M tokens
Together AI Fine-tuningB2BПО ПОТРЕБЛЕНИЮ
Fine-tuning open-source моделей, training и inference API.
Крупный dev-infra игрок; точные масштабы в этом анализе подтверждены не полностью.
Пример тарифовзависит от total tokens processed
OpenPipeB2BПО ПОТРЕБЛЕНИЮ
Платформа fine-tuning: сбор датасетов из запросов, SFT и hosting fine-tuned open models.
Известный B2B dev tool; внешние оценки раунда финансирования в этом разборе отмечены как приблизительные.
8B и меньше$0.48 / 1M tokens
14B$1.50 / 1M tokens
32B$1.90 / 1M tokens
70B+$2.90 / 1M tokens
Платформа для моделей, датасетов, hosted compute, AutoTrain и inference endpoints.
Крупнейшая ML-платформа; точные пользовательские и финансовые цифры в этом анализе не верифицированы полностью.
PRO$9/mo
Team$20/mo
Enterprise$50/mo
ReplicateB2B / B2CПО ПОТРЕБЛЕНИЮ
Hosted open и proprietary models, training и deployment custom models через Cog.
Широко известный dev-facing hosted inference продукт; точный масштаб в этом разборе не подтверждён.
Training example$0.0056/sec for 4× Nvidia A100 80GB
RunPodB2BПО ПОТРЕБЛЕНИЮ
GPU cloud и serverless compute для самостоятельного fine-tuning и serving.
GPU cloud игрок; конкретные пользовательские и финансовые цифры не подтверждены в этом анализе.
H100 80GB$4.55/h
A100 80GB$2.72/h
RTX 4090 24GB$1.10/h
Lightning AI Cloud / StudioB2B / B2CПОДПИСКА
Cloud workspaces, notebooks, GPUs и inference, тесно связанные с LitGPT recipes.
В README LitGPT указано, что платформой пользуются сотни тысяч разработчиков.
Стартовые GPUот $0.19
Текущая монетизация проекта

Надёжно подтверждённой текущей монетизации у самого Soup не видно: нет явной pricing page, paid cloud, enterprise support или open-core раскладки. Проект выглядит как pre-commercial OSS / hobby-to-product.

Коммерческий потенциал

ПОТЕНЦИАЛ · СРЕДНИЙ

На самой OSS-CLI библиотеке заработать трудно, но можно монетизировать вокруг неё локальный private fine-tuning workbench, eval-gate и enterprise support.

Спрос и рынок

Спрос подтверждается растущим рынком MLOps/LLMOps и тем, что fine-tuning уже продают Fireworks, Together, OpenPipe, Hugging Face и RunPod. Но TAM Soup уже, чем весь MLOps: реалистичнее говорить о нише developer tooling, support и local-first post-training.

Ров / защищённость

Сейчас ров слабый: layer streaming, low-VRAM benchmarks и eval workflow могут быть полезным wedge, но Apache-2.0, commodity-риски и крупные конкуренты резко снижают защитимость.

Модели монетизации
  • open-core
  • managed hosting (SaaS-обёртка)
  • платная поддержка
  • dual-license
  • плагины/маркетплейс
  • консалтинг
Что нужно, чтобы сделать продукт
  • GUI или desktop-продукт поверх CLI.
  • Командные функции: проекты, пользователи, secrets и audit logs.
  • Security posture и документы по приватности данных.
  • Повторяемый benchmark suite по GPU и ОС.
  • Ясное позиционирование против Axolotl, LlamaFactory и Unsloth.
  • Evals и data pipeline: импорт, очистка, разметка и отчёты.
  • Публичная pricing page и support tiers.
⚖ ЛИЦЕНЗИЯ · МОЖНО ЛИ КОММЕРЦИАЛИЗИРОВАТЬ
Apache-2.0 коммерчески благоприятна: можно строить закрытый продукт, SaaS или enterprise-обвязку, сохраняя уведомления и учитывая лицензии моделей и данных.
Риски и подводные камни
ВЫСОКИЙКОНКУРЕНЦИЯ
LlamaFactory, Unsloth, Axolotl и Hugging Face уже владеют mindshare в fine-tuning tooling.
ВЫСОКИЙПРОЧЕЕ
Layer streaming всё ещё beta, а в README описаны найденные correctness bugs и backend failures.
ВЫСОКИЙПРОЧЕЕ
У проекта нет видимой платной версии, pricing и support-упаковки.
СРЕДНИЙЗАВИСИМОСТЬ ОТ АВТОРА
Проект молодой, владелец — индивидуальный пользователь, поэтому высокий bus factor.
СРЕДНИЙСЛАБЫЙ РОВ
Apache-2.0 и переносимость YAML/LoRA-артефактов делают форки и замены простыми.
СРЕДНИЙЮР. СЕРАЯ ЗОНА
Коммерциализация возможна, но лицензии моделей и датасетов могут накладывать отдельные ограничения.
СРЕДНИЙКОММОДИТИЗАЦИЯ
Fine-tuning API и training infra быстро превращаются в commodity.

Достоверность разбора

УВЕРЕННОСТЬ · СРЕДНЯЯgpt-5.5 · 2026-08-13 · ОКНО 3D
Оговорки / что не проверено
  • Числа по рынку MLOps и размеру коммерческих аналогов в разборе использовались как ориентиры, а не как полностью сверенные финансовые метрики.
  • Оценки по Together AI и OpenPipe частично опираются на вторичные источники или pricing snippets, поэтому точность по масштабу ограничена.
  • Звёзды у OSS-аналогов в анализе приведены как приблизительные значения на момент разборa, а не как вечная константа.
  • Внутренние технические утверждения о layer streaming, silent wrong-gradient bug и backend issues взяты из предоставленного README и не перепроверялись здесь.
  • Existing commercialization для Soup не подтверждена как активный бизнес-модельный слой; вывод основан на отсутствии явных pricing/support страниц в предоставленных данных.
  • Все выводы о moat и capture — аналитические, а не фактологически доказанные метрики.
ИСТОЧНИКИ (29)

Why This Is A Finding

MakazhanAlpamys/Soup собрал 2,421 звёзд за окно, тогда как у автора всего 248 подписчиков — эффективная аудитория ≈ 560. Это даёт surprise-индекс 0.13 (звёзды относительно охвата автора, а не в абсолюте). Удержание форков 53.9% и 0 внешних контрибьюторов отделяют реальный инструмент от разовой вспышки. Акселерация положительная — рост ещё не выдохся.

METRICS IN CONTEXT

MEDIAN ACROSS ALL 9583 FINDINGS · Δ vs MEDIAN · PERCENTILE = SHARE RANKED BELOW
METRICVALUEMEDIANΔ MEDPERCENTILE
SCORE0.000.00-0.00ABOVE 34%
VELOCITY80.703.60+77.10ABOVE 98%
RETENTION26.6%25.0%+1.6 PPABOVE 53%
FORKS455133+322ABOVE 79%
SURPRISE0.130.01+0.13ABOVE 99%