▲РЕПО НЕТ В ОКНЕ 30D. ПОКАЗАН FINDING ИЗ ОКНА 90D (90 days) — РАНГ #25.
FINDING #25 · UNIT ID 1217040185
tashfeenahmed/freellmapi
OpenAI-compatible proxy that stacks the free tiers of 28 LLM providers (~4B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
Деньги в теме есть: AI inference, AI DevOps/MLOps/LLMOps и LLM gateway рынки растут, а платящие аналоги используют subscription, markup и usage pricing.
ЗАХВАТ34
Ров слабый: OpenAI-compatible proxy, routing и fallback копируются; сильные OSS и SaaS конкуренты уже есть; free-tier stacking зависит от внешних лимитов и ToS.
ДОСТУП61
MIT разрешает коммерческое использование кода, но бизнес вокруг free tiers упирается в provider ToS, bans, key handling, privacy и security.
«Потенциал топит capture: ценность легко копируется и держится на чужих бесплатных лимитах.»
Рыночный анализ · Обзор
FreeLLMAPI — self-hosted OpenAI-compatible proxy, который объединяет бесплатные лимиты 28 LLM-провайдеров в один `/v1` endpoint с автоматическим роутингом и fallback.
LLM API gateway / AI routing / free-tier aggregation / OpenAI-compatible proxyЗРЕЛОСТЬ · РАСТЁТ
Проект даёт один OpenAI-compatible API поверх множества бесплатных LLM-провайдеров и кастомных OpenAI-compatible endpoints. Он хранит ключи, отслеживает лимиты, выбирает подходящую модель, переключается на следующий provider при 429/5xx/timeout и обновляет каталог моделей через signed feed. Поддерживает chat, responses, messages, completions, embeddings, image generation и speech через общий routing layer.
Какую боль решает
Снимает боль ручного управления десятками SDK, API-ключей, rate limits, моделей, отказов и изменений бесплатных квот при разработке LLM-приложений.
Сценарии использования
+Локальная разработка AI-агента через один `base_url`.
+IDE autocomplete и Claude Code/Codex-like клиенты через OpenAI/Anthropic-compatible endpoint.
+Резервный endpoint, когда один бесплатный провайдер упёрся в лимит или упал.
+Сравнение бесплатных моделей по скорости и качеству.
+Дешёвые pet-projects, демо, прототипы и эксперименты.
+Подключение своих OpenAI-compatible endpoints: Ollama, vLLM, LM Studio, llama.cpp.
Целевой пользователь
Solo dev, indie hacker, студент, small AI builder и power user; не enterprise production, потому что README позиционирует проект как personal experimentation only.
FreeLLMAPI не лидер всего LLM gateway OSS-рынка; он быстрый challenger и потенциальный лидер в узкой нише free-tier stacking для personal experimentation. Против LiteLLM, New API и One API он догоняющий, но позиционирование “4B free tokens/month + live free catalog” выделяет его.
Enterprise AI gateway/deployment modes, routing, guardrails и cost controls.
Масштаб не раскрыт.
Usage/customcustom
Self-host infra estimate~$600–$1,000/month
AWS Marketplace Pro$6,250, billing period не подтверждён
AWS Marketplace Enterprise$12,500, billing period не подтверждён
Текущая монетизация проекта
FreeLLMAPI уже монетизируется через Premium live catalog. Сайт указывает платный catalog service с ценами $19/$49, а terms называют FreeLLMAPI Premium paid model catalog service by Neu Software LLC. Это open-core/data-feed модель, не чистое хобби.
Коммерческий потенциал
ПОТЕНЦИАЛ · СРЕДНИЙ
Зарабатывать можно на удобстве и live intelligence вокруг бесплатных LLM tiers: live catalog, desktop convenience, quota intelligence, provider-ToS checker, setup automation и paid support. Строить венчурный B2B gateway на этой основе нельзя без ухода в paid-provider routing, compliance и enterprise controls.
Спрос и рынок
Спрос подтверждён платными аналогами: OpenRouter берёт 5.5% fee, Requesty 5% markup, Portkey/Helicone/LangDB продают subscription tiers. Узкий рынок LLM gateways меньше общего AI inference, но растёт: один report оценивает LLM Gateway market в $182M к 2031, AI API Gateway market — в $0.78B в 2025; это analyst estimates, не audited revenue.
Ров / защищённость
Технический ров слабый: proxy, routing и OpenAI-compatible endpoint легко копируются. Data/update ров может стать средним, если FreeLLMAPI станет лучшим источником live free-model catalog и quota diffs. Брендовый ров возможен благодаря 16k★ за 90 дней, но юридического рва нет; ToS-риск работает против проекта.
Модели монетизации
+$19–49/year live catalog для индивидуальных разработчиков
+Paid desktop app / one-click local gateway
+Team plan для labs, bootcamps и hackathons без обещания production SLA
+Paid support/setup для self-host
+Compliance-safe mode с матрицей провайдеров по commercial/eval/personal use
+Analytics add-on: quota burn, latency, model quality и fallback traces
+Marketplace/affiliate with paid providers для миграции с free tier на paid keys
Что нужно, чтобы сделать продукт
+Юридически проверенная ToS matrix по каждому провайдеру.
+Понятная позиция по commercial use, потому что README говорит personal experimentation only.
MIT разрешает коммерческое использование кода. Но коммерческое использование агрегированных free tiers не равно коммерческому использованию MIT-кода: у каждого провайдера свои ToS, часть free/eval tiers может запрещать production, resale, high-volume automation или commercial use. Главный legal risk — не лицензия, а provider ToS, abuse detection и account bans.
Риски и подводные камни
ВЫСОКИЙЮР. СЕРАЯ ЗОНА
Provider ToS / free-tier abuse: если провайдеры режут free tiers, банят ключи или запрещают aggregation, core value падает.
ВЫСОКИЙСЛАБЫЙ РОВ
No defensibility: LiteLLM, OpenRouter, Requesty, Portkey и New API могут повторить free catalog быстрее и с большим distribution.
ВЫСОКИЙПРОЧЕЕ
Security/key custody: продукт хранит много API keys; один инцидент убивает доверие.
ВЫСОКИЙПРОЧЕЕ
Reliability/SLA mismatch: free tiers нестабильны; продавать это как production gateway опасно.
СРЕДНИЙМАЛЫЙ РЫНОК
Price ceiling: ЦА — solo devs, чувствительные к цене; $19/year выглядит приемлемо, $20/month уже конкурирует с mature tools.
СРЕДНИЙЗАВИСИМОСТЬ ОТ АВТОРА
Maintenance treadmill: каталог моделей и квот меняется еженедельно; это постоянная операционная работа.
СРЕДНИЙПРОЧЕЕ
Reputation risk: проект легко воспринимается как обход платных API, что ухудшает enterprise trust.
tashfeenahmed/freellmapi собрал 750 звёзд за окно, тогда как у автора всего 586 подписчиков — эффективная аудитория ≈ 2,364. Это даёт surprise-индекс 0.00347 (звёзды относительно охвата автора, а не в абсолюте). Удержание форков 66.3% и 22 внешних контрибьюторов отделяют реальный инструмент от разовой вспышки. Акселерация отрицательная — внимание остывает после пика.