FlowMastersFlowMasters
Инструмент

Свой ChatGPT: локальный LLM-шлюз и OpenAI-совместимый API (152-ФЗ)

Локальный OpenAI-совместимый API-сервер на Apple Silicon — это свой ChatGPT, который работает 100% офлайн и соответствует 152-ФЗ. Выставляет /v1/chat/completions и /v1/embeddings на localhost:8080: подключайте Cursor, Continue.dev, Obsidian, Raycast и n8n к своей приватной локальной нейросети. mlx_lm на Saiga/Qwen (RU-модели), загрузчик LoRA (fine-tune ассистента за <30 мин) и дашборд использования.

Мгновенная выдача
Гарантия возврата
Обновления навсегда
9 900 ₽15 000 ₽−34%

Оплата картой или СБП · Мгновенная выдача

~/gateway//9 files
gateway/
├─ config.py
├─ backends.py
├─ server.py
├─ usage.py
└─ cli.py
models.json
LORA.md
tests/test_gateway.py
1# 3 бэкенда моделей — переключаются в дашборде
2class MockBackend(ChatBackend): # офлайн-демо
3class MLXBackend(ChatBackend): # локальные RU
4class ProxyBackend(ChatBackend): # GigaChat/Yandex
5 
6@app.post("/v1/chat/completions") # OpenAI API
7def chat_completions(body):
8 model = _resolve_model(body.model)
9 backend = build_backend(model.backend)
10 reply, usage = backend.chat(messages, model)
11 tracker.record(...) # статистика
12 
13# Дашборд: http://localhost:8080 — модели,
14# токены, latency, переключатель активной

Архитектура

Cursor/n8n/privault · OpenAI client→Gateway :8080 · /v1 API + дашборд→mock | mlx | proxy · 3 бэкенда
Полный исходный код — после покупки

Что внутри

Всё для немедленного старта

OpenAI-совместимый API на localhost:8080
mlx_lm на Apple Silicon (Saiga/Qwen, RU-модели)
Загрузчик LoRA: fine-tune ассистента за <30 мин
Дашборд использования и переключатель моделей
Работает с Cursor/Continue.dev/Obsidian/Raycast/n8n
100% офлайн — соответствует 152-ФЗ

Экономия времени

Готовое решение вместо недель разработки — настройте за 5 минут

Рост прибыли

Автоматизация рутинных задач = больше времени на продажи и рост

Проверено в бою

Используем сами и у клиентов. Реальные результаты, не теория

Свобода использования

Коммерческая лицензия — применяйте для себя и клиентов

Как это работает

1

Оплата

Картой или СБП на безопасной странице Точка Банка

2

Мгновенная выдача

Ссылка на скачивание или Notion-шаблон — сразу после оплаты

3

Использование

Скачайте/скопируйте шаблон, настройте под себя — готово!

Похожие товары

Content Factory: SaaS-оркестратор генерации контента и автопостинга (Python)

SaaS-оркестратор генерации контента на Python: одна идея превращается в контент для 6 RU-платформ (Telegram, VK, TenChat, Хабр, MAX, Boosty) с AI-генерацией текста и автопостингом. ~2069 строк production-кода, Loop Engineering (цель→план→выполнение→проверка) и контроль бюджета API делают автопостинг масштабируемым. Готовый sample content-pack в комплекте — AI-ключи (ZAI/Seedance/Kandinsky) подключаете свои.

14 900 ₽

Приватный RAG-ассистент: чат с вашими документами офлайн (152-ФЗ)

Приватный RAG-ассистент для чата с вашими документами на Apple Silicon — загружаете PDF, DOCX и договоры и задаёте вопросы, получая ответы со ссылками на страницы. 100% офлайн: данные не покидают ваш Mac, что соответствует 152-ФЗ и идеально для юристов, бухгалтеров, HR и NDA-B2B. Локальное чанкование, эмбеддинги (bge-m3) и RU mlx-модель плюс OCR сканов через mlx_vlm.

14 900 ₽

Готовы начать?

Свой ChatGPT: локальный LLM-шлюз и OpenAI-совместимый API (152-ФЗ). Мгновенная выдача после оплаты.