VibeCoderzVibeCoderz
GitHub репозитории
janhq
🔥 ТрендингTypeScript

janhq /

jan

Jan — open source альтернатива ChatGPT, работающая 100% офлайн на вашем компьютере.

Форки

2.6k

Звёзды

41.2k

Issues

0

Jan — open source десктопный клиент для LLM, который запускает модели локально. Замена ChatGPT без цензуры и облачных подписок.

Что делает

Jan превращает обычный компьютер в персональный сервер для работы с нейросетями. Он устанавливается как стандартное приложение и позволяет запускать модели вроде Llama 3 или Mistral без интернета.

Вам не нужно отправлять данные на сервера OpenAI или Anthropic. Весь контекст переписки и файлы остаются внутри вашего железа. Это приватное пространство для экспериментов с AI, которое работает 100% офлайн.

Как работает

Проект построен на базе Tauri, что делает его легким для десктопа. Внутри он использует llama.cpp для запуска моделей. Jan скачивает веса нейросетей в форматах GGUF и держит их в оперативной памяти или видеопамяти.

Приложение предоставляет локальный API-сервер. Он полностью совместим с форматом запросов OpenAI, поэтому вы можете переключать свои инструменты с облака на локальный хост одной строкой в конфиге.

Кому подходит

Вайб-кодерам, которым нужна приватность при работе с кодом или личными данными.

Тем, кто устал платить за подписки и хочет использовать бесплатные open source модели.

Разработчикам, тестирующим локальные промпты перед внедрением в продакшн-сервисы.

Пользователям, у которых нет стабильного интернета для работы с облачными AI.

Основные возможности

Запуск моделей локально без сторонних API-ключей.

Полная совместимость с OpenAI API для интеграции в другие приложения.

Поддержка моделей формата GGUF из Hugging Face.

Встроенный менеджер для скачивания и управления весами нейросетей.

Кроссплатформенная работа: Windows, macOS, Linux.

Отсутствие цензуры, так как вы сами выбираете используемую модель.

Как установить

Скачайте установщик с официального сайта или через терминал, если используете пакетные менеджеры.

# Для macOS (через Homebrew)
brew install --cask jan

После запуска откройте вкладку Hub, выберите модель из списка и нажмите Download. Это всё.

Как применить в своём продукте

Jan — это готовый бэкенд для ваших локальных инструментов. Вы можете использовать его как локальную «песочницу» для отладки AI-агентов, не тратя токены на внешних API во время разработки.

Если вы делаете SaaS, который должен работать в закрытом контуре (например, для банков или медицины), Jan может стать локальным движком для обработки данных. Просто направьте запросы вашего приложения на локальный порт 1337.

Использовать как локальный RAG-сервер для обработки конфиденциальных документов.

Заменить платные API на локальные модели для снижения операционных расходов.

Создать автономное приложение, работающее на ноутбуке клиента без доступа к сети.

Подводные камни

Главный ограничитель — ваше железо. Для комфортной работы нужна видеокарта с большим объемом VRAM или много оперативной памяти. Если модель не влезает в память, она будет работать крайне медленно.

Приложение потребляет много ресурсов системы. Ожидайте нагрев процессора при активной генерации текста. Также помните, что локальные модели весят от 2 до 20+ гигабайт, поэтому освободите место на диске заранее.

Частые вопросы

Нужно ли мне платить за использование моделей?

Нет, использование самого приложения и моделей с открытыми лицензиями бесплатно. Вы платите только за электричество и покупку железа.

Могу ли я использовать свои GGUF-модели?

Да, Jan позволяет импортировать любые файлы моделей в формате GGUF. Просто положите их в соответствующую папку, и приложение подхватит их.

Будет ли работать мой код, написанный под OpenAI API?

Да, Jan эмулирует OpenAI API. Вам достаточно изменить URL базового адреса в вашем коде на `http://localhost:1337/v1` и подставить любой ключ API.

Топики

Похожие репозитории

Данные обновлены: 24 марта 2026 г.