🚀 Горячий релизSwift

FuJacob /

cotabby

Cotabby is local AI autocomplete for your entire Mac. Open source. On device. Everywhere you type.

Открыть на GitHub

Форки

Звёзды

686

Issues

Cotabby — это локальный AI-автокомплит для macOS. Работает во всех приложениях, не отправляет данные в облако и использует мощь LLM прямо на вашем железе.

Что делает

Cotabby подставляет варианты текста в любой текстовый редактор, браузер или мессенджер на вашем Mac. Это аналог GitHub Copilot, но для всей операционной системы. Инструмент анализирует контекст ввода и предлагает продолжение фразы в реальном времени.

Вся магия происходит локально. Ваши переписки, заметки и код остаются внутри устройства. Это решение для тех, кто параноит по поводу приватности или хочет бесплатный автокомплит без подписки.

Как работает

Проект использует llama.cpp для запуска LLM на процессоре Apple Silicon. Он перехватывает нажатия клавиш или анализирует фокус в приложениях, чтобы генерировать подсказки. Обработка запросов идет через локальный движок, поэтому интернет для работы ему не нужен.

Кому подходит

Тем, кто пишет много текста и хочет ускорить набор в любых приложениях.

Разработчикам, которые не хотят платить за облачные сервисы автодополнения.

Пользователям macOS, которые хранят чувствительные данные и боятся утечек в облачные AI.

Энтузиастам, которые тестируют возможности on-device AI на Mac M1/M2/M3.

Основные возможности

Локальная работа: никакой передачи данных на сервера.

Работа в любом приложении: автокомплит доступен везде, где есть текстовое поле.

Поддержка llama.cpp: высокая производительность на чипах Apple Silicon.

Полностью open source: можно изучить код и допилить под себя.

Минималистичный интерфейс: живет в строке меню macOS.

Низкие задержки: мгновенный отклик при наборе текста.

Как установить

Скачайте последнюю версию из официального репозитория GitHub в разделе Releases. Программа распространяется в виде готового .dmg файла.

# Прямая ссылка на релизы
https://github.com/FuJacob/cotabby/releases

После скачивания перетащите приложение в папку Applications и запустите его. Возможно, потребуется дать права доступа к универсальному доступу (Accessibility) в настройках системы.

Как применить в своём продукте

Вы можете использовать Cotabby как эталон для построения локальных AI-агентов. Если вы собираете свой SaaS, где важна приватность данных, посмотрите, как реализована интеграция с системными событиями macOS.

Внедрить как open-source альтернативу платным API для автодополнения в своих десктопных утилитах.

Использовать как базу для создания узкоспециализированных AI-помощников для конкретных ниш (например, юристов или медиков).

Изучить архитектуру взаимодействия Swift-приложения с локальными весами моделей для своих проектов.

Подводные камни

Главный минус — потребление ресурсов. Запуск LLM на устройстве заметно грузит процессор и оперативную память. Если у вас базовая модель Mac с 8 ГБ ОЗУ, система может начать тормозить при активной генерации текста. Также качество подсказок напрямую зависит от выбранной модели — чем она меньше, тем чаще AI может "галлюцинировать" или выдавать странные фразы.

Частые вопросы

Нужно ли постоянно быть в сети?

Нет, всё работает локально. После скачивания модели вы можете отключить интернет, и автокомплит продолжит работать. Это главная фишка проекта.

Насколько сильно он греет процессор?

Зависит от модели. При использовании компактных квантованных моделей нагрузка умеренная, но при интенсивном наборе текста вентиляторы могут начать шуметь. Рекомендуем следить за нагревом при длительной работе.

Работает ли на Intel Mac?

Проект заточен под Apple Silicon. На старых процессорах Intel производительность будет крайне низкой, так как оптимизации llama.cpp под них ограничены.

Топики

accessibility ai autocomplete cotabby cotypist llama llama-cpp llm local-ai macos menu-bar on-device-ai productivity swift swiftui writing-assistant