VibeCoderzVibeCoderz
CrabTalk icon

CrabTalk

Инструменты разработчика ИИ
Большие языковые модели (LLMs)

CrabTalk — это легкий агентский демон на Rust весом 5 МБ. Открытый исходный код, прозрачная работа и никакой лишней магии.

Перейти на сайт
CrabTalk screenshot

Обзор CrabTalk

CrabTalk решает проблему непрозрачности AI-инфраструктуры. Это набор из демона, шлюза и дашборда, которые работают как единое целое. Вы получаете полный контроль над тем, куда уходят запросы и сколько ресурсов они потребляют. Продукт написан на Rust, поэтому работает стабильно и очень быстро. Никаких скрытых процессов, всё на виду.

Главные функции

Демон-агент

Компактный агент на Rust весом 5 МБ. Подключайте любые клиенты и меняйте команды на лету без перезагрузки.

LLM-шлюз

Единый OpenAI-совместимый эндпоинт. Переводит запросы на Anthropic, Bedrock, Azure, Gemini или Ollama с микросекундными задержками.

Мониторинг

Дашборд для macOS, который показывает каждый запрос и каждый потраченный доллар прямо в менюбаре.

Локальный роутинг

Полная поддержка MLX для запуска моделей прямо на вашем железе.

Плюсы и минусы

Преимущества

  • Вес всего 5 МБ
  • Прозрачный open source
  • Нулевые задержки
  • Поддержка MLX для локальных моделей

Недостатки

  • Требует навыков настройки
  • Основной дашборд только под macOS

Для кого и как использовать?

Разработчики агентов

Запускайте автономных агентов с горячей заменой команд без простоев системы.

Backend-инженеры

Используйте единый шлюз для управления десятком разных LLM-провайдеров через один API.

Оптимизаторы расходов

Отслеживайте каждый токен и затраты на модели в реальном времени через системный дашборд.

Частые вопросы

Похожие нейросети и аналоги

Смотреть все