Конспект: Классификационная нейросеть Jev от TypeSafe AI: Архитектура, бенчмарки и внедрение в AI-пайплайны — VibCoderZ - VibeCoderz

Загрузка...

Кратко для занятых: В конспекте разобран детальный разбор и бенчмарк новой модели Jev от TypeSafe AI. Вы узнаете, почему модель классификации за $0.04 за 1 млн токенов работает в 40 раз дешевле Claude 3.5 Sonnet, как использовать ее через OpenRouter, а также увидите практические примеры: от сортировки лидов и писем до автономного вождения и мгновенной фильтрации контента в браузере.

🎯 Саммари

🎯 О чём этот конспект: Подробный практический разбор модели Jev от компании TypeSafe AI, созданной экс-разработчиком OpenAI Диого Алмейдой. Разбирается принципиально новая архитектура параллельного вывода без генерации текста, сравнение стоимости и скорости с Claude 3.5 Sonnet/Opus, а также реальные кейсы: фильтрация комментариев, разбор почты через MCP, скоринг биржевых заказов, веб-автоматизация и создание анти-спам расширений для браузера.

👤 Кому будет полезно: Вайбкодерам, AI-инженерам, разработчикам агентных систем и фаундерам, создающим приложения на базе LLM и желающим сократить расходы на API в 15–40 раз на задачах классификации, валидации и маршрутизации.

✨ Что получите: Понимание работы архитектуры без генерации токенов, готовые промпты со строгой типизацией, инструкции по подключению Jev через OpenRouter API и архитектурный шаблон гибридной системы «Jev (фильтрация) + LLM (генерация)».

Ключевые инсайты

1. Архитектура Jev: параллельный инференс без посимвольной генерации

Контекст: Классические большие языковые модели (LLM) вроде Claude или GPT генерируют текст авторегрессионно — по одному токену за раз, каждый раз обращаясь ко всему предыдущему контексту. Из-за этого генерация требует времени, вычислительных ресурсов и подвержена галлюцинациям формата. Модель Jev от компании TypeSafe AI (создатель — Диого Алмейда, стоявший у истоков InstructGPT в OpenAI) работает по другому принципу. Она создана исключительно для задач классификации: принимает текст и набор заранее объявленных вопросов с жесткими типами ответов, прогоняет текст через сеть ровно один раз и отдает все результаты параллельно. У модели физически нет генеративной головы, поэтому она не может сломать JSON-схему или выдать посторонний текст.

Тайминг: [00:25], [00:48], [01:13], [01:32]

Выгода:

Стоимость: $0.04 за 1 000 000 входных токенов, выходные токены бесплатны ($0.00). Для сравнения: Claude 3.5 Sonnet стоит от $3.00 за 1M входных токенов (в 75 раз дороже).
Время отклика не зависит от количества вопросов (5 вопросов или 25 обрабатываются за одинаковое время).
100% гарантия соблюдения формата данных «из коробки» без JSON-repair библиотек.

Как применить:

Шаг 1: Определение применимости задачи — Перед запуском убедитесь, что задача относится к одному из 3 поддерживаемых типов вывода:
1. Selection (выбор 1 варианта из заданного списка до 255 элементов);
2. Scale (числовая шкала от 2 до 10 градаций, например от 1 до 5);
3. Boolean (да/нет, true/false).
Шаг 2: Получение метрики уверенности — К каждому ответу любого из трех типов Jev автоматически прикладывает уровень уверенности (confidence score). Используйте этот параметр для настройки порога валидации в коде (например, если уверенность ниже 0.8 — отправлять на перепроверку).

// Пример структуры контракта входных данных для Jev
interface JevClassificationSchema {
  text: string;
  queries: {
    name: string;
    type: "choice" | "scale" | "boolean";
    options?: string[]; // до 255 вариантов для choice
    min?: number;       // для scale (от 2)
    max?: number;       // для scale (до 10)
    description: string;
  }[];
}

Результат: Мгновенное выполнение проверок и классификаций с нулевым риском галлюцинаций формата и минимальными затратами вычислительных ресурсов.

2. Подключение модели Jev через OpenRouter API

Контекст: Прямой доступ к TypeSafe AI ограничен листом ожидания (в первые сутки записалось более 150 000 человек). Самый быстрый и рабочий способ протестировать Jev в своем коде или агентных воркфлоу — использовать агрегатор нейросетей OpenRouter. Модель доступна в каталоге, поддерживает стандартный API-формат и позволяет вайбкодерам подключать классификатор к Cursor, Claude Code, Python-скриптам или бэкенд-сервисам за считанные минуты.

Тайминг: [01:84], [02:13], [02:44]

Выгода:

Мгновенный запуск без ожидания в waitlist TypeSafe.
Единый ключ API для комбинирования Jev с Claude, GPT-4o и локальными моделями.
Контроль расходов через гибкую систему дневных и месячных лимитов.

Как применить:

Шаг 1: Авторизация и пополнение баланса — OpenRouter — Авторизуйтесь на openrouter.ai (через Google или GitHub). Перейдите в раздел Credits -> Add credits. Для оплаты требуется зарубежная карта или специализированные сервисы виртуальных карт.
Шаг 2: Генерация токена доступа с лимитами — Перейдите во вкладку API Keys, нажмите Create Key. Укажите имя ключа, срок жизни (например, 90 дней) и обязательно задайте лимит расходов (Daily limit), чтобы исключить случайные списания при зацикливании агентов.
Шаг 3: Настройка вызова модели в коде — Интегрируйте модель через стандартный HTTP-клиент, указав идентификатор модели Jev из каталога OpenRouter.

import os
import requests
 
OPENROUTER_API_KEY = os.getenv("OPENROUTER_API_KEY")
 
headers = {
    "Authorization": f"Bearer {OPENROUTER_API_KEY}",
    "Content-Type": "application/json"
}
 
# Пример структуры запроса к классификатору через OpenRouter
payload = {
    "model": "typesafe/jev", # актуальный эндпоинт модели в каталоге OpenRouter
    "input": "Хочу заказать разработку Telegram-бота на Python, бюджет 30 000 руб, срок 5 дней.",
    "schema": [
        {
            "id": "category",
            "type": "choice",
            "options": ["разработка", "дизайн", "маркетинг", "копирайтинг"]
        },
        {
            "id": "is_budget_sufficient",
            "type": "boolean"
        },
        {
            "id": "urgency_rating",
            "type": "scale",
            "range": [1, 5]
        }
    ]
}
 
response = requests.post(
    "https://openrouter.ai/api/v1/chat/completions",
    headers=headers,
    json=payload
)
print(response.json())

Результат: Рабочее окружение с настроенным API-доступом к Jev с защитой бюджета через квоты.

3. Фильтрация и модерация комментариев: бенчмарк Jev против Claude 3.5

Контекст: В рамках тестирования был взят массив из 273 реальных комментариев под 10 роликами YouTube. Каждому комментарию задавалось 4 вопроса:

Тип комментария (похвала, вопрос, конструктивная критика, идея для видео, необоснованный хейт);
Стоит ли отвечать автору (да/нет);
Содержит ли конкретное предложение (да/нет);
Оценка полезности по шкале от 0 до 5.

Тест проводился параллельно на Jev, Claude 3.5 Sonnet и Claude 3.5 Opus (с минимальным уровнем рассуждений для чистоты эксперимента).

Тайминг: [02:80], [03:37], [03:94], [04:21], [04:79]

Выгода:

Стоимость: Jev потратил менее 1 рубля на 273 комментария. Claude Sonnet — 15 рублей (в 15 раз дороже). Claude Opus — 40 рублей (в 40 раз дороже).
Скорость: Jev завершил анализ всего пула за 5.9 секунды.
Точность совпадения с топовыми LLM достигает 70–80% при строгой формулировке условий.

Как применить:

Шаг 1: Формирование однозначных критериев классификации — В отличие от Claude, Jev не умеет «додумывать» негласные правила модерации. Если задать абстрактный вопрос «Стоит ли отвечать?», Claude опирается на внутренний контекст о правилах ведения YouTube-каналов, а Jev понимает фразу буквально. Критерии должны быть исчерпывающими.
Шаг 2: Реализация скрипта пакетного парсинга — Настройте обработку массива комментариев, передавая структурированные условия проверки.

# Промпт-структура критериев для модерации через Jev
comment_moderation_contract = {
    "questions": [
        {
            "key": "comment_type",
            "type": "choice",
            "options": [
                "praise",           # Похвала, благодарность
                "question",         # Вопрос по теме видео
                "constructive",     # Конструктивная критика с аргументами
                "video_idea",       # Предложение темы для нового ролика
                "unjustified_hate"  # Оскорбления, пустой хейт без конструктива
            ]
        },
        {
            "key": "should_reply",
            "type": "boolean",
            "rule": "Отвечать 'да', только если комментарий содержит технический вопрос по коду или аргументированную проблему"
        },
        {
            "key": "usefulness_score",
            "type": "scale",
            "scale_steps": 5 # шкала от 1 до 5
        }
    ]
}

Результат: Автоматический конвейер модерации тысяч комментариев или отзывов за считанные секунды со стоимостью в копейки.

4. Разбор почты через MCP и «Правило однозначного ТЗ»

Контекст: С помощью протокола MCP (Model Context Protocol) классификатор подключили к почтовому ящику для разбора всех входящих сообщений (технические вопросы, квитанции, рассылки, спам, партнерства). Эксперимент выявил фундаментальную особенность Jev: модель читает критерии максимально буквально, так как у нее отсутствует шаг промежуточных размышлений (reasoning). На вопросе «Нужен ли сотрудник, если письмо нельзя обработать автоматически?» Jev пометил почти все письма как требующие сотрудника, потому что сервисные чеки и уведомления формально не содержат алгоритмического действия. Claude же догадался, что рассылки и чеки сотруднику смотреть не нужно.

Тайминг: [04:99], [05:20], [05:80], [06:02], [06:26]

Выгода:

Разбор всего входящего ящика на Jev занял 52 секунды и обошелся в 1.5 рубля.
Sonnet обошелся в 21 раз дороже, Opus — более чем в 35 раз дороже.
Четкое практическое правило: качество работы Jev на 100% зависит от отсутствия двусмысленности в критериях.

Как применить:

Шаг 1: Исключение оценочных категорий — Никогда не пишите: «Нужно ли вмешательство человека?». Пишите точный алгоритмический предикат.
Шаг 2: Написание контракта сортировки входящих — Передавайте условия с жестким списком исключений.

Результат: Корректно классифицированная почта без переплат за рассуждения больших LLM там, где достаточно детерминированных условий.

5. Автоматический скоринг лидов с бирж фриланса под стек вайбкодера

Контекст: Был протестирован отбор заказов с биржи фриланса Kwork за последние 48 часов в категории «Разработка» (42 свежие заявки). Профиль исполнителя: вайбкодер (сайты, боты, интеграции API, парсеры; комфортный бюджет от 10 000 до 150 000 руб; срок от 2 дней). Каждой заявке задавалось 4 вопроса:

Соответствие профилю (шкала 0–5);
Ясность описания ТЗ (шкала 0–5);
Адекватность бюджета объему работы (да/нет);
Наличие признаков риска: неоплачиваемое тестовое, увод на сторонние контакты (да/нет).

Тайминг: [06:44], [06:81], [07:19], [07:56], [07:78]

Выгода:

Обработка 42 заказов заняла всего 2 секунды и стоила менее 0.5 рубля (в 16 раз дешевле Sonnet).
Задачи «на распознавание» (наличие ключевых слов стека, присутствие триггеров риска) совпали у Jev и Claude Sonnet/Opus почти на 100%.
Расхождения возникли только в субъективной оценке адекватности бюджета (так как для этого нужно мысленно перевести ТЗ в часы и разделить на ставку, чего Jev без генеративного шага сделать не может).

Как применить:

Шаг 1: Разделение скоринга на два этапа — Не заставляйте Jev считать сложные производные метрики (человеко-часы). Используйте модель для мгновенной отсечки по жестким фильтрам (стек, риск, длина описания, ключевые слова).
Шаг 2: Реализация пайплайна фильтрации заявок —

// Схема валидации заказа для воркфлоу на базе Jev
export const jobFilterSchema = {
  questions: [
    {
      id: "matches_vibecoder_stack",
      type: "scale",
      description: "Оцени от 1 до 5 соответствие заказа стеку: Python, Telegram Bots, Next.js, API Integrations, Web Scraping"
    },
    {
      id: "has_scam_flags",
      type: "boolean",
      description: "Содержит ли заказ упоминания общения в Telegram до сделки, бесплатных тестовых заданий или вывода средств вне биржи?"
    },
    {
      id: "is_spec_clear",
      type: "boolean",
      description: "Содержит ли описание конкретный список требований, а не одну общую фразу?"
    }
  ]
};

Результат: Мгновенный скрининг сотен входящих лидов и отсеивание 90% нерелевантных заказов за доли секунды и доли копейки.

6. Принятие решений в реальном времени: от беспилотников до игр и веб-агентов

Контекст: Благодаря низкой задержке и детерминированному выводу Jev демонстрирует выдающиеся результаты в задачах управления агентами:

Автономное вождение (Tesla-like): Разработчики запустили модель управления автомобилем, собирая каждые 200 миллисекунд состояние дорожной обстановки в JSON. Jev параллельно отвечал на 4 вопроса: держать полосу или перестроиться, тормозить или разгоняться, уровень опасности (0–3), уступать ли пешеходу. Автомобиль корректно держал полосу и останавливался на красный свет.
Игры: TypeSafe показали прохождение игры Doom. Сообщество адаптировало архитектуру под Pac-Man, Тетрис, Pokemon и StarCraft. Схема единая: код передает состояние игрового поля в виде таблицы, Jev выбирает действие.
Браузерные агенты: Вместо долгого анализа DOM-дерева через LLM, Jev за 1 запрос выбирает целевое действие и ID элемента из пронумерованного списка (например, бронирование билета Цюрих — Лондон за 7 секунд). Маленькая языковая модель привлекается только для набора текста в поля ввода.

Тайминг: [08:13], [08:40], [08:56], [08:78], [08:90]

Выгода:

Сверхнизкий latency (цикл принятия решений каждые 200 мс).
Исключение сбоев парсинга: модель физически не может нажать несуществующую кнопку, так как выбирает только из переданного списка ID.
Экономия ресурсов при высокочастотных циклах управления.

Как применить:

Шаг 1: Формирование плоского списка интерактивных элементов — Скриптом извлеките интерактивные элементы страницы и пронумеруйте их от 1 до N.
Шаг 2: Запрос к Jev на выбор действия — Передайте список селекторов в виде вариантов для choice.

# Конфигурация для веб-агента быстрого выбора действий
browser_step_query = {
    "context": "Пользователь хочет купить билет из Цюриха в Лондон на завтра.",
    "page_state": "Поле 'Откуда': Цюрих. Поле 'Куда': Лондон. Кнопка 'Найти рейсы' активна.",
    "queries": [
        {
            "id": "target_element_id",
            "type": "choice",
            "options": ["btn_search_flights", "input_date", "checkbox_direct_only", "btn_cancel"]
        },
        {
            "id": "action_type",
            "type": "choice",
            "options": ["click", "focus", "wait", "scroll"]
        }
    ]
}

Результат: Высокоскоростной веб-агент, выполняющий рутинные цепочки кликов без задержек на генерацию пространных текстовых рассуждений.

7. Фильтрация контента в реальном времени через браузерное расширение

Контекст: Автор создал браузерное Chrome-расширение, которое на лету анализирует ленту статей (на примере Habr) при скролле. Расширение оценивает каждый блок статьи и подсвечивает его рамкой: красная — кликбейт, реклама или бесполезный AI-slop; зеленая — релевантные технические материалы про AI и вайбкодинг с указанием рейтинга пользы. Сравнение с Claude Sonnet показало, что Sonnet работает с заметной визуальной задержкой и стоит 0.83 рубля за экран, тогда как Jev подсвечивает карточки мгновенно при прокрутке и тратит всего 0.03 рубля (в 27 раз дешевле).

Тайминг: [09:06], [09:27], [09:79], [10:10], [10:18]

Выгода:

Инференс со скоростью естественного пользовательского скролла страницы.
Стоимость разметки всей ленты за день активного чтения — менее 1 рубля.
Защита от мусорного контента и AI-сгенерированных статей без задержек в браузере.

Как применить:

Шаг 1: Сбор текста карточки в MutationObserver — Расширение отслеживает появление новых карточек статей в DOM и собирает заголовок и сниппет.
Шаг 2: Отправка на фоновый воркер классификатора — Скрипт воркера запрашивает оценку у Jev по шкале релевантности.

// Логика content script для браузерного расширения
async function evaluateArticleCard(articleElement) {
  const title = articleElement.querySelector('.tm-title__link')?.innerText || '';
  const snippet = articleElement.querySelector('.article-formatted-body')?.innerText || '';
  
  const payload = {
    text: `Заголовок: ${title}\nТекст: ${snippet}`,
    queries: [
      {
        id: "is_ai_slop_or_ad",
        type: "boolean",
        description: "Является ли статья поверхностным AI-рерайтом, рекламой курса или кликбейтом без практической ценности?"
      },
      {
        id: "relevance_score",
        type: "scale",
        min: 1,
        max: 5,
        description: "Насколько статья полезна практикующему разработчику/вайбкодеру?"
      }
    ]
  };
 
  const result = await chrome.runtime.sendMessage({ type: "CLASSIFY_JEV", data: payload });
  
  if (result.is_ai_slop_or_ad || result.relevance_score < 3) {
    articleElement.style.border = "2px solid red";
    articleElement.style.opacity = "0.4";
  } else {
    articleElement.style.border = "2px solid green";
  }
}

Результат: Чистая лента новостей без кликбейта и рекламы с подсветкой в реальном времени.

8. Архитектурный паттерн: Гибридная система «Jev (фильтрация) + LLM (рассуждения)»

Контекст: Главный вывод из всех тестов: Jev — это не замена Claude, GPT-4o или Gemini, а принципиально новый строительный блок AI-архитектуры. Пытаться поручить Jev задачи, где нужно строить цепочки рассуждений, писать код или синтезировать смысл — ошибка. Но и гонять дорогие модели с рассуждениями (Sonnet, Opus, o3) на задачах маршрутизации запросов, валидации JSON, отсева спама и базового скоринга — финансово неэффективно. Оптимальный подход для продакшена вайбкодера — двухуровневый конвейер.

Тайминг: [10:28], [10:49], [10:71], [10:85]

Выгода:

Снижение суммарного расхода токенов большой LLM на 60–90%.
Ускорение ответа пользователю: нерелевантные или простые запросы отсекаются на уровне Jev за миллисекунды.
Защита дорогих моделей от перегрузки спам-запросами.

Как применить:

Шаг 1: Разделение обязанностей на шлюзе (Gateway) — Входящий запрос первым делом попадает в Jev.
Шаг 2: Реализация роутера — Если запрос требует глубокого ответа, генерации кода или анализа — он передается в Claude 3.5 Sonnet. Если это спам, оффтоп или простой выбор действия — Jev закрывает задачу самостоятельно.

// Архитектурный паттерн роутинга запросов в агентных системах
async function handleUserRequest(userInput: string) {
  // ШАГ 1: Быстрая и ультрадешевая классификация через Jev ($0.04 / 1M токенов)
  const classification = await callJevClassifier({
    text: userInput,
    queries: [
      { id: "intent", type: "choice", options: ["code_generation", "simple_faq", "spam", "system_command"] },
      { id: "complexity", type: "scale", min: 1, max: 5 }
    ]
  });
 
  // ШАГ 2: Обработка простых кейсов без вызова LLM
  if (classification.intent === "spam") {
    return { status: 400, message: "Запрос отклонен системой безопасности" };
  }
  
  if (classification.intent === "simple_faq" && classification.complexity <= 2) {
    return getPrecomputedFaqAnswer(userInput);
  }
 
  // ШАГ 3: Вызов тяжелой LLM только тогда, когда это действительно необходимо
  return await callClaudeSonnet({
    prompt: userInput,
    mode: "deep_reasoning"
  });
}

Результат: Отказоустойчивая масштабируемая система с расходами на API в разы ниже, чем у конкурентов, отправляющих все запросы напрямую в большие LLM.

FAQ

В: Может ли Jev отвечать текстом или генерировать код? О: Нет, модель физически не имеет декодера для свободной генерации текста. Jev может возвращать строго три типа данных: выбор одного варианта из списка (до 255 пунктов), оценка по числовой шкале (от 2 до 10 шагов) или булево значение (да/нет). Если вам нужен связный текст или написание кода, используйте стандартные LLM (Claude, GPT).

В: Почему Jev работает намного быстрее обычных LLM? О: Обычные языковые модели работают авторегрессионно — они предсказывают каждое следующее слово по очереди, прогоняя контекст заново на каждом токене. Jev прогоняет весь входящий текст через нейронную сеть ровно один раз и вычисляет вероятности для всех заданных классификационных вопросов параллельно. Поэтому время ответа практически одинаково как для одного вопроса, так и для двадцати.

В: Сколько стоит использование Jev? О: По данным каталога OpenRouter, входные токены стоят всего $0.04 (около 4 центов) за 1 000 000 токенов. Выходные токены бесплатны ($0.00), так как модель не генерирует длинные текстовые последовательности. Это в 15–40 раз дешевле вызовов Claude 3.5 Sonnet или Opus.

В: Как получить доступ к модели, если в TypeSafe AI стоит лист ожидания? О: Самый простой способ — зарегистрироваться на агрегаторе нейросетей OpenRouter. Модель доступна там по API без необходимости ожидания в очереди официального сайта. Достаточно пополнить баланс и сгенерировать API-ключ.

В: Почему в некоторых тестах Jev давал результаты, отличные от Claude Sonnet и Opus? О: Jev не обладает способностью к скрытым рассуждениям (chain-of-thought) и не додумывает контекст за пользователя. Если промпт или критерий сформулирован размыто (например, «Нужно ли ответить на письмо?»), Claude подтягивает фоновые знания о том, как принято отвечать в почте, а Jev интерпретирует вопрос строго буквально. Если составить подробное и точное ТЗ с жесткими рамками, результаты Jev практически неотличимы от флагманских моделей.

В: Для каких задач Jev не подходит категорически? О: Модель не подходит для задач, требующих синтеза новой информации, проведения многоступенчатых вычислений в уме (например, оценка стоимости проекта на основе прикидки трудозатрат), написания статей, ведения диалогов и редактирования кода.

В: Что такое показатель confidence в ответах Jev и как его применять? О: Вместе с каждым выбранным значением или оценкой Jev возвращает математическую уверенность модели в этом ответе (вероятностное распределение). Это позволяет выстраивать надежные пайплайны: если уверенность модели в классификации превышает 90%, действие выполняется автоматически; если уверенность низкая — запрос передается на валидацию человеку или более тяжелой модели.

Ресурсы и ссылки

TypeSafe AI — Официальный сайт разработчиков модели Jev — typesafe.ai
OpenRouter — Агрегатор AI-моделей, предоставляющий моментальный доступ к API Jev без ожидания — openrouter.ai
Kwork — Биржа фриланса, на данных которой тестировался алгоритм отбора лидов — упомянут в видео
Habr — Площадка, на которой демонстрировалась работа расширения для фильтрации контента — упомянут в видео

Конспект создан на основе видео «Эта новая нейросеть уничтожит CLAUDE и CHATGPT? Модель JEV от TypeSafe» канала «Нейрохайп / Артем Свиридов». Все права на оригинальный материал принадлежат авторам. Источник: https://www.youtube.com/watch?v=lWl9kfBydM0