🎯 О чём этот конспект: Подробное руководство по использованию Vercel AI SDK — универсальной библиотеки для работы с любыми LLM (OpenAI, Anthropic, локальные модели). Разбираются все ключевые возможности: от простой генерации текста до создания автономных агентов с вызовом инструментов (tool calling).
👤 Кому будет полезно: Вайбкодерам и Fullstack-разработчикам, которые хотят внедрить AI в свои проекты, используя типизированный и модульный подход без привязки к конкретному провайдеру.
✨ Что получите: Готовые паттерны кода для стриминга ответов, извлечения структурированных данных (JSON), работы с изображениями/PDF и настройки агентских циклов с обратной связью.
1. Унифицированный интерфейс и замена провайдеров
Контекст: Главная проблема при разработке AI-сервисов — различие API у разных вендоров (OpenAI, Anthropic, Google). Если вы захотите сменить модель, придется переписывать весь "клей" (обработку стриминга, форматов и ошибок). Vercel AI SDK решает это через абстракцию LanguageModel. Вы пишете код один раз, а затем просто подставляете нужный пакет провайдера. Это позволяет легко тестировать разные модели и избегать vendor lock-in.
Выгода: Экономия десятков часов на переписывании интеграций и возможность мгновенного переключения на более дешевую или мощную модель.
Как применить:
- Шаг 1: Установка базы —
npm— Установите основное ядро и нужных провайдеров.
npm install ai @ai-sdk/openai @ai-sdk/anthropic- Шаг 2: Инициализация модели —
TypeScript— Создайте объект модели, который будете передавать в функции SDK.
import { openai } from '@ai-sdk/openai';
import { anthropic } from '@ai-sdk/anthropic';
const model = openai('gpt-4o'); // Или anthropic('claude-3-5-sonnet-20240620')2. Генерация и стриминг текста
Контекст: Обычная генерация текста заставляет пользователя ждать полного ответа (иногда 10-20 секунд). Стриминг позволяет выводить токены по мере их генерации, что критично для UX. SDK предоставляет функции generateText (для простых задач) и streamText (для чатов и интерфейсов).
Выгода: Мгновенный отклик приложения (TTFT — Time To First Token) и улучшение пользовательского опыта.
Как применить:
- Шаг 1: Стриминг в консоль или API —
streamText— Используйте асинхронный итератор для обработки потока.
import { streamText } from 'ai';
const { textStream } = await streamText({
model: anthropic('claude-3-haiku-20240307'),
prompt: 'Напиши короткое стихотворение о коде.',
});
for await (const textPart of textStream) {
process.stdout.write(textPart);
}3. Структурированные выходы (Structured Outputs) через Zod
Контекст: Для автоматизации (например, извлечения данных в БД) нам нужен не просто текст, а валидный JSON. AI SDK интегрирован с библиотекой Zod для описания схем. Функция generateObject гарантирует, что ответ модели будет строго соответствовать заданной схеме, а TypeScript подсветит все поля.
Выгода: 100% типизация ответов AI и отсутствие ошибок парсинга JSON на бэкенде.
Как применить:
- Шаг 1: Описание схемы —
Zod— Создайте схему объекта с описанием полей (это помогает модели понять контекст). - Шаг 2: Генерация объекта —
generateObject— Передайте схему в функцию.
import { z } from 'zod';
import { generateObject } from 'ai';
const recipeSchema = z.object({
recipe: z.object({
name: z.string().describe('Название блюда'),
ingredients: z.array(z.string()).describe('Список ингредиентов'),
steps: z.array(z.string())
})
});
const { object } = await generateObject({
model: openai('gpt-4o'),
schema: recipeSchema,
prompt: 'Как приготовить яичницу?',
});
console.log(object.recipe.name); // Полная автодополняемость в IDE4. Мультимодальность: Работа с изображениями и PDF
Контекст: Современные модели (GPT-4o, Claude 3.5) умеют "видеть". AI SDK позволяет передавать файлы (картинки, документы) через массив сообщений. Вы можете передать как локальный файл в виде Uint8Array, так и просто URL.
Выгода: Возможность автоматического создания описаний (Alt-текстов), анализа чеков, счетов и графиков.
Как применить:
- Шаг 1: Передача URL —
messages— Используйте типimageилиfileв контенте сообщения.
import { generateText } from 'ai';
const { text } = await generateText({
model: openai('gpt-4o'),
messages: [
{
role: 'user',
content: [
{ type: 'text', text: 'Что на этом изображении?' },
{ type: 'image', image: new URL('https://example.com/image.jpg') }
],
},
],
});5. Tool Calling и создание автономных агентов
Контекст: Агенты — это AI, который может выполнять действия (вызывать функции). В AI SDK это реализуется через параметр tools. Главная фишка — параметр maxSteps. Он позволяет модели вызвать инструмент, получить результат и снова вызвать саму себя, чтобы обработать этот результат, формируя автономную петлю (Agentic Loop).
Выгода: Создание систем, которые сами ходят в API погоды, БД или Google Search для уточнения информации.
Как применить:
- Шаг 1: Определение инструмента —
tool— Опишите параметры и функциюexecute. - Шаг 2: Запуск цикла —
maxSteps— Укажите количество итераций.
import { tool, streamText } from 'ai';
import { z } from 'zod';
const weatherTool = tool({
description: 'Получить погоду в городе',
parameters: z.object({ city: z.string() }),
execute: async ({ city }) => ({ temperature: 25, unit: 'celsius' }),
});
const result = await streamText({
model: openai('gpt-4o'),
tools: { getWeather: weatherTool },
maxSteps: 5, // Позволяет агенту сделать до 5 шагов (вызов -> ответ -> анализ)
prompt: 'Какая погода в Лондоне и что мне надеть?',
});Vercel AI SDK: ответы на частые вопросы
В: Нужно ли платить Vercel за использование AI SDK?
О: Нет, библиотека полностью бесплатная и Open Source. Вам не нужен Next.js или аккаунт на Vercel. Вы платите только провайдерам моделей (OpenAI, Anthropic) за использованные токены через их API-ключи.
В: Можно ли использовать локальные модели через Ollama или LM Studio?
О: Да, SDK поддерживает протокол OpenAI-compatible. Вы можете создать провайдера через createOpenAI и указать локальный URL (например, http://localhost:11434/v1).
В: В чем разница между generateObject и streamObject?
О: generateObject ждет завершения генерации всего JSON и возвращает готовый объект. streamObject позволяет получать частичные данные (Partial Object) в процессе генерации, что полезно для мгновенного отображения элементов интерфейса.
В: Как SDK помогает бороться с галлюцинациями?
О: Через механизмы Tool Calling и maxSteps. Когда модель обязана вызвать инструмент для получения данных (например, из БД), она "заземляется" (grounding) на реальные факты, а не выдумывает их из весов.
В: Поддерживает ли SDK работу с векторными БД и эмбеддингами?
О: Да, в SDK есть функции embed и embedMany, а также встроенная утилита cosineSimilarity для простого семантического поиска без сложных внешних библиотек.
Конспект создан на основе видео «Vercel AI SDK Tutorial - The Best Way to Build AI Apps» канала Matt Pocock. Все права на оригинальный материал принадлежат авторам. Источник: https://www.youtube.com/watch?v=mojZpktAiYQ