Инференс как сервис
Модель поднята заранее: нужны только ключ, адрес эндпоинта и тело запроса.
AIR для разработчиков
Fireworks AI — платформа инференса открытых моделей по API, но из России ее баланс не пополнить. Те же задачи — чат, код, вызов функций, ответ по схеме — закрывает AIR API: один ключ, рубли, без VPN.
Chat Completions API
Запрос к моделям для кода через OpenAI-совместимый API
Пользователь пишет «где мой заказ A-4172». Реши, звать ли get_order, и верни аргументы вызова.
Вернула вызов get_order с order_id A-4172. Текст ответа не генерирую, пока сервис не отдаст статус.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.air.fail/v1",
apiKey: process.env.AIR_API_KEY,
});
const reply = await client.chat.completions.create({
model: "deepseek",
messages: [{ role: "user", content: "Пользователь пишет «где мой заказ A-4172». Реши, звать ли get_order, и верни аргументы вызова." }],
});
Вытащи из письма клиента сумму, срок и контакт. Ответ строго по JSON-схеме, без пояснений вокруг.
Отдала JSON по схеме: сумма 84 000, срок 15 сентября, контакт — почта менеджера. Поле «телефон» пустое, в письме его нет.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.air.fail/v1",
apiKey: process.env.AIR_API_KEY,
});
const reply = await client.chat.completions.create({
model: "qwen",
messages: [{ role: "user", content: "Вытащи из письма клиента сумму, срок и контакт. Ответ строго по JSON-схеме, без пояснений вокруг." }],
});
Вот три фрагмента документации. Ответь на вопрос про лимит воркера и укажи, какой фрагмент использован.
Ответ собран по фрагменту 2: лимит задается в конфиге воркера, ключ max_inflight. Фрагменты 1 и 3 к вопросу не относятся.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.air.fail/v1",
apiKey: process.env.AIR_API_KEY,
});
const reply = await client.chat.completions.create({
model: "gemini",
messages: [{ role: "user", content: "Вот три фрагмента документации. Ответь на вопрос про лимит воркера и укажи, какой фрагмент использован." }],
});
Посмотри хендлер оплаты: где он ляжет под нагрузкой и что чинить первым?
Нашла два места: HTTP-клиент создается на каждый запрос и есть запрос в базу внутри цикла по заказам. Прислала патч с общим пулом и батчем.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.air.fail/v1",
apiKey: process.env.AIR_API_KEY,
});
const reply = await client.chat.completions.create({
model: "claude",
messages: [{ role: "user", content: "Посмотри хендлер оплаты: где он ляжет под нагрузкой и что чинить первым?" }],
});
Fireworks AI и более 80 моделей в одном сервисе
ОткрытьFireworks AI — американская инференс-платформа для открытых языковых и мультимодальных моделей.
Модель поднята заранее: нужны только ключ, адрес эндпоинта и тело запроса.
Те же модели можно поднять самому, но платформа снимает возню с железом.
Модель отдает не текст, а имя функции и аргументы — база для агентов.
Структурный вывод в JSON парсится кодом напрямую, без регулярок.
Кроме текста принимаются изображения: скриншоты, документы, интерфейсы.
Барьера два, и оба лежат вне вашего кода.
Баланс пополняется зарубежной картой, российские, включая «Мир», не проходят. Виртуальные карты и посредники добавляют комиссию и риск: при проверке платежного профиля аккаунт закрывают вместе с остатком на балансе.
Регистрация и запросы с российских адресов отклоняются на стороне платформы, а VPN на боевом сервере решением не считается: адрес выходной ноды плавает, и однажды ночью прод отвечает ошибкой доступа.
AIR — российский агрегатор нейросетей с OpenAI-совместимым API. Один ключ открывает весь каталог, оплата — картой российского банка.
Диалог, системные промпты, длинный контекст — тот же формат, что у OpenAI SDK.
Разбор стектрейса, патч, тесты к упавшей ветке — из редактора или шага CI.
Модель выбирает инструмент и отдает аргументы для вызова своего сервиса.
Ответ по фрагментам базы знаний, извлечение полей из заявок по схеме.
Инференс в проде ломается не на качестве ответа, а на оплате, доступе и сроке интеграции. Эти три места закрываются до написания первой строки кода.
Миграция за вечер
Меняются baseURL и ключ, остальной клиентский код остается как был.
Один ключ на все
Чат, изображения, видео и звук живут за одним ключом каталога.
Проверка до оплаты
Стартовые лимиты после регистрации: модели проверяются на своих задачах.
Рубли и «Мир»
Оплата картой российского банка — без посредников, их наценки и чужого курса.
Без VPN
Сайт и API открываются из России напрямую, включая офисные сети и боевые серверы.
OpenAI-совместимый API
Тот же путь /v1/chat/completions: официальные SDK работают без правок логики.
Документация на русском
Справочник по эндпоинтам и параметрам на русском, интеграция не упирается в перевод.
Минимальный запрос и вызов функции — curl и Python. Код, написанный под OpenAI API, переносится заменой baseURL и ключа.
curl — без SDK, из любого окружения
curl https://api.air.fail/v1/chat/completions \
-H "Authorization: Bearer $AIR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek",
"messages": [
{"role": "user", "content": "TypeError в orders.py:42, стектрейс ниже. Найди причину и дай патч."}
]
}'
openai — меняется только base_url и ключ
from openai import OpenAI
client = OpenAI(
base_url="https://api.air.fail/v1",
api_key="AIR_API_KEY",
)
tools = [
{
"type": "function",
"function": {
"name": "get_order",
"description": "Достает заказ по номеру",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}
]
reply = client.chat.completions.create(
model="qwen", # id модели — из каталога в кабинете
messages=[{"role": "user", "content": "Что с заказом A-4172?"}],
tools=tools,
)
print(reply.choices[0].message)
Выбор модели решает больше, чем обвязка вокруг нее, поэтому кандидатов удобнее гонять на одном ключе.
| Модель | Сильная сторона | Когда выбирать |
|---|---|---|
| DeepSeek | Рассуждение и код при низкой цене | Поток однотипных запросов, черновики, рутина |
| Qwen | Мультиязычность и работа с инструментами | Агенты, маршрутизация, разбор обращений |
| GLM | Аккуратный структурный вывод | Ответ по JSON-схеме, извлечение полей |
| Kimi | Длинный контекст | Разбор больших документов и логов целиком |
| Claude | Ревью и длинные правки кода | Сложные изменения в большом проекте |
Три задачи, ради которых function calling и JSON-режим вообще существуют.
Модель решает, какой инструмент дернуть, и не пишет лишнего текста.
Email или Яндекс ID; иностранный номер и зарубежная карта не нужны.
В кабинете это одна кнопка, ключ открывает весь каталог.
В клиенте OpenAI укажите https://api.air.fail/v1 и новый ключ.
Стартовых лимитов хватает, чтобы сравнить кандидатов на своем трафике.
Напрямую нет: баланс не пополнить российской картой, а запросы с российских адресов платформа отклоняет. Задачи, которые решают через Fireworks AI, доступны из России через AIR API — открытые модели каталога вызываются тем же OpenAI-совместимым запросом.
Картой российского банка, включая «Мир», прямо в кабинете AIR — без посредников и валютной наценки. Это оплата моделей AIR, а не аккаунта Fireworks AI: официального способа оплатить саму платформу из России нет.
Нет. AIR — российский сервис, сайт и API открываются напрямую. Это важно для боевых серверов и офисных сетей, где VPN запрещен политиками безопасности.
Регистрация бесплатна, после нее доступны стартовые лимиты — их хватает, чтобы прогнать свои запросы и сравнить модели. Дальше оплата по токенам или подписка, смотря как часто модели в работе. Актуальный прайс — в кабинете.
Эндпоинт OpenAI-совместимый, поэтому поля tools и запрос структурного ответа отправляются обычным клиентом, без своей обвязки. Поддержка зависит от конкретной модели: проверьте выбранную на стартовых лимитах, это несколько минут.
DeepSeek, Qwen, GLM, Kimi и другие открытые модели каталога, рядом с ними флагманские Claude, GPT-5 и Gemini. Все за одним ключом: сравнение кандидатов не требует второго аккаунта.
Если вы уже используете OpenAI SDK, перенос занимает вечер: меняются baseURL, ключ и идентификатор модели. Схема запроса и ответа та же, поэтому тесты, ретраи и логирование остаются без правок.