Прокси‑сервис для генерации текста и потоковой выдачи.
URL для использования: http://llm.codex.so
Интерактивная документация: GET /docs
Для всех API‑методов требуется API‑ключ в заголовке:
x-api-key: <ВАШ_API_КЛЮЧ>
API‑ключ выдаётся администратором сервиса.
На каждый API‑ключ действует лимит обращений. При превышении вернётся:
{
"error": "limit exceeded",
"used": 123,
"limit": 100
}Коды ошибок:
- 401: отсутствует API‑ключ
- 403: недействительный API‑ключ
- 429: превышен лимит
- Назначение: синхронная генерация текста
- Заголовки:
x-api-key: <ключ>Content-Type: application/json
- Тело запроса:
prompt(string, обязательно) — текст запроса/инструкции
- Ответ 200:
{ "text": "Сгенерированный текст" } - Ошибки:
401,403,429
Пример:
curl -X POST "http://localhost:3000/generate" \
-H "Content-Type: application/json" \
-H "x-api-key: $API_KEY" \
-d '{"prompt":"Напиши приветственное сообщение"}'- Назначение: потоковая генерация текста (NDJSON)
- Заголовки:
x-api-key: <ключ>Content-Type: application/jsonAccept: application/x-ndjson(обязательно)
- Тело запроса:
prompt(string, обязательно) — текст запроса/инструкции
- Ответ 200: поток NDJSON (
Content-Type: application/x-ndjson; charset=utf-8) — каждая строка это отдельное JSON‑событие. - Ошибки:
401,403,429,406(еслиAcceptне равенapplication/x-ndjson)
События (строки NDJSON):
start— начало обработкиtext-start— начало вывода текстаtext-delta— порция сгенерированного текста:{ "type": "text-delta", "delta": "<текст>" }text-end— завершение вывода текстаreasoning-start— начало рассуждений (если поддерживается моделью)reasoning-delta— порция рассуждений:{ "type": "reasoning-delta", "delta": "<reasoning>" }reasoning-end— завершение рассужденийfinish— завершение обработки
Пример запроса (curl):
curl -N -X POST "http://localhost:3000/stream" \
-H "Content-Type: application/json" \
-H "Accept: application/x-ndjson" \
-H "x-api-key: $API_KEY" \
-d '{"prompt":"Поясни, что такое поток NDJSON и как его читать"}'Пример ответа (фрагмент, по одной JSON‑строке на событие):
{"type":"start"}
{"type":"text-start"}
{"type":"text-delta","delta":"Привет! "}
{"type":"text-delta","delta":"NDJSON — это формат, в котором "}
{"type":"text-end"}
{"type":"finish"}