OpenAI API Check | задержка, кеш, чистота модели и relay test
Онлайн-проверка OpenAI API и OpenAI-compatible реле: связность, P95/TTFT задержка, чистота модели, prompt cache, лимиты и стоимость токенов.
Краткий ответ
OpenAI API check проверяет связность, response model field, P95 задержку, TTFT, cached_tokens, rate limit behavior и token usage, чтобы понять стабилен ли канал и нет ли relay-аномалий.
Как это работает
- 1Выберите OpenAI-compatible протокол.
- 2Введите API base URL, model id и временный API key.
- 3Запустите streaming и non-streaming пробы для задержки, TTFT и usage fields.
- 4Проверьте cached_tokens и согласованность идентичности модели.
Сценарии
- Проверить доступность официального OpenAI API.
- Понять, удаляет ли OpenAI-compatible реле cache fields.
- Проверить задержку GPT-моделей перед production.
- Разобрать ошибки 401, 429, 5xx или invalid model.
Ключевые метрики
Связность
Auth, model id и базовая валидность ответа
cached_tokens
OpenAI usage field для prompt cache hit
TTFT
Streaming time to first token
Лимиты
429 и x-ratelimit response headers
Почему OpenAI-compatible API нужно тестировать отдельно
Многие gateway заявляют совместимость с OpenAI, но usage, streaming, tool calls, cache fields и error codes могут отличаться. Проверка выявляет это до запуска.
Как использовать отчет
Используйте отчет для первичного отбора каналов и pre-rollout приемки. Для закупки повторите тесты с фиксированным регионом, бизнес prompt и большей выборкой.
Связанные запросы
FAQ
AIBench хранит мой OpenAI API key?
Нет. Ключ используется только для текущей проверки и не записывается в отчеты, логи или базу данных. Лучше использовать временный тестовый ключ.
Можно ли тестировать OpenAI-compatible реле?
Да. Введите base URL реле и model id. Отчет фокусируется на задержке, cache fields, чистоте модели и rate limit behavior.
Руководства и сравнения
Запустить реальную проверку API
Вставьте временный тестовый ключ и проверьте задержку, чистоту модели, кеш, лимиты и стоимость.