Потоковые ответы
События SSE в Chat Completions и Responses: получение текста, завершение, ошибки и стоимость запроса.
Включение потока
Передайте stream: true в Chat Completions или Responses. В curl используйте -N, чтобы отключить буферизацию вывода. Поток возвращается с Content-Type: text/event-stream.
curl -N --fail-with-body https://gateway.orlime.ru/v1/chat/completions \
-H "Authorization: Bearer $ORLIME_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-6.1-sol",
"messages": [
{
"role": "user",
"content": "Привет!"
}
],
"stream": true,
"stream_options": {
"include_usage": true
}
}'Chat Completions: чанки
Текст накапливается из choices[].delta.content. Аргументы инструментов — из delta.tool_calls с группировкой по index. id одинаков во всех чанках одного запроса.
data: {"id":"d2075c15-6fde-4ba8-bfd7-a246f58bce11","object":"chat.completion.chunk","model":"openai/gpt-6.1-sol","choices":[{"index":0,"delta":{"role":"assistant","content":"Привет!"},"finish_reason":null}]}
data: {"id":"d2075c15-6fde-4ba8-bfd7-a246f58bce11","object":"chat.completion.chunk","model":"openai/gpt-6.1-sol","choices":[],"usage":{"prompt_tokens":12,"completion_tokens":4,"total_tokens":16,"cost_rub":"0.004000000000"}}
data: [DONE]
Пустой choices у события со статистикой — нормальный случай. Признак finish_reason завершает выбор модели; весь поток заканчивается [DONE].
Responses: именованные события
event: response.output_text.delta
data: {"type":"response.output_text.delta","sequence_number":2,"item_id":"msg_example","output_index":0,"content_index":0,"delta":"Привет!"}
event: response.completed
data: {"type":"response.completed","sequence_number":3,"response":{"id":"d2075c15-6fde-4ba8-bfd7-a246f58bce11","object":"response","model":"openai/gpt-6.1-sol","status":"completed","previous_response_id":null,"error":null,"output":[{"id":"msg_example","type":"message","role":"assistant","content":[{"type":"output_text","text":"Привет!","annotations":[]}]}],"usage":{"input_tokens":12,"output_tokens":4,"total_tokens":16,"cost_rub":"0.004000000000"}}}
response.created / in_progress / queuedeventЖизненный цикл- Вложенный response содержит публичный ID и текущее состояние.
response.output_item.added / doneeventЭлементы- Создание и завершение элемента output: сообщения, рассуждения или вызова инструмента.
response.content_part.added / doneeventЧасти сообщения- Индекс части content и её типизированное содержимое.
response.output_text.delta / doneeventТекст- delta — фрагмент текста; text у done — полный текст части. Не добавляйте оба к результату.
response.function_call_arguments.delta / doneeventФункции- delta — часть аргументов; arguments у done — полная JSON-строка.
response.reasoning_summary_* / reasoning_text.*eventРассуждения- Части и текст сводки либо рассуждений, если модель их возвращает.
response.completed / incomplete / failedeventЗавершение- Итоговый response. incomplete — ограничение генерации; failed — ошибка. У завершённого расчёта стоимость в response.usage.cost_rub.
Модели с соответствующими возможностями также возвращают события отказа refusal, аудио, генерации изображений, поиска, интерпретатора кода и MCP. Обрабатывайте события по type, а не по порядковому номеру пакета.
Правила обработки
Граница сетевого пакета не совпадает с границей события: один JSON может прийти несколькими фрагментами, включая разделённый UTF-8 символ. Сначала соберите SSE-событие до пустой строки, затем разбирайте data как JSON. Строки комментариев, начинающиеся с двоеточия, можно игнорировать.
Подробнее — ошибки и повторы. Стоимость появляется после расчёта, не в каждом фрагменте текста.
