Генерация текста

Генерация текста — основная задача языковых моделей: на вход подаётся диалог, на выходе получается следующее сообщение. Через эндпоинт /v1/chat/completions доступна любая текстовая модель каталога, независимо от того, кто её создал.

Сообщения и роли

Диалог передаётся списком messages. У каждого сообщения есть роль и содержимое:

Системное сообщение необязательно, но именно оно управляет поведением модели надёжнее, чем просьба внутри пользовательского сообщения. Ставится первым в списке.

Модель не помнит переписку

Каждый запрос обрабатывается независимо: предыдущие обращения модели недоступны. Чтобы диалог продолжался, всю историю нужно отправлять заново — вместе с ответами модели в роли assistant.

{
    "model": "openai/gpt-5-mini",
    "messages": [
        {"role": "system", "content": "Отвечай одним предложением."},
        {"role": "user", "content": "Назови столицу Австралии."},
        {"role": "assistant", "content": "Столица Австралии — Канберра."},
        {"role": "user", "content": "А сколько там жителей?"}
    ]
}

Без третьего сообщения модель не поняла бы, о каком городе идёт речь в четвёртом.

Длина истории ограничена размером контекста модели. Когда переписка перестаёт помещаться, старые сообщения обычно отбрасывают или заменяют кратким пересказом.

Параметры

Кроме model и messages запрос принимает параметры, управляющие ответом:

Пример запроса с системным сообщением и параметрами:

curlpythonnode.js
curl "https://api.proxyapi.ru/v1/chat/completions" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer <КЛЮЧ>" \
    -d '{
        "model": "openai/gpt-5-mini",
        "messages": [
            {"role": "system", "content": "Ты редактор. Отвечай кратко."},
            {"role": "user", "content": "Сократи: длинное предложение о погоде."}
        ],
        "temperature": 0.3,
        "max_tokens": 200
    }'

Ответ

Текст лежит в choices[0].message.content. Рядом приходят finish_reason и usage:

{
    "choices": [
        {
            "index": 0,
            "message": {"role": "assistant", "content": "Завтра тепло."},
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 24,
        "completion_tokens": 3,
        "total_tokens": 27
    }
}

finish_reason объясняет, почему модель остановилась:

usage показывает расход токенов: prompt_tokens — то, что ушло на вход вместе со всей историей, completion_tokens — сгенерированный ответ. По этим числам считается стоимость запроса.

Что дальше

• Стриминг — как получать ответ по частям, не дожидаясь конца.
• Вызов функций — как модель обращается к внешнему коду.
• Модели — какие текстовые модели доступны.