Обзор

Можно заставить модель отвечать валидным JSON — либо по строгой схеме (OpenAI-совместимый эндпоинт), либо просто в JSON-режиме (REST). Поддержка зависит от выбранной модели.

JSON Schema

Через /v1/chat/completions передайте response_format с type: "json_schema" и описанием схемы:

…

JSON-режим (REST)

В REST-эндпоинте /api/v1/chat достаточно флага response_format_json: true — модель вернёт JSON-объект (без строгой схемы).

…