Chat Completions API

Authorization

필수

Bearer <token>

위치: header

model

필수

string

채팅 응답 생성에 사용할 모델 별칭 또는 스냅샷입니다. 특정 버전에 고정해야 하는 경우가 아니라면 안정 별칭 사용을 권장합니다.

messages

필수

array<object>

지금까지의 대화를 구성하는 메시지 목록입니다.

reasoning_effortstringnull

모델이 답변 전에 수행하는 추론의 정도를 제어하는 선택적 파라미터입니다. 지원 여부, 허용 값, 생략 시 동작은 선택한 모델에 따라 다릅니다. 현재 Solar 모델 계열에는 요청 스키마가 모델별 제약을 적용합니다. 자세한 내용은 추론 가이드를 참고하세요.

solar-pro4와 solar-mini4에서 명시적인 null은 파라미터 생략과 동일하게 추론을 비활성화합니다. 활성화하려면 low~max 중 하나를 전달하세요.

노출된 추론 텍스트를 모델이 반환하면 비스트리밍 응답의 choices[].message.reasoning, 스트리밍 청크의 choices[].delta.reasoning에 담깁니다. 추론 텍스트 자체를 반환하지 않는 모델도 추론 토큰은 usage.completion_tokens_details.reasoning_tokens로 보고합니다.

노력 수준을 높이면 토큰 사용량, 지연 시간, 비용이 늘어날 수 있으며, 더 나은 답변이 보장되지는 않습니다.

max_tokensinteger

생성할 최대 토큰 수를 제한하는 선택적 파라미터입니다. max_tokens를 설정하면 입력 토큰 수와 max_tokens의 합이 모델의 컨텍스트 길이 이하여야 합니다.

streamboolean

응답을 스트리밍할지 지정하는 선택적 파라미터입니다. true이면 메시지를 여러 델타로 나누어 전송합니다. 토큰은 데이터만 포함하는 Server-Sent Events로 전송됩니다.

stream_optionsobject

stream이 true일 때 적용되는 설정을 담는 선택적 객체입니다.

temperaturenumber

샘플링 온도를 설정하는 선택적 파라미터입니다. 값의 범위는 0~2입니다. 0.8처럼 높은 값은 더 다양한 출력을, 0.2처럼 낮은 값은 초점이 더 뚜렷하고 무작위성이 낮은 출력을 만듭니다.

기본값은 solar-pro4에서 1.0입니다.

top_pnumber

뉴클리어스 샘플링을 사용하는 선택 파라미터입니다. 누적 확률 질량이 top_p인 토큰을 고려합니다. 예를 들어 0.1이면 확률 상위 10%를 구성하는 토큰을 고려합니다.

frequency_penaltynumber

모델의 토큰 반복 경향을 제어하는 선택적 파라미터입니다. 값의 범위는 -2.0~2.0입니다.

• 1.5 같은 양수는 토큰 반복에 대한 페널티를 높여 중복을 줄이고 출력의 다양성을 높입니다.
• -1.0 같은 음수는 페널티를 낮춰 단어나 구절을 더 자유롭게 반복하도록 합니다. 문체상 강조나 특정 형식에 유용할 수 있습니다.
• 0은 페널티를 적용하지 않으므로 모델이 학습된 패턴만을 바탕으로 텍스트를 생성합니다.

이 파라미터는 특히 긴 출력에서 창의성과 일관성의 균형을 조절하는 데 효과적입니다.

presence_penaltynumber

입력이나 생성된 텍스트에 이미 등장한 토큰을 포함하는 경향을 조절하는 선택적 파라미터입니다. 값의 범위는 -2.0~2.0입니다.

• 1.5 같은 양수는 이미 등장한 토큰에 페널티를 적용해 중복을 줄이고 새로운 아이디어나 주제로 출력을 유도합니다.
• -1.0 같은 음수는 페널티를 낮춰 기존 토큰을 다시 사용하거나 강조하도록 하므로 일관성을 유지하거나 특정 주제에 집중하는 데 도움이 될 수 있습니다.
• 0은 페널티를 적용하지 않으므로 모델이 반복 토큰에 대한 편향 없이 텍스트를 생성합니다.

일관성을 조절하거나(예: 양수로 주제 이탈 방지) 핵심 개념을 강조할 때(예: 요약·창작에서 음수 사용) 유용합니다. frequency_penalty와 달리 반복 횟수가 아닌 토큰의 등장 여부에 집중합니다.

toolsarraynull

모델이 호출할 수 있는 도구 목록입니다. 현재 도구로는 함수만 지원합니다. 자세한 내용은 도구 호출 가이드를 참고하세요. 모델이 JSON 입력을 생성할 수 있는 함수 목록을 제공하는 데 사용합니다.

tool_choicestring | object

모델이 호출할 도구와 호출 여부를 제어합니다.

• none: 도구를 호출하지 않고 메시지를 생성합니다.
• auto: 모델이 메시지 생성과 하나 이상의 도구 호출 중에서 선택합니다.
• required: 하나 이상의 도구를 반드시 호출합니다.
• {"type": "function", "function": {"name": "my_function"}}으로 특정 도구를 지정하면 해당 도구를 강제로 호출합니다.

도구가 없을 때는 none, 도구가 있을 때는 auto가 기본값입니다.

parallel_tool_callsboolean

도구 사용 시 병렬 함수 호출을 허용할지 지정합니다. 활성화하면 모델이 한 응답에 여러 도구 호출을 생성할 수 있어, 서로 독립적인 호출이 동시에 실행될 수 있습니다. 여러 도구 호출을 보장하는 설정은 아니므로 모델이 반환한 tool_calls를 그대로 처리하세요.

response_formatJSON 모드 | 구조화된 출력

모델이 생성해야 하는 형식을 지정하는 객체입니다. 두 가지 모드가 있습니다.

• JSON 모드({"type": "json_object"})는 스키마 없이 JSON 객체를 반환합니다. 대화 어딘가에 JSON이라는 단어가 포함되어야 하며, 그렇지 않으면 요청이 거부됩니다. 유효한 JSON으로 파싱할 수 있음을 보장하지만 특정 구조를 보장하지는 않으므로 호출마다 필드 이름, 유형, 중첩이 달라질 수 있습니다.
• 구조화된 출력({"type": "json_schema", "json_schema": { ... }})은 제공한 JSON Schema에 맞게 출력을 제한하므로 모든 응답에 같은 필드, 유형, 열거 값이 사용됩니다.

현재 Solar 별칭은 json_schema를 지원합니다. 자세한 내용은 구조화된 출력 가이드를 참고하세요.

type이 json_schema이면 json_schema가 필수이며, 그 외에는 무시됩니다. name, true로 설정한 strict, schema를 포함해야 합니다. OpenAI 호환 규격에 따라 스키마의 모든 객체는 additionalProperties를 false로 설정하고 모든 속성을 required에 나열해야 합니다. 선택적 값은 required에서 빼는 대신 해당 유형에 null을 추가하여 표현하세요.

prompt_cache_keystring

프롬프트 식별 및 캐시에 사용할 고유 키를 지정하는 선택적 파라미터입니다. 캐시 활용도를 높이려면 대화 컨텍스트마다 다른 키를 사용하세요.