reasoning_effort 파라미터는 모델이 답변 전에 추론 예산을 사용할지, 그리고 대략 어느 정도 사용할지를 제어해요. 노력 수준을 높이면 출력 토큰을 더 많이 사용하고 지연 시간과 비용이 늘어날 수 있지만, 더 좋은 답변이 보장되지는 않아요. 그러니 추론을 끈 상태나 낮은 노력 수준에서 시작하고, 여러 단계를 거쳐야 하는 작업일 때만 수준을 올리는 것을 권장해요.
어떤 값에서 추론이 켜지는지는 모델마다 다르고, 모델이 업데이트되면 이 대응 관계도 달라질 수 있어요. 고정된 동작을 가정하기보다 아래에서 설명하는 응답 필드를 확인해주세요.
모델
생략했을 때
추론을 끄는 값
추론을 켜는 값
message.reasoning 노출
solar-pro4
❌ OFF
none, minimal
low, medium, high, xhigh, max
✅ 노출
solar-mini4
❌ OFF
none, minimal
low, medium, high, xhigh, max
✅ 노출
solar-pro4는 켜지 않는 한 추론을 수행하지 않아요. reasoning_effort를 생략하거나 null로 보내면 추론이 꺼진 상태로 유지되고, low부터 max 사이 값을 보낼 때만 켜져요. 추론이 켜져 있으면 사고 과정은 choices[].message.reasoning으로, 스트리밍할 때는 choices[].delta.reasoning으로 반환돼요.
solar-mini4는 solar-pro4와 같은 규칙을 따라요. 추론을 켜고 끄는 값이 동일하고, 사고 과정도 같은 방식으로 반환돼요.
reasoning_effort를 medium으로 설정해 여러 단계를 거쳐야 하는 문제를 보내면, solar-pro4가 답변하기 전에 문제를 단계적으로 풀어요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1")response = client.chat.completions.create( model="solar-pro4", messages=[ { "role": "user", "content": "An $80 item gets a 20% discount, then 10% tax is added. What is the final price? Answer with only the dollar amount." } ], reasoning_effort="medium")message = response.choices[0].messagereasoning = getattr(message, "reasoning", None)if reasoning: print(reasoning)print(message.content)
stream을 true로 설정하면 답변이 생성되는 대로 받아볼 수 있어요. 이때 추론과 최종 답변은 서로 다른 스트림 델타로 도착해요. 노출된 사고 과정은 delta.reasoning에, 최종 답변은 delta.content에 담겨요. 두 값을 각각 따로 처리하고 누적해서, 애플리케이션이 추론 과정을 답변과 독립적으로 보여주거나 숨길 수 있도록 해주세요.
노출된 추론은 통제된 디버깅 환경에서만 표시하거나 기록해주세요. 사용자 입력이나 민감한 중간 정보가 포함될 수 있으므로, 기본적으로 프로덕션 로그에 저장하지 마세요.
SDK 대신 SSE 원본 스트림을 직접 읽는다면, 스트림은 data: [DONE] 줄로 끝나요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1")stream = client.chat.completions.create( model="solar-pro4", messages=[ { "role": "user", "content": "An $80 item gets a 20% discount, then 10% tax is added. What is the final price? Answer with only the dollar amount." } ], reasoning_effort="medium", stream=True)reasoning_started = Falseanswer_started = Falsefor chunk in stream: delta = chunk.choices[0].delta reasoning = getattr(delta, "reasoning", None) if reasoning: if not reasoning_started: print("[Reasoning]") reasoning_started = True print(reasoning, end="", flush=True) if delta.content: if not answer_started: print("\n\n[Answer]") answer_started = True print(delta.content, end="", flush=True)
Solar Pro 4와 Solar Mini 4에서 Responses API를 사용할 수 있어요.
reasoning.effort를 설정해 추론을 활성화하세요. 토큰 한도에는 추론과 답변이 모두 포함돼요. 추론 내용은 output에서 유형이 reasoning인 항목으로 확인하고, 추론에 사용한 토큰 수는 usage.output_tokens_details.reasoning_tokens에서 확인하세요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1",)response = client.responses.create( model="solar-pro4", input="What is 17 * 23? Answer with the number only.", reasoning={"effort": "medium"}, max_output_tokens=2000,)for item in response.output: if item.type == "reasoning": # Reasoning can contain user input. Do not log it in production. print("reasoning:", item.content[0].text)print("reasoning tokens:", response.usage.output_tokens_details.reasoning_tokens)print("answer:", response.output_text)