아래 표는 현재 API로 제공되는 모델 목록이에요. 업스테이지는 특정 모델 버전을 가리키는 안정적인 별칭(alias) 을 제공해요. 이 별칭을 사용하면 한 번 연동해두고, 모델이 개선되거나 교체될 때마다 코드를 수정할 필요 없이 자동으로 향후 업데이트의 혜택을 받을 수 있어요.
모델은 자주 업데이트되므로 특정 모델 이름을 하드코딩하는 대신 별칭 사용을 권장해요. 다만, 별칭이 업데이트되면 프롬프트 처리 방식이나 출력 구조 등에서 모델 동작이 약간 달라질 수 있다는 점에 유의해주세요. 매끄러운 전환을 위해 최선을 다하지만, 프로덕션에서 별칭을 사용할 때는 주요 프롬프트와 응답을 검증해 보시기를 권장해요.
Chat Completions는 상태를 저장하지 않아요(stateless). 대화 기록을 서버에 보관하지 않기 때문에, 각 요청은 독립적으로 처리되고 모델은 messages에 담아 보낸 내용만 알 수 있어요.
여러 턴에 걸쳐 맥락을 유지하려면 이전 user와 assistant 메시지를 새 user 메시지와 함께 다시 보내주세요.
다시 보낸 메시지는 모두 입력 토큰으로 계산되므로, 대화가 길어질수록 턴마다 비용이 늘어나요. 대화가 모델의 컨텍스트 한도에 가까워지면 오래된 턴을 정리하거나 요약해주세요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1")messages = [ {"role": "user", "content": "My favorite color is green."}]# First turnfirst = client.chat.completions.create( model="solar-pro4", messages=messages)messages.append({"role": "assistant", "content": first.choices[0].message.content})# Second turn: the model answers from the history you sendmessages.append({"role": "user", "content": "What is my favorite color?"})second = client.chat.completions.create( model="solar-pro4", messages=messages)print(second.choices[0].message.content)# Append the response again to keep the conversation goingmessages.append({"role": "assistant", "content": second.choices[0].message.content})
스트리밍을 사용하면 응답이 모두 완성될 때까지 기다리지 않고, 생성되는 대로 텍스트를 화면에 보여줄 수 있어요. 각 청크에는 답변의 일부 텍스트가 담겨 있어서 첫 단어가 곧바로 나타나요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1")stream = client.chat.completions.create( model="solar-pro4", messages=[ { "role": "user", "content": "Hi, how are you?" } ], stream=True)for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end="", flush=True)
OpenAI SDK에서는 각 청크의 텍스트를 choices[0].delta.content에서 확인할 수 있어요. reasoning_effort로 추론을 켜면, 답변 청크가 도착하기 전에 추론 과정이 먼저 choices[0].delta.reasoning으로 스트리밍돼요. LangChain과 LlamaIndex는 위 예시처럼 각각의 청크 인터페이스를 사용해요. cURL 예시를 포함한 원시 SSE 스트림은 data: [DONE]으로 끝나요.
Solar Pro 4와 Solar Mini 4에서 Responses API를 사용할 수 있어요.
이 API는 데이터를 저장하지 않으므로 전체 대화 기록을 보내 대화를 이어가요. 이전 응답의 output 항목을 input에 추가한 다음 새 사용자 메시지를 추가하세요. previous_response_id와 conversation을 보내면 400 오류로 거부돼요.
output에 reasoning 항목이 포함될 수 있어요. 다시 보내도 괜찮지만 해당 항목은 무시되며, 매 턴마다 추론을 다시 수행해요.
from openai import OpenAIclient = OpenAI( api_key="UPSTAGE_API_KEY", base_url="https://api.upstage.ai/v1",)first = client.responses.create( model="solar-pro4", input="My name is Alex. Reply with ok.",)history = [{"role": "user", "content": "My name is Alex. Reply with ok."}]history += [item.model_dump(exclude_none=True) for item in first.output]history.append({"role": "user", "content": "What is my name?"})second = client.responses.create(model="solar-pro4", input=history)print(second.output_text) # Alex