OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch)는 OpenAI의 오픈 가중치 텍스트 모델로, Apache 2.0 라이선스로 공개되었습니다. 이는 Mixture-of-Experts (MoE) 아키텍처를 기반으로 한 21B 파라미터 모델이며, 순방향 패스당 3.6B의 활성 파라미터를 가집니다. batch 변형은 api14를 통해 텍스트 생성 엔드포인트로 제공되며, 요청에서 사용하는 모델 id는 openai/gpt-oss-20b:batch입니다.

이 모델은 텍스트 입력을 받아 텍스트 출력을 생성합니다. 컨텍스트 윈도우는 131072 토큰이고 최대 출력은 117964 토큰이며, 지식 컷오프는 2024-06-30입니다. 추론 가능 모델이므로 요청에서 추론 출력을 활성화하고 적용되는 추론 노력의 정도를 제어할 수 있습니다. 또한 구조화된 출력과 응답 형식을 지원하므로, 반환되는 텍스트의 내용뿐 아니라 형태가 중요한 작업에 적합합니다.

이러한 기능은 상당히 폭넓은 실용적 용도를 시사합니다. 긴 컨텍스트 처리는 문서 요약, 다중 파일 코드 리뷰, 대규모 참조 자료에 대한 질의응답에 적합합니다. 추론 지원은 모델이 중간 단계를 거쳐 작업하는 것이 도움이 되는 다단계 문제, 계획, 분석에 유용합니다. 도구 호출과 구조화된 출력은 에이전트 스타일 워크플로, 고정 스키마로의 데이터 추출, 기계 판독 가능한 응답이 필요한 파이프라인에 맞습니다. batch 변형은 즉각적인 상호작용보다 처리량이 중요한 워크로드, 예를 들어 오프라인 생성, 대량 분류, 데이터셋 보강을 대상으로 합니다.

api14를 통해 호출하려면 모델 id openai/gpt-oss-20b:batch와 함께 OpenAI 호환 chat completions 인터페이스를 사용하세요. 요청 본문은 frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_p를 받습니다. 이미 OpenAI 클라이언트 라이브러리를 사용하고 있다면 api14 base URL을 가리키도록 하고 기존 요청 구조를 유지한 채 모델 id와 설정하려는 파라미터만 조정하면 됩니다.

지식 컷오프를 염두에 두세요. 모델은 2024-06-30 이후의 사건을 알지 못하므로 시간에 민감한 내용은 검색이나 다른 모델이 필요할 수 있습니다. 입력은 텍스트 전용이므로 이미지나 오디오 작업은 그 범위를 벗어납니다. 워크로드에 batch 처리가 아니라 저지연 대화형 응답이 필요하다면 비 batch 배포가 더 적합할 수 있습니다.