OpenAI: o3 (batch)

OpenAI o3 (batch)는 OpenAI의 텍스트 모델로, 여기서는 모델 id openai/o3:batch로 제공됩니다. 이는 o3 제품군에 속하며, OpenAI는 이 제품군을 수학, 과학, 코딩 및 시각적 추론 작업에서 새로운 기준을 세우는, 여러 영역에 걸쳐 균형 잡히고 강력한 모델로 설명하며, 기술 문서 작성과 지시 따르기에서도 좋은 성능을 보입니다. batch 변형은 api14의 batch 스타일 엔드포인트를 통해 표면화된 동일한 기반 모델이므로, 모든 응답을 인라인으로 받을 필요 없이 작업을 제출하고 결과를 수집할 수 있는 워크로드에 적합합니다.

이 모델은 이미지, 텍스트 및 파일 입력을 받고 텍스트를 반환합니다. 컨텍스트 윈도우는 200,000 토큰이고 최대 출력은 100,000 토큰이므로, 동일한 요청 안에서 긴 입력과 긴 생성이 모두 가능합니다. 지식 컷오프는 2024-06-30이며, 이는 작업이 최근 사건이나 새로 공개된 자료에 의존할 때 중요합니다. 텍스트와 함께 이미지와 파일을 받기 때문에, 문서와 질문, 또는 스크린샷과 지시처럼 혼합된 입력을 별도의 전처리 모델 없이 처리할 수 있습니다.

이러한 기능은 상당히 넓은 실용적 용도를 가리킵니다. 다단계 수학, 과학적 문제 해결, 코드 생성 또는 디버깅처럼 추론이 중요한 작업이 자연스럽게 맞고, 다이어그램, 차트 또는 스크린샷에 대한 시각적 추론도 마찬가지입니다. 기술 문서 작성과 지시 따르기는 구조화된 문서화, 명세 초안 작성, 그리고 모델이 형식을 유지해야 하는 작업에 사용할 수 있게 해줍니다. 200,000 토큰 컨텍스트는 긴 보고서, 큰 소스 파일 또는 여러 문서 입력에 도움이 되고, 100,000 토큰 출력 상한은 단일 호출에서 장문 생성을 지원합니다.

모델 id openai/o3:batch를 사용해 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 파라미터는 include_reasoning, max_tokens, reasoning, response_format, seed, structured_outputs, tool_choice 및 tools입니다. 실제로 이는 추론 동작과 추론 노출 여부를 제어하고, max_tokens로 출력 길이를 제한하며, response_format과 structured_outputs를 통해 구조화된 또는 JSON 스타일 출력을 요청하고, seed로 실행을 재현 가능하게 만들며, tools와 tool_choice로 함수 호출을 정의할 수 있다는 뜻입니다.

주목할 만한 한 가지 제한은 2024-06-30의 지식 컷오프이므로, 애플리케이션에 최신 정보가 필요하면 프롬프트나 도구를 통해 이를 제공해야 합니다. 작업이 순전히 텍스트이고 추론, 이미지 또는 파일 입력의 이점이 없다면 더 가벼운 텍스트 모델이 더 적합할 수 있습니다.