쿠키를 사용합니다. 쿠키와 브라우저 저장소는 로그인 상태를 유지하고 환경설정을 기억합니다. 동의하시면 사이트 이용 방식도 측정합니다. 언제든지 할 수 있습니다. 자세한 내용은 쿠키 정책을 참고하세요.
OpenAI: GPT-4 Turbo (batch)
openai/gpt-4-turbo:batch지금 OpenAI: GPT-4 Turbo (batch) 사용해 보기
위 가격으로 잔액에서 차감됩니다. 새 계정은 무료 사용량으로 시작합니다.
설정
고급 매개변수
OpenAI: GPT-4 Turbo (batch) 한눈에 보기
- 입력 가격이 텍스트 모델 434개의 중앙값보다 1011% 높습니다.
- 128,000 토큰의 컨텍스트 윈도우, 긴 문서와 멀티턴 대화에 충분합니다.
- 에이전트와 통합을 위한 도구(함수) 호출을 지원합니다.
- 스키마 기반 구조화된 JSON 출력을 지원합니다.
- 이미지를 입력으로 받습니다(비전).
- 일반적인 요청(입력 1,000 / 출력 500 토큰)의 비용은 약 US$0.04입니다.
OpenAI: GPT-4 Turbo (batch) 소개
GPT-4 Turbo (batch)는 OpenAI의 텍스트 생성 모델로, api14에서 모델 id openai/gpt-4-turbo:batch로 제공됩니다. 이는 OpenAI의 GPT-4 Turbo 라인 중 비전 기능이 추가된 버전의 배치 변형입니다. api14는 플랫폼의 다른 모델에 사용하는 것과 동일한 OpenAI 호환 인터페이스를 통해 요청을 라우팅하므로 별도의 SDK나 통합 작업이 필요하지 않습니다.
이 모델은 텍스트와 이미지 입력을 받아 텍스트 출력을 생성하므로, 도움이 되는 경우 단일 요청에 프롬프트와 이미지를 함께 넣을 수 있습니다. 128,000 토큰의 컨텍스트 윈도우를 지원하며, 응답은 최대 4,096 토큰까지 가능합니다. 학습 데이터는 2023년 12월까지입니다. 비전 요청은 JSON 모드 및 함수 호출과 함께 작동하므로 구조화된 출력과 도구 사용이 텍스트 전용 호출로 제한되지 않습니다.
이러한 기능은 몇 가지 실용적인 패턴을 시사합니다. 긴 문서, 코드베이스 또는 대화 기록은 128,000 토큰 윈도우에 여유 있게 들어가므로, 대규모 입력에 대한 요약, 추출 및 질의응답을 과도한 청킹 없이 수행할 수 있습니다. 이미지가 입력으로 허용되므로 스크린샷 분석, 다이어그램 해석, 스캔한 페이지의 문서 파싱도 범위에 포함됩니다. 함수 호출과 구조화된 출력은 에이전트, 도구를 사용하는 워크플로, 기계 판독 가능한 응답이 필요한 파이프라인에 적합하게 해주며, JSON 모드는 다운스트림 파싱을 예측 가능하게 유지합니다.
api14에서 호출하려면 OpenAI 자체 API에서와 정확히 동일하게, model 필드를 openai/gpt-4-turbo:batch로 설정하여 chat completions 엔드포인트에 요청을 보내면 됩니다. 이 모델은 frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p를 지원합니다. 이는 샘플링 제어, seed를 통한 결정성, 토큰 제한, 중지 시퀀스, 구조화된 출력 형식 및 도구 정의를 포괄하므로, 대부분의 표준 OpenAI 스타일 요청 본문이 변경 없이 작동합니다.
확정하기 전에 주의할 두 가지 제약이 있습니다. 출력은 응답당 4,096 토큰으로 제한되므로, 매우 긴 단일 완성이 필요한 작업은 여러 호출로 나누어야 할 수 있습니다. 또한 지식 컷오프가 2023년 12월이므로, 프롬프트에 제공하지 않는 한 모델은 그 이후의 내용을 인식하지 못합니다. 워크로드에 더 새로운 지식, 더 큰 출력 예산 또는 다른 비용 프로필이 필요하다면, 이 모델을 선택하기 전에 api14에서 사용 가능한 다른 모델을 확인하세요.
OpenAI: GPT-4 Turbo (batch) API 호출 방법
- 대시보드에서 API 키를 만드세요.
- 사용하는 언어의 공식 openai SDK를 설치하세요.
- baseURL을 https://api14.com/api/v1로, model을 "openai/gpt-4-turbo:batch"로 설정하세요.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "openai/gpt-4-turbo:batch",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
지원 파라미터
frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_logprobstop_p사양
- 컨텍스트 길이
- 128,000
- 최대 출력
- 4,096
- 입력
- text, image
- 출력
- text
- 지식 기준일
- 2023-12-31
api14 요청 수 · 최근 7일
OpenAI: GPT-4 Turbo (batch): 자주 묻는 질문
- OpenAI: GPT-4 Turbo (batch) API 비용은 얼마인가요?
- OpenAI: GPT-4 Turbo (batch)의 가격은 입력 US$17.50 / 100만 토큰입니다. 성공한 요청에 대해서만 USD 잔액에서 차감되며, 실패한 요청은 무료입니다.
- OpenAI: GPT-4 Turbo (batch)의 컨텍스트 윈도우는 얼마인가요?
- OpenAI: GPT-4 Turbo (batch)는(은) 요청당 최대 128,000 토큰을 읽습니다, 프롬프트, 대화 기록, 문서를 모두 합친 양입니다. 응답당 최대 4,096개의 출력 토큰을 생성합니다.
- OpenAI: GPT-4 Turbo (batch)는(은) 무엇을 할 수 있나요?
- OpenAI: GPT-4 Turbo (batch)는(은) text, image 입력을 받아 text 출력을 반환합니다. 지원 기능: 도구 호출, 구조화된 JSON 출력.
- 코드에서 OpenAI: GPT-4 Turbo (batch)를(을) 어떻게 호출하나요?
- 어떤 OpenAI SDK든 base URL을 https://api14.com/api/v1로 지정하고 model을 "openai/gpt-4-turbo:batch"로 설정하세요, 다른 코드 변경은 필요 없습니다. 이 페이지의 코드 패널에서 바로 쓸 수 있는 예제를 복사하세요.
- OpenAI: GPT-4 Turbo (batch)의 대안은 무엇인가요?
- 비슷한 가격대의 텍스트 모델: OpenAI: GPT-4o (2024-05-13), Fireworks: Ember-1, Anthropic: Claude Sonnet 4.6. 모두 같은 API 키로 실행되므로 문자열 하나만 바꾸면 전환됩니다.
OpenAI: GPT-4 Turbo (batch) 커뮤니티
새 토픽이 커뮤니티에는 아직 토픽이 없습니다. OpenAI: GPT-4 Turbo (batch)에 대한 첫 토픽을 열어 보세요.