OpenAI: GPT-4o-mini

GPT-4o-mini는 2024년 7월 18일에 출시된 OpenAI의 텍스트 생성 모델입니다. 이 모델은 OpenAI의 소형 모델 라인에 속하며, 해당 계층에서 GPT-4o의 후속 모델로 자리매김하고 있고, 단일한 좁은 작업보다는 범용 텍스트 작업을 위해 만들어졌습니다. 애플리케이션의 기본 모델을 선택하는 상황이라면, 이것은 다양한 일상적 요청을 처리하도록 의도된 종류의 모델입니다.

이 모델은 텍스트, 이미지, 파일을 입력으로 받고 텍스트만 반환합니다. 컨텍스트 윈도는 128,000 토큰이고, 최대 출력은 16,384 토큰입니다. 지식 컷오프는 2023년 10월 31일이므로, 그 이후의 내용은 모델이 학습 중에 습득한 범위 밖입니다. 텍스트와 함께 이미지 및 파일 입력이 지원되므로, 단일 요청에 혼합 콘텐츠를 보내고 텍스트 답변을 받을 수 있으며, 이는 애플리케이션이 이미 텍스트 프롬프트로 동작하는 경우 통합을 단순하게 유지해 줍니다.

이러한 기능은 몇 가지 실용적인 용도를 가리킵니다. 문서 및 파일 분석은 자연스러운 적합성인데, 파일을 전달하고 요약, 추출 또는 내용에 대한 질의응답을 요청할 수 있기 때문입니다. 이미지 이해는 스크린샷 설명, 차트 읽기, 사진에서 구조화된 세부 정보 추출 같은 작업을 포괄합니다. 일반 채팅, 초안 작성, 분류, 재작성, 코드 지원은 모두 텍스트만으로 동작합니다. 큰 컨텍스트 윈도 덕분에 긴 문서나 다중 턴 대화를 여러 개의 작은 요청으로 나누지 않고 처리할 수 있고, 16,384 토큰 출력 상한은 더 긴 생성 답변을 위한 여유를 제공합니다.

모델 id "openai/gpt-4o-mini"를 사용해 api14의 OpenAI 호환 API를 통해 이 모델을 호출합니다. 인터페이스가 OpenAI 형식을 따르므로, 기존 OpenAI SDK와 클라이언트는 base URL과 키 변경만으로 동작합니다. 이 모델은 다양한 요청 매개변수를 지원합니다: frequency_penalty, logit_bias, logprobs, max_completion_tokens, max_tokens, prediction, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_logprobs, top_p, web_search_options. 도구 호출과 구조화된 출력을 사용할 수 있으므로, 모델을 함수 호출 흐름에 연결하거나 응답을 스키마로 강제할 수 있습니다. seed 매개변수는 재현성에 도움이 되고, web_search_options는 요청이 검색을 활용할 수 있게 해 줍니다.

확정하기 전에 주목할 만한 두 가지 한계가 있습니다. 2023년 10월 31일이라는 지식 컷오프는 모델이 그 이후 사건을 내장적으로 인식하지 못한다는 뜻이므로, 시간에 민감한 질문은 모델에만 의존하지 말고 검색이나 탐색이 필요합니다. 출력은 텍스트뿐이므로, 생성된 이미지나 오디오가 필요하다면 이 모델은 적합한 선택이 아닙니다. 이러한 범위 안에서 이 모델은 텍스트 및 이미지 이해 워크로드에 합리적인 기본값입니다.