DeepSeek: DeepSeek V3 0324

DeepSeek V3 0324는 DeepSeek의 텍스트 모델로, 제공업체가 2025년 3월 24일에 공개했습니다. DeepSeek의 주력 채팅 모델 계열의 최신 반복 버전이며 이전 DeepSeek V3 모델을 계승합니다. 내부적으로는 685B 파라미터의 전문가 혼합(mixture-of-experts) 모델로, 이는 주어진 토큰마다 네트워크의 일부만 활성화된다는 뜻이며, 이러한 설계 덕분에 대형 모델이 매 요청마다 모든 파라미터를 활성화하지 않고도 채팅 트래픽을 처리할 수 있습니다. api14에서의 모델 id는 deepseek/deepseek-chat-v3-0324입니다.

이 모델은 텍스트 입력, 텍스트 출력 방식입니다. 텍스트 프롬프트를 받아 텍스트 완성을 반환하며, 이미지나 오디오를 입력으로 받지 않습니다. 컨텍스트 윈도우는 163,840 토큰으로, 긴 문서나 여러 파일로 이루어진 소스 트리, 또는 장시간의 대화 기록을 단일 요청에 담기에 충분히 큽니다. 최대 출력은 115,200 토큰이므로 응답도 길게 만들 수 있습니다. 지식 컷오프는 2024년 7월 31일이며, 이는 그 날짜 이후의 사건과 정보는 모델이 학습 중에 습득한 범위 밖이라는 뜻입니다.

이러한 기능은 상당히 폭넓은 실용적 용도를 시사합니다. 긴 컨텍스트는 문서 분석, 요약, 장문의 원본 자료에 대한 질의응답에 적합하며, 여러 파일에 걸친 코드 리뷰나 리팩터링에도 알맞습니다. 이 모델이 도구 호출과 구조화된 출력을 지원하기 때문에, 응답이 자유 텍스트가 아니라 스키마를 따라야 하는 에이전트 스타일 워크플로와 파이프라인에도 적합합니다. 이 모델이 채팅 모델 계열이라는 점을 고려하면 일반 채팅, 초안 작성, 편집도 자연스럽게 잘 맞습니다. 큰 출력 상한은 전체 보고서나 상당한 크기의 코드 파일을 한 번에 생성하는 것처럼 긴 산출물을 만들어내는 작업에 도움이 됩니다.

api14의 OpenAI 호환 API를 통해 모델 id deepseek/deepseek-chat-v3-0324를 사용하여 호출하므로, 기존 OpenAI SDK와 클라이언트는 base URL과 키만 바꾸면 작동합니다. 지원하는 요청 파라미터는 frequency_penalty, logprobs, max_tokens, response_format, seed, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p입니다. 이는 샘플링 제어, seed를 통한 결정적 실행, logprobs와 top_logprobs를 통한 토큰 수준 확률 검사, 그리고 tools, tool_choice, response_format, structured_outputs를 통한 함수 호출 또는 스키마 제약 출력을 포괄합니다.

고려해야 할 한 가지는 모달리티입니다. 작업이 이미지, 오디오 또는 기타 비텍스트 입력에 의존한다면 이 모델은 텍스트 전용이므로 처리할 수 없습니다. 2024년 7월 31일이라는 지식 컷오프도 최근 사건에 관한 질문에서 유의할 만하며, 이런 경우에는 검색이나 더 늦은 컷오프를 가진 모델이 더 나은 선택이 될 수 있습니다. 이러한 범위 안에서, 이 모델은 긴 컨텍스트 텍스트와 도구 기반 작업에 있어 간명한 선택입니다.