DeepSeek: DeepSeek V3.1

DeepSeek V3.1은 DeepSeek의 텍스트 모델로, 제공업체가 2025년 8월 21일에 공개했습니다. 671B 파라미터와 37B 활성 파라미터를 갖춘 대규모 하이브리드 추론 모델이며, 2단계 장문맥 설계로 DeepSeek-V3 기반을 확장했습니다. 지식 컷오프는 2025년 3월 31일입니다. 이 모델은 텍스트 범주에 속하므로 이미지나 오디오 작업보다는 언어 작업을 대상으로 합니다.

이 모델은 텍스트를 입력받아 텍스트를 반환합니다. 프롬프트 템플릿으로 선택하는 사고 모드와 비사고 모드를 모두 지원하며, reasoning 파라미터와 include_reasoning으로 그 동작을 제어하고 노출할 수 있습니다. 컨텍스트 윈도는 163,840 토큰이고 최대 출력은 32,768 토큰입니다. 지원되는 파라미터에는 temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, logit_bias, logprobs, top_logprobs, seed, stop, max_tokens, response_format, structured_outputs, tool_choice, tools가 있습니다.

이러한 기능은 몇 가지 실용적인 용도를 가리킵니다. 긴 문서가 컨텍스트 윈도 안에 여유 있게 들어가므로 요약, 대규모 입력에 대한 질의응답, 다중 문서 분석이 적합합니다. 도구 호출과 구조화된 출력은 에이전트, 함수 호출, 기계 판독 가능한 응답이 필요한 파이프라인에 알맞습니다. 추론 모드는 단계별 사고가 도움이 되는 작업에 유용하고, 비추론 모드는 단순한 생성에서 지연 시간과 출력을 더 짧게 유지합니다. seed 파라미터는 재현 가능한 샘플링을 지원하고, logprobs는 분류나 신뢰도 확인을 지원합니다.

이 모델은 모델 id "deepseek/deepseek-chat-v3.1"을 사용해 api14의 OpenAI 호환 API로 호출합니다. 인터페이스가 OpenAI chat completions 형태를 따르므로 messages 배열을 보내고 model 필드를 해당 id로 설정합니다. 위에 나열한 요청 파라미터가 지원되므로 필요에 따라 temperature, top_p, top_k, min_p, max_tokens, stop, seed, response_format, structured_outputs, tools, tool_choice, logit_bias, logprobs, top_logprobs, frequency_penalty, presence_penalty, repetition_penalty, reasoning, include_reasoning을 전달할 수 있습니다. 페이지의 실시간 가격표가 비용을 다룹니다.

몇 가지 제한을 알아둘 만합니다. 입력과 출력은 텍스트 전용이므로 이미지, 오디오, 비디오 작업에는 다른 모델이 필요합니다. 지식 컷오프가 2025년 3월 31일이므로 그 이후 사건은 학습 데이터 밖입니다. 출력은 32,768 토큰, 전체 컨텍스트는 163,840 토큰으로 제한되므로 매우 큰 작업은 청킹이 필요합니다. 추론이나 도구 호출이 필요 없다면 더 작은 텍스트 모델이 더 단순하고 빠를 수 있습니다.