Moondream: Moondream 3.1

Moondream: Moondream 3.1은 이전 Moondream 릴리스를 만든 동일한 팀인 Moondream의 비전-언어 모델입니다. Moondream 3 Preview의 후속 모델이며, 총 9B 파라미터와 2B 활성 파라미터를 가진 mixture-of-experts 설계를 사용합니다. 이 조합은 모델이 큰 전체 용량을 가지면서도 요청당 더 작은 일부만 활성화한다는 것을 의미하며, 이는 모델의 지식을 줄이지 않으면서 추론 효율을 유지하는 일반적인 방식입니다. api14에서는 텍스트 카테고리에 속하지만, 이 모델의 정의적인 특징은 텍스트뿐 아니라 이미지도 읽는다는 점입니다.

입력 측면에서 Moondream 3.1은 텍스트와 이미지를 모두 받아들이고 텍스트만 생성합니다. 컨텍스트 윈도는 32,000 토큰이고 최대 출력 길이는 4,096 토큰입니다. 제공자는 이 모델이 시각적 질의응답, 캡셔닝, OCR 등의 작업을 포괄한다고 설명합니다. 이것들은 핵심 비전-언어 동작입니다. 이미지에 무엇이 있는지에 대한 질문에 답하고, 이미지에 대한 서면 설명을 생성하고, 이미지 안에 나타나는 텍스트를 추출하는 것입니다. 컨텍스트 윈도는 이미지 입력과 텍스트 프롬프트 사이에 공유되므로, 이미지가 더 크거나 더 많을수록 지시문과 대화 기록을 위한 공간이 줄어듭니다.

실용적인 사용 사례는 이러한 기능에서 직접 따라옵니다. 시각적 질의응답은 사용자가 사진이나 스크린샷을 업로드하고 그 내용에 대해 질문하는 대화형 도구에 적합합니다. 캡셔닝은 대체 텍스트, 미디어 설명 또는 이미지 자산의 짧은 요약이 필요한 파이프라인에 맞습니다. OCR은 스캔, 스크린샷, 양식 또는 문서 사진에서 텍스트를 추출하고 그 텍스트를 이후 단계로 넘기는 데 유용합니다. 이 모델은 일반 텍스트도 받으므로 지시문과 이미지가 함께 도착하는 혼합 프롬프트를 처리할 수 있어, 문서 및 이미지 검토 워크플로의 통합이 단순해집니다.

모델 id "moondream/moondream3.1-9b-a2b"를 사용하여 api14의 OpenAI 호환 API를 통해 호출합니다. 지원되는 요청 파라미터는 include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature, top_p입니다. temperature와 top_p는 샘플링을 제어하고, 토큰 파라미터는 생성된 응답의 길이를 제한합니다. reasoning과 include_reasoning 파라미터는 모델의 추론 동작을 노출하는 것과 관련되므로, 해당 출력이 필요하지 않다면 클라이언트가 이를如何处理하는지 확인하세요. 인터페이스가 OpenAI 호환 방식이므로 기존 SDK와 채팅 스타일 요청 형태는 모델 id와 메시지의 이미지 콘텐츠 외에는 일반적으로 변경 없이 작동합니다.

이 모델을 선택할 때 제한을 염두에 두세요. 32,000 토큰 컨텍스트와 4,096 토큰 출력 상한은 확고한 경계이므로, 매우 긴 문서나 긴 다중 턴 이미지 대화는 청킹이나 트리밍이 필요할 수 있습니다. 출력은 텍스트뿐이므로 이미지를 생성하거나 편집하지 않습니다. 작업이 순전히 텍스트이고 이미지를 포함하지 않는다면 텍스트 전용 모델이 더 단순한 선택일 수 있습니다. Moondream 3.1은 요청에 실제로 해석할 이미지가 포함될 때 가장 가치가 있습니다.