Moondream: Moondream 3 Preview

Moondream: Moondream 3 Preview는 Moondream의 비전-언어 모델로, api14에 text라는 주요 카테고리 아래에 등록되어 있습니다. 이는 총 파라미터 9B, 활성 파라미터 2B의 전문가 혼합(mixture-of-experts) 모델이며, 이는 요청마다 네트워크의 일부만 사용된다는 뜻입니다. 이름의 "preview" 라벨은 최종 릴리스가 아니라 세 번째 Moondream 세대의 초기 버전임을 나타냅니다. 이미지를 입력받지만 출력이 항상 텍스트이기 때문에 api14에서는 text 카테고리에 속합니다.

이 모델은 텍스트와 이미지 입력을 받고 텍스트만 반환합니다. 컨텍스트 윈도우는 32,000 토큰이고, 최대 출력은 4,096 토큰입니다. Moondream에 따르면 시각적 질의응답, 캡셔닝, OCR, 이미지에 대한 시각적 추론을 처리합니다. 지원되는 요청 파라미터는 include_reasoning, max_completion_tokens, max_tokens, reasoning, temperature, top_p입니다. reasoning과 include_reasoning의 존재는 요청할 경우 모델이 중간 추론 단계를 노출할 수 있음을 시사하지만, 그 출력의 정확한 형태는 여기서 명시되지 않습니다.

이러한 기능은 상당히 특정한 작업 집합을 가리킵니다. 시각적 질의응답은 사용자가 사진이나 스크린샷의 내용에 대해 질문하고 서면 답변을 받아야 하는 모든 곳에 적합합니다. 캡셔닝은 대체 텍스트, 카탈로그용 이미지 설명, 시각 자료 요약 생성에 알맞습니다. OCR은 스캔본, 영수증, 촬영한 문서 같은 이미지에서 텍스트를 추출해 일반 텍스트로 반환하는 것을 포괄합니다. 시각적 추론은 한 단계 더 나아가, 차트를 해석하거나 이미지가 어떤 주장과 일치하는지 확인하는 것처럼 답이 보이는 것과 질문을 결합하는 데 달려 있는 작업에 쓰입니다. 출력이 텍스트뿐이므로, 생성된 이미지가 필요할 때는 이 모델이 적합하지 않습니다.

api14의 OpenAI 호환 API를 통해 모델 id "moondream/moondream3-preview"로 호출합니다. OpenAI chat completions 형식을 지원하는 클라이언트라면 무엇이든 작동합니다. model 필드를 그 id로 설정하고 분석하려는 이미지와 함께 텍스트 프롬프트를 보내면 됩니다. temperature와 top_p로 샘플링을 조정하고, max_tokens 또는 max_completion_tokens로 응답을 제한하며, 모델의 추론을 드러내고 싶다면 reasoning 또는 include_reasoning 파라미터로 추론을 활성화하세요.

프롬프트를 설계할 때 32,000 토큰 컨텍스트와 4,096 토큰 출력 상한을 염두에 두세요. 긴 문서와 여러 이미지가 있으면 윈도우가 빠르게 채워질 수 있고, 매우 긴 답변은 잘립니다. 작업이 이미지 없는 순수 텍스트이거나, 오디오나 비디오 입력이 필요하거나, 이미지 출력이 필요하다면 api14의 다른 모델이 이 모델보다 더 적합할 것입니다.