Çerez kullanıyoruz. Çerezler ve tarayıcı depolaması oturumunu açık tutar ve tercihlerini hatırlar. İzin verirsen sitenin nasıl kullanıldığını da ölçeriz. İstediğin zaman . Ayrıntılar için çerez politikamıza bak.
Meta: Llama 3.2 3B Instruct
meta-llama/llama-3.2-3b-instructMeta: Llama 3.2 3B Instruct modelini şimdi dene
Yukarıdaki fiyatlarla bakiyenden çalışır. Yeni hesaplar ücretsiz kullanımla başlar.
Tek API. Tüm modeller.
Oturum maliyeti $0,00
Ayarlar
Gelişmiş parametreler
Meta: Llama 3.2 3B Instruct bir bakışta
- Girdi fiyatı, 434 Metin modelinin medyanından 89% daha düşük.
- 131.072 token bağlam penceresi, uzun belgeler ve çok turlu konuşmalar için yeterli.
- Şemayla yapılandırılmış JSON çıktısını destekler.
- Tipik bir istek (1,000 girdi / 500 çıktı tokenı) yaklaşık $0,000764 tutar.
Meta: Llama 3.2 3B Instruct hakkında
Meta: Llama 3.2 3B Instruct, Meta tarafından geliştirilen bir metin modelidir ve api14 üzerinde meta-llama/llama-3.2-3b-instruct olarak tanımlanır. Transformer mimarisi üzerine kurulmuş, talimat takibi için ayarlanmış 3 milyar parametreli çok dilli büyük bir dil modelidir. Meta, modeli 25 Eylül 2024 tarihinde yayımlamıştır ve bilgi kesim tarihi 31 Aralık 2023'tür. Model metin kategorisinde yer alır, yani görüntü, ses veya diğer modaliteler yerine dil işlerine yöneliktir.
Girdi tarafında metin kabul eder ve metin döndürür. Bağlam penceresi 131.072 tokendır; bu, bu boyuttaki bir model için büyüktür ve tek bir istekte uzun belgeler, transkriptler veya çok turlu geçmişleri iletebilmenizi sağlar. Maksimum çıktı 117.964 tokendır, yani yanıtlar da uzun olabilir. Meta, modeli diyalog üretimi, akıl yürütme ve özetleme gibi doğal dil işleme görevleri için optimize edilmiş olarak tanımlar ve çok dilli eğitimi sayesinde birden fazla dilde istemleri işleyebilir.
Bu yetenekler oldukça net bir kullanım kümesine işaret eder. Özetleme doğal olarak uyar: uzun raporlar, toplantı notları veya makale taslakları girebilir ve daha kısa bir sürüm çıkabilir. Diyalog üretimi, modeli sohbet asistanları, destek botları ve talimat ayarının yanıtları görevde tuttuğu konuşma arayüzleri için uygun kılar. İstemde belirtilen bir problemi çözmek veya yapılandırılmamış metinden yapılandırılmış yanıtlar çıkarmak gibi akıl yürütme görevleri de kapsam içindedir. Model küçük olduğu için düşük gecikme istediğinizde veya çok sayıda istek çalıştırmak istediğinizde makul bir seçimdir ve uzun bağlam, belgeleri göndermeden önce agresif biçimde parçalara ayırmanız gerekmediği anlamına gelir.
Modeli, meta-llama/llama-3.2-3b-instruct model id'sini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız. Arayüz OpenAI biçimini izlediği için mevcut istemciler ve SDK'lar genellikle yalnızca temel URL ve model id değiştirilerek çalışır. Desteklediği istek parametreleri frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, top_k, top_logprobs ve top_p'dir. Bu, olağan örnekleme kontrollerini (temperature, top_p, top_k, min_p), tekrar cezalarını, seed ile deterministik çalışmaları, durdurma dizilerini, token sınırlarını ve logprobs ile top_logprobs üzerinden log olasılık incelemesini kapsar. Yapılandırılmış çıktılar da desteklenir; bu, yanıtın bir şemaya uyması gerektiğinde yardımcı olur.
Tartılması gereken ana şey model boyutudur. 3 milyar parametrede kompakt bir modeldir, bu nedenle derin akıl yürütme veya geniş dünya bilgisi gerektiren görevler için daha büyük bir model size daha iyi hizmet edebilir. Ayrıca yalnızca metindir, bu nedenle diğer girdi türlerini içeren her şey burada kapsam dışıdır. İş yükünüz özetleme, diyalog veya orta düzey akıl yürütme ise ve uzun bir bağlam penceresine değer veriyorsanız, bu model pratik bir uyumdur.
Meta: Llama 3.2 3B Instruct API nasıl çağrılır
- Panelinde bir API anahtarı oluştur.
- Dilin için resmi openai SDK’sını kur.
- baseURL’i https://api14.com/api/v1, model’i "meta-llama/llama-3.2-3b-instruct" olarak ayarla.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "meta-llama/llama-3.2-3b-instruct",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
Desteklenen parametreler
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyseedstopstructured_outputstemperaturetop_ktop_logprobstop_pÖzellikler
- Bağlam uzunluğu
- 131.072
- Maks. çıktı
- 72.000
- Girdi
- text
- Çıktı
- text
- Bilgi kesim tarihi
- 2023-12-31
api14 üzerindeki istekler · son 7 gün
Meta: Llama 3.2 3B Instruct: sıkça sorulan sorular
- Meta: Llama 3.2 3B Instruct API ne kadar tutar?
- Meta: Llama 3.2 3B Instruct Girdi $0,18 / 1M token tutar. Yalnızca başarılı istekler için USD bakiyenden düşülür; başarısız istekler ücretsizdir.
- Meta: Llama 3.2 3B Instruct modelinin bağlam penceresi ne kadar?
- Meta: Llama 3.2 3B Instruct istek başına 131.072 tokena kadar okur, istem, geçmiş ve belgeler dahil. Yanıt başına 72.000 çıktı tokenına kadar yazar.
- Meta: Llama 3.2 3B Instruct neler yapabilir?
- Meta: Llama 3.2 3B Instruct girdi olarak text kabul eder, çıktı olarak text döndürür. Desteklediği özellikler: yapılandırılmış JSON çıktısı.
- Meta: Llama 3.2 3B Instruct modelini kodumdan nasıl çağırırım?
- Herhangi bir OpenAI SDK’sını https://api14.com/api/v1 adresine yönlendir ve model’i "meta-llama/llama-3.2-3b-instruct" olarak ayarla, başka kod değişikliği gerekmez. Bu sayfadaki kod panelinden hazır bir örnek kopyala.
- Meta: Llama 3.2 3B Instruct alternatifleri neler?
- Benzer fiyatlı Metin modelleri: Qwen: Qwen3 30B A3B Instruct 2507, Mistral: Mistral Small 4 (batch), ByteDance Seed: Seed 1.6 Flash. Hepsi aynı API anahtarıyla çalışır; geçiş yapmak için tek bir metni değiştirmen yeterli.
Meta: Llama 3.2 3B Instruct topluluğu
Yeni konuBu toplulukta henüz konu yok. Meta: Llama 3.2 3B Instruct hakkında ilk konuyu sen aç.