Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0, Amazon tarafından 5 Aralık 2024 tarihinde yayımlanan bir metin üretim modelidir. Amazon'un Nova model ailesinde yer alır ve çok kipli işler için hızlı, düşük maliyetli bir seçenek olarak konumlandırılmıştır. Model, api14 üzerinde amazon/nova-lite-v1 olarak tanımlanır ve hem geliştiricisi hem de sağlayıcısı Amazon'dur.

Model, metin ve görüntü girdilerini kabul eder ve metin çıktısı üretir. 300.000 token'lık bir bağlam penceresine sahiptir, bu da çok uzun belgelerin, uzun konuşmaların veya büyük görüntü ve metin koleksiyonlarının tek bir istekte işlenmesine olanak tanır. Maksimum çıktı 5.120 token'dır, yani girdi büyük olsa bile yanıtlar sınırlıdır. Bilgi kesim tarihi 31 Ekim 2024'tür, yani bu tarihten sonraki olaylar hakkında bilgiye sahip değildir, ancak bu bilgi istem içinde verilirse kullanılabilir. Amazon, modeli görüntü, video ve metin girdilerinin hızlı işlenmesiyle metin çıktısı üretmeye odaklı olarak tanımlar, dolayısıyla çok kipli girdilerde hız tasarımının merkezi bir parçasıdır.

Bu yetenekler birkaç pratik kullanıma işaret eder. Metnin yanı sıra görüntüleri de okuduğu için görüntü içeriğini tanımlama veya özetleme, ekran görüntülerinden ya da taranmış belgelerden bilgi çıkarma ve resimlerle yazılı talimatların karışımına bağlı soruları yanıtlama gibi görevlere uygundur. 300.000 token'lık bağlam, uzun raporlar, uzun sohbet geçmişleri veya daha küçük bir pencereye sığmayacak malzeme grupları için kullanılabilir kılar. 5.120 token'lık çıktı sınırı, tek bir çağrıda çok uzun belgeler üretmekten çok özetler, yanıtlar, sınıflandırmalar ve kısa üretilmiş pasajlar için daha uygun olduğu anlamına gelir. Bir görüntüye bakıp metinle yanıt vermesi gereken asistanlar veya büyük hacimli karma girdiyi hızlıca işlemesi gereken ardışık düzenler geliştirenler doğal hedef kitlesidir.

Modeli, amazon/nova-lite-v1 model kimliğini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız. Arayüz OpenAI biçimini izlediği için mevcut OpenAI istemci kitaplıkları ve istek yapıları genellikle yalnızca model adı değiştirilerek çalışır. Desteklenen istek parametreleri max_tokens, stop, temperature, tools, top_k ve top_p'dir. tools parametresi, işlev veya araç çağrısının kullanılabilir olduğu anlamına gelir, böylece model harici bir işlevi ne zaman çağıracağına karar verdiği ajan tarzı kurulumlarda kullanılabilir. temperature, top_k ve top_p örnekleme üzerinde kontrol sağlar; stop üretimi sonlandıran dizileri tanımlamanıza izin verir ve max_tokens yanıt uzunluğunu sınırlar.

Karar vermeden önce tartılması gereken birkaç sınır vardır. Çıktı 5.120 token ile sınırlıdır, bu nedenle çok uzun tek yanıtlara ihtiyacınız varsa daha yüksek çıktı sınırına sahip bir model daha uygun olabilir. 31 Ekim 2024 bilgi kesim tarihi, sonraki olaylarla ilgili soruların istem içinde ilgili bağlamı içermesi gerektiği anlamına gelir. Model yalnızca metin çıktısı verir, bu nedenle görüntü üretemez. Göreviniz tamamen metinse ve görüntü girdisinden veya çok büyük bir bağlamdan fayda sağlamıyorsa, daha basit bir yalnızca metin modeli yeterli olabilir.