Amazon: Nova Lite 1.0

Amazon Nova Lite 1.0 är en textgenereringsmodell från Amazon, släppt den 5 december 2024. Den ingår i Amazons Nova-familj av modeller och positioneras som ett snabbt och kostnadseffektivt alternativ för multimodalt arbete. Modellen identifieras på api14 som amazon/nova-lite-v1, och Amazon är både utvecklaren och leverantören bakom den.

Modellen tar emot text- och bildindata och producerar textutdata. Den har ett kontextfönster på 300 000 tokens, vilket gör att mycket långa dokument, långa konversationer eller stora samlingar av bilder och text kan hanteras i en enda begäran. Den maximala utdatan är 5 120 tokens, så svaren är begränsade även när indatan är stor. Dess kunskapsgräns är den 31 oktober 2024, vilket innebär att den inte har information om händelser efter det datumet om inte den informationen tillhandahålls i prompten. Amazon beskriver modellen som inriktad på snabb bearbetning av bild-, video- och textindata för att generera textutdata, så snabbhet på multimodala indata är en central del av dess design.

Dessa förmågor pekar mot några praktiska användningsområden. Eftersom den läser bilder likväl som text passar den för uppgifter som att beskriva eller sammanfatta bildinnehåll, extrahera information från skärmbilder eller skannade dokument, och besvara frågor som beror på en blandning av bilder och skriftliga instruktioner. Kontexten på 300 000 tokens gör den användbar för långa rapporter, långa chatthistoriker eller partier av material som inte skulle rymmas i ett mindre fönster. Gränsen på 5 120 tokens i utdata innebär att den är bättre lämpad för sammanfattningar, svar, klassificeringar och korta genererade stycken än för att producera mycket långa dokument i ett enda anrop. Utvecklare som bygger assistenter som behöver titta på en bild och svara i text, eller pipelines som behöver bearbeta stora volymer blandad indata snabbt, är den naturliga målgruppen.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t amazon/nova-lite-v1. Eftersom gränssnittet följer OpenAI-formatet fungerar befintliga OpenAI-klientbibliotek och begäransformat i allmänhet med bara modellnamnet ändrat. De begäransparametrar som stöds är max_tokens, stop, temperature, tools, top_k och top_p. Parametern tools innebär att funktions- eller verktygsanrop är tillgängligt, så modellen kan användas i agentliknande uppsättningar där den avgör när en extern funktion ska anropas. temperature, top_k och top_p ger kontroll över sampling, medan stop låter dig definiera sekvenser som avslutar genereringen och max_tokens begränsar svarslängden.

Några begränsningar är värda att väga in innan du bestämmer dig. Utdatan är begränsad till 5 120 tokens, så om du behöver mycket långa enskilda svar kan en modell med högre utdatagräns passa bättre. Kunskapsgränsen den 31 oktober 2024 innebär att frågor om senare händelser behöver relevant kontext inkluderad i prompten. Modellen ger endast textutdata, så den kan inte generera bilder. Om din uppgift är helt och hållet text och inte drar nytta av bildindata eller en mycket stor kontext kan en enklare textbaserad modell vara tillräcklig.