Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
liquid/lfm-3-1.7b:freeKorzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
LiquidAI: LFM3-1.7B (free) to model tekstowy od LiquidAI, identyfikowany na api14 przez identyfikator modelu liquid/lfm-3-1.7b:free. To kompaktowy model z 1,7 miliarda parametrów, pozycjonowany przez dostawcę jako mały model tekstowy, który został poddany dodatkowemu treningowi pod kątem agentów, wywoływania narzędzi i ustrukturyzowanych wyników. Jest to model wyłącznie tekstowy w obu kierunkach: przyjmuje polecenia tekstowe i zwraca odpowiedzi tekstowe.
Model ma okno kontekstu wynoszące 262 144 tokeny, co jest dużą wartością jak na model tej wielkości i pozwala obsłużyć długie dokumenty, rozbudowane rozmowy lub spore wyniki narzędzi w pojedynczym żądaniu. Jego maksymalny wynik to 8192 tokeny. Według dostawcy model rozumuje przed udzieleniem odpowiedzi, więc odpowiedzi mogą zawierać krok rozumowania przed końcowym wynikiem. Ponieważ został poddany dodatkowemu treningowi pod kątem zachowań agentowych, wywoływanie narzędzi i ustrukturyzowane wyniki są fundamentalnymi częściami jego konstrukcji, a nie dodatkami.
Te możliwości wskazują na dość konkretny zestaw zastosowań. Długi kontekst nadaje się do streszczania lub wyodrębniania informacji z obszernych dokumentów, przeglądania dużych plików kodu oraz prowadzenia długotrwałych rozmów, w których wcześniejsze tury muszą pozostawać widoczne. Wywoływanie narzędzi czyni go kandydatem do przepływów pracy agentów, w których model decyduje, którą funkcję wywołać i z jakimi argumentami. Ustrukturyzowane wyniki pomagają, gdy odpowiedź musi być zgodna ze schematem, na przykład przy wypełnianiu pól dla usługi podrzędnej lub tworzeniu rekordów czytelnych maszynowo. Zachowanie związane z rozumowaniem jest przydatne w pytaniach wieloetapowych, gdzie krok pośredni poprawia końcową odpowiedź.
Model wywołujesz przez zgodne z OpenAI API api14, używając identyfikatora modelu liquid/lfm-3-1.7b:free, więc istniejące biblioteki klienckie OpenAI i kształty żądań działają po zmianie jedynie bazowego adresu URL i nazwy modelu. Model obsługuje szeroki zestaw parametrów żądania: temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, seed, stop, max_tokens, max_completion_tokens, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning oraz include_reasoning. Kontrolki próbkowania, takie jak temperature i top_p, obejmują zwykłe generowanie, natomiast tools i tool_choice sterują wywoływaniem funkcji, a structured_outputs lub response_format ograniczają kształt odpowiedzi. Parametry reasoning i include_reasoning odnoszą się do kroku rozumowania modelu, a seed wspiera powtarzalne próbkowanie.
Głównym ograniczeniem, o którym należy pamiętać, jest pułap wyniku: odpowiedzi są ograniczone do 8192 tokenów, mimo że okno kontekstu jest znacznie większe, więc zadania wymagające bardzo długich pojedynczych odpowiedzi mogą wymagać podzielenia pracy na wiele wywołań. Model jest również wyłącznie tekstowy, więc nie może przyjmować obrazów ani dźwięku jako danych wejściowych. W przypadku obciążeń, w których wystarcza mały, wydajny model tekstowy z wywoływaniem narzędzi i ustrukturyzowanymi wynikami, jest to rozsądny wybór; gdy zadanie zależy od innych modalności wejściowych lub od znacznie większego budżetu wyniku, lepiej posłuży inny model.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "liquid/lfm-3-1.7b:free",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
frequency_penaltyinclude_reasoninglogprobsmax_completion_tokensmax_tokensmin_ppresence_penaltyreasoningrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_pTa społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o LiquidAI: LFM3-1.7B (free).