Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
stealth/crouton-alphaKorzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
Crouton Alpha to model tekstowy od Stealth, wymieniony na api14 pod identyfikatorem modelu stealth/crouton-alpha. Stealth opisuje go jako lekki model zbudowany do skalowalnych przepływów pracy związanych z kodowaniem, zadaniami agentowymi i multimodalnymi, ukierunkowany na pracę o dużym wolumenie i powtarzalnym charakterze, taką jak podzadania agentowe, użycie narzędzi i analiza dokumentów. Należy do kategorii tekstowej i jest pozycjonowany do obciążeń, w których ten sam rodzaj żądania jest wykonywany wielokrotnie, a nie do jednorazowych sesji głębokiego rozumowania.
Model przyjmuje dane wejściowe w postaci tekstu, obrazu, wideo, plików i dźwięku, a zwraca tekst. Jego okno kontekstowe wynosi 1 048 576 tokenów, a maksymalna długość danych wyjściowych to 943 718 tokenów. To połączenie bardzo dużego kontekstu i dużego budżetu na dane wyjściowe oznacza, że można wprowadzić długie dokumenty lub multimedia wraz z instrukcjami i nadal pozostawić miejsce na obszerną wygenerowaną odpowiedź. Obsługiwane parametry żądania obejmują temperature, top_p, max_tokens, response_format, structured_outputs, tools, tool_choice, reasoning, reasoning_effort oraz include_reasoning, więc można kontrolować próbkowanie, ograniczać kształt danych wyjściowych, ujawniać rozumowanie i sterować wywoływaniem funkcji z tego samego wywołania.
Te możliwości wskazują na kilka praktycznych wzorców. Potoki agentowe pasują dobrze: przekaż modelowi narzędzia i tool_choice, a on zaplanuje i wykona podzadania w wielu krokach. Analiza dokumentów to kolejne naturalne zastosowanie, ponieważ długie pliki, obrazy i dźwięk mogą być wprowadzane jako dane wejściowe, a odpowiedź wraca jako tekst. Wspomaganie kodowania i przegląd kodu w dużych repozytoriach lub długich transkrypcjach również wynikają z rozmiaru kontekstu. Ponieważ obsługuje wideo i dźwięk jako dane wejściowe, można budować przepływy transkrypcji z analizą lub przeglądu multimediów bez osobnego modelu wstępnego przetwarzania dla każdego kroku. Ustrukturyzowane dane wyjściowe i response_format czynią go odpowiednim do zadań ekstrakcji, w których systemy niższego szczebla potrzebują przewidywalnego JSON, a nie dowolnego tekstu.
Wywoływanie go przez api14 działa tak samo jak w przypadku każdego innego punktu końcowego zgodnego z OpenAI. Skieruj klienta na bazowy adres URL api14, wyślij żądanie ukończenia czatu i ustaw pole model na stealth/crouton-alpha. Wymienione powyżej parametry są akceptowane w treści żądania, więc istniejący kod OpenAI SDK wymaga niewiele więcej niż zmiany bazowego adresu URL i podmiany identyfikatora modelu. Jeśli używasz już narzędzi lub ustrukturyzowanych danych wyjściowych gdzie indziej, te same kształty żądań się przenoszą.
Jedną rzeczą, którą warto rozważyć, jest górny limit danych wyjściowych. Maksymalna długość danych wyjściowych to 943 718 tokenów, co jest hojne, ale wciąż poniżej pełnej długości kontekstu, więc żądanie, które wypełnia całe okno, nie może jednocześnie wygenerować odpowiedzi o maksymalnej długości. W przypadku obciążeń, które są wyłącznie tekstowe i nie wymagają danych wejściowych w postaci obrazu, wideo, dźwięku lub plików, prostszy model tylko tekstowy może być lżejszym rozwiązaniem. W przypadku pracy agentowej o dużym wolumenie, kodowania i multimodalnej pracy z dokumentami Crouton Alpha jest zbudowany dokładnie do takiego kształtu zadania.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.chat.completions.create({
"model": "stealth/crouton-alpha",
"messages": [
{
"role": "user",
"content": "Explain vector databases in two sentences."
}
]
});
console.log(result.choices[0].message.content);
include_reasoningmax_tokensreasoningreasoning_effortresponse_formatstructured_outputstemperaturetool_choicetoolstop_pTa społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o Crouton Alpha.