Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
mongodb/voyage-code-4Korzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
VoyageAI od MongoDB: voyage-code-4 to model embeddingu kodu od Voyage AI, firmy należącej do MongoDB. Należy do kategorii embeddingów, więc jego zadaniem jest zamiana danych wejściowych na wektory, a nie generowanie odpowiedzi czatu. Jest zaprojektowany dla agentów kodujących i wyszukiwania kodu, co umieszcza go w tej części stosu, gdzie trzeba reprezentować kod jako wektory, które można przechowywać, porównywać i przeszukiwać.
Model przyjmuje tekst jako dane wejściowe i zwraca embeddingi jako dane wyjściowe. Ma długość kontekstu 32 000 tokenów i maksymalne wyjście 28 800, oraz używa embeddingów Matryoshka o 2048 wymiarach. Embeddingi Matryoshka można skracać do mniejszych długości, zachowując ich użyteczność, co daje elastyczność w zakresie tego, ile pamięci na wektory i obliczeń przeznaczasz. Ponieważ modalnością wejściową jest tekst, model działa na kodzie zserializowanym jako tekst, co jest sposobem, w jaki pliki źródłowe, różnice i fragmenty kodu zwykle trafiają do punktu końcowego embeddingów.
Te możliwości wskazują na dość konkretny zestaw zastosowań. Wyszukiwanie kodu jest tym podstawowym: indeksowanie repozytorium, aby zapytanie wyszukiwania, opis w języku naturalnym lub fragment kodu zwracały najbardziej odpowiednie pliki lub funkcje. Agenci kodujący mogą używać tych samych embeddingów do znajdowania odpowiedniego kontekstu przed edytowaniem lub generowaniem kodu, co utrzymuje agenta osadzonego w rzeczywistej bazie kodu, zamiast polegania na tym, co zmieści się w podpowiedzi. Kontekst 32 000 tokenów oznacza, że większe pliki lub fragmenty obejmujące wiele plików można osadzić w jednym żądaniu, a właściwość Matryoshka pozwala wymieniać rozmiar wektora na jakość wyszukiwania podczas projektowania indeksu.
Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "mongodb/voyage-code-4". Ponieważ interfejs jest zgodny z formatem OpenAI, możesz skierować istniejącego klienta OpenAI na api14 i wysyłać żądania embeddingów bez przepisywania integracji. Model nie obsługuje żadnych dodatkowych parametrów żądania, więc wysyłasz identyfikator modelu i tekst wejściowy, a odczytujesz zwrócone wektory. Nie ma tu powierzchni uzupełniania czatu ani wywoływania narzędzi czy ustrukturyzowanego wyjścia do konfiguracji.
Pamiętaj o zakresie przy jego wyborze. To model embeddingów, więc nie odpowie na pytania, nie napisze kodu ani nie poprowadzi rozmowy; połącz go z modelem generatywnym, jeśli potrzebujesz takich zachowań. Jeśli twoim zadaniem jest ogólne wyszukiwanie semantyczne w prozie, a nie w kodzie, lepiej może pasować model embeddingów tekstu, a jeśli potrzebujesz generowania, potrzebujesz zupełnie innego modelu. Do wyszukiwania kodu i kontekstu agentów kodujących voyage-code-4 jest stworzony dokładnie do tego.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "mongodb/voyage-code-4",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o VoyageAI by MongoDB: voyage-code-4.