Venice: Uncensored

Venice: Uncensored to model tekstowy opublikowany pod identyfikatorem modelu cognitivecomputations/dolphin-mistral-24b-venice-edition. Jest to dostrojony wariant Mistral-Small-24B-Instruct-2501, opracowany przez dphn.ai we współpracy z Venice.ai. Podany dla niego dostawca to Venice, a data wydania przez dostawcę to 2025-07-09. Należy do kategorii tekstowej i jest opisywany jako nieocenzurowany, dostrojony do instrukcji duży model językowy.

Model przyjmuje tekst jako dane wejściowe i zwraca tekst jako dane wyjściowe, więc jest to prosty model czatu i uzupełniania bez obsługi obrazu lub dźwięku. Ma długość kontekstu 128 000 tokenów, co pozwala na przetwarzanie długich dokumentów, rozbudowanych rozmów i dużych ładunków promptów w jednym żądaniu. Maksymalne dane wyjściowe to 8 192 tokeny, więc odpowiedzi są ograniczone znacznie poniżej rozmiaru kontekstu wejściowego. Jego data odcięcia wiedzy to 2024-04-30, co oznacza, że nie ma świadomości zdarzeń po tej dacie, chyba że zostaną one podane w prompcie.

Ponieważ jest to model dostrojony do instrukcji z dużym oknem kontekstu, pasuje do zadań takich jak odpowiadanie na pytania w długiej formie na podstawie obszernego materiału źródłowego, streszczanie lub wyodrębnianie informacji z promptów zawierających wiele dokumentów oraz agenci konwersacyjni, którzy muszą zachować długą historię. Jego nieocenzurowane dostrojenie czyni go istotnym tam, gdzie deweloper chce mniejszej liczby odmów w kwestiach wrażliwych lub kontrowersyjnych, na przykład w pisaniu fikcji, odgrywaniu ról, symulacji debat lub badaniach nad zachowaniem modelu. Limit danych wyjściowych wynoszący 8 192 tokeny oznacza, że lepiej nadaje się do odpowiedzi i szkiców niż do generowania bardzo długich dokumentów w jednym przebiegu.

Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "cognitivecomputations/dolphin-mistral-24b-venice-edition". Obsługiwane parametry żądania to frequency_penalty, max_tokens, presence_penalty, response_format, stop, temperature, top_k, top_p. Nie ma osobnej listy parametrów poza tymi, więc zachowanie próbkowania jest kontrolowane przez temperature, top_p i top_k, powtarzanie przez dwie kary, a długość danych wyjściowych przez max_tokens. Ustrukturyzowane dane wyjściowe można zażądać przez response_format, a generowanie można zatrzymać na podanych ciągach znaków za pomocą stop.

Przed podjęciem decyzji warto rozważyć dwa ograniczenia. Data odcięcia wiedzy 2024-04-30 oznacza, że pytania wrażliwe na czas wymagają wyszukiwania lub świeżego kontekstu wstrzykniętego do promptu. Maksymalne dane wyjściowe 8 192 tokenów ograniczają długość pojedynczej odpowiedzi, więc jeśli potrzebujesz znacznie dłuższych danych wyjściowych, musiałbyś łączyć wywołania lub wybrać model z wyższym limitem danych wyjściowych. Dane wejściowe są tylko tekstem, więc każde zadanie obejmujące obrazy lub dźwięk wymaga innego modelu.