Venice: Uncensored

Venice: Uncensored è un modello di testo pubblicato con il model id cognitivecomputations/dolphin-mistral-24b-venice-edition. È una variante fine-tuned di Mistral-Small-24B-Instruct-2501, sviluppata da dphn.ai in collaborazione con Venice.ai. Il provider indicato per esso è Venice, e la data di rilascio del provider è 2025-07-09. Si colloca nella categoria testo ed è descritto come un large language model instruct-tuned non censurato.

Il modello accetta testo come input e restituisce testo come output, quindi è un modello di chat e completion semplice, senza gestione di immagini o audio. Ha una lunghezza di contesto di 128.000 token, che consente di elaborare documenti lunghi, conversazioni estese e grandi payload di prompt in una singola richiesta. L'output massimo è di 8.192 token, quindi le risposte sono limitate ben al di sotto della dimensione del contesto di input. Il suo knowledge cutoff è 2024-04-30, il che significa che non ha consapevolezza di eventi successivi a tale data, a meno che non siano forniti nel prompt.

Poiché è un modello instruct-tuned con una finestra di contesto ampia, si adatta a compiti come question answering in forma lunga su materiale sorgente esteso, riassunto o estrazione di informazioni da prompt multi-documento, e agenti conversazionali che devono conservare una lunga cronologia. Il suo tuning non censurato lo rende rilevante dove uno sviluppatore desidera meno rifiuti su argomenti sensibili o controversi, per esempio nella scrittura di narrativa, nel roleplay, nella simulazione di dibattiti o nella ricerca sul comportamento dei modelli. Il limite di output di 8.192 token significa che è più adatto a risposte e bozze che a generare documenti molto lunghi in un'unica passata.

Lo si chiama tramite l'API compatibile con OpenAI di api14 usando il model id "cognitivecomputations/dolphin-mistral-24b-venice-edition". I parametri di richiesta supportati sono frequency_penalty, max_tokens, presence_penalty, response_format, stop, temperature, top_k, top_p. Non esiste un elenco separato di parametri oltre a questi, quindi il comportamento di campionamento è controllato tramite temperature, top_p e top_k, la ripetizione tramite le due penalità, e la lunghezza dell'output tramite max_tokens. L'output strutturato può essere richiesto tramite response_format, e la generazione può essere interrotta su stringhe date con stop.

Due vincoli meritano una valutazione prima di impegnarsi. Il knowledge cutoff del 2024-04-30 significa che le domande sensibili al tempo richiedono retrieval o contesto aggiornato iniettato nel prompt. L'output massimo di 8.192 token limita la lunghezza di una singola risposta, quindi se servono output molto più lunghi bisognerebbe concatenare le chiamate o scegliere un modello con un limite di output più alto. L'input è solo testo, quindi qualsiasi compito che coinvolga immagini o audio richiede un modello diverso.