DeepSeek: DeepSeek V3

DeepSeek V3 è un modello di generazione di testo di DeepSeek, elencato su api14 con l'id del modello deepseek/deepseek-chat. È il modello più recente del team DeepSeek, costruito sulle capacità di instruction following e di programmazione delle versioni precedenti della famiglia. Il provider lo ha rilasciato il 2024-12-26 ed è stato pre-addestrato su quasi 15 trilioni di token. Il suo knowledge cutoff è il 2024-07-31, quindi tutto ciò che è successivo a quella data è al di fuori di ciò che il modello ha appreso durante l'addestramento.

Il modello funziona solo con testo, sia in input sia in output, quindi non accetta immagini o audio. Offre una finestra di contesto di 163.840 token, sufficientemente ampia da contenere documenti lunghi, conversazioni estese o file di codice di dimensioni considerevoli in una singola richiesta. L'output massimo è di 16.384 token per risposta. Poiché è un modello di testo generale con una forte capacità di instruction following e di programmazione, si adatta a compiti che implicano la lettura e la produzione di linguaggio o codice, piuttosto che a lavori multimodali.

Gli usi pratici derivano direttamente da queste caratteristiche. Il contesto lungo unito all'output testuale si presta alla sintesi di documenti, al question answering su materiale di partenza lungo e alla chat multi turno in cui i turni precedenti devono rimanere visibili. Il background nella programmazione lo rende una scelta ragionevole per la generazione, la spiegazione e il refactoring di codice, e per elaborare una porzione di sorgente delle dimensioni di un repository in un unico prompt. L'instruction following supporta estrazione, riscrittura, classificazione e altri compiti di testo strutturato, e i parametri di tool calling lo rendono utilizzabile come passo di ragionamento in un ciclo di agente che deve chiamare funzioni esterne.

Lo si chiama tramite l'API compatibile con OpenAI di api14 usando l'id del modello deepseek/deepseek-chat, quindi le librerie client OpenAI esistenti funzionano cambiando solo la base URL e la chiave. I parametri di richiesta supportati sono frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. In pratica questo copre il controllo del campionamento (temperature, top_p, top_k, min_p), le penalità per la ripetizione, le esecuzioni deterministiche tramite seed, la modellazione dell'output con response_format e structured_outputs, e il function calling tramite tools e tool_choice.

Due limiti vale la pena notare prima di impegnarsi. Input e output sono solo testo, quindi se il tuo compito richiede comprensione di immagini o audio, un modello multimodale è la scelta migliore. Il knowledge cutoff del 2024-07-31 significa che il modello non ha una consapevolezza integrata di eventi successivi, quindi per domande sensibili al tempo dovresti fornire informazioni aggiornate nel prompt o abbinarlo al retrieval.