DeepSeek: DeepSeek V3

DeepSeek V3 is een tekstgeneratiemodel van DeepSeek, vermeld op api14 onder het model-id deepseek/deepseek-chat. Het is het nieuwste model van het DeepSeek-team en bouwt voort op de instructieopvolging en codeervaardigheden van eerdere versies in de familie. De provider bracht het uit op 2024-12-26, en het werd vooraf getraind op bijna 15 biljoen tokens. De kennisafsluitdatum is 2024-07-31, dus alles na die datum valt buiten wat het model tijdens de training heeft geleerd.

Het model werkt alleen met tekst, zowel als invoer als uitvoer, dus het accepteert geen afbeeldingen of audio. Het biedt een contextvenster van 163.840 tokens, groot genoeg om lange documenten, uitgebreide gesprekken of omvangrijke codebestanden in één verzoek te bevatten. De maximale uitvoer is 16.384 tokens per antwoord. Omdat het een algemeen tekstmodel is met sterke instructieopvolging en codeervaardigheid, past het bij taken die het lezen en produceren van taal of code betreffen, eerder dan multimodaal werk.

Praktische toepassingen volgen rechtstreeks uit die eigenschappen. Lange context plus tekstuitvoer leent zich voor documentsamenvatting, vraagbeantwoording over lang bronmateriaal, en meerbeurtige chat waarbij eerdere beurten in beeld moeten blijven. De codeerachtergrond maakt het een redelijke keuze voor codegeneratie, uitleg en refactoring, en voor het doorwerken van een repository-groot stuk broncode in één prompt. Instructieopvolging ondersteunt extractie, herschrijven, classificatie en andere gestructureerde teksttaken, en de tool calling-parameters maken het bruikbaar als de redeneerstap in een agent-lus die externe functies moet aanroepen.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id deepseek/deepseek-chat, dus bestaande OpenAI-clientbibliotheken werken met alleen een gewijzigde base URL en sleutel. De verzoekparameters die het ondersteunt zijn frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k en top_p. In de praktijk dekt dat samplingcontrole (temperature, top_p, top_k, min_p), straffen voor herhaling, deterministische runs via seed, uitvoervormgeving met response_format en structured_outputs, en function calling via tools en tool_choice.

Twee beperkingen zijn het vermelden waard voordat je je vastlegt. Invoer en uitvoer zijn alleen tekst, dus als je taak beeld- of audiobegrip nodig heeft, is een multimodaal model de betere keuze. De kennisafsluitdatum van 2024-07-31 betekent dat het model geen ingebouwde kennis heeft van latere gebeurtenissen, dus voor tijdsgevoelige vragen moet je actuele informatie in de prompt opnemen of het koppelen aan retrieval.