Qwen: Qwen2.5 VL 72B Instruct

Qwen: Qwen2.5 VL 72B Instruct is een vision language model van Qwen, de modelfamilie die is ontwikkeld door Alibaba Cloud. De "72B" in de naam verwijst naar de grootte van het onderliggende model, en "Instruct" geeft aan dat het is afgestemd om instructies op te volgen in plaats van alleen tekst te vervolgen. Het staat in de tekstcategorie op api14 en wordt geïdentificeerd door de releasedatum van de provider van 1 februari 2025. Als je met andere Qwen-modellen hebt gewerkt, breidt dit model dezelfde afstamming uit naar invoer die naast tekst ook afbeeldingen bevat. De provider beschrijft het als bedreven in het herkennen van veelvoorkomende objecten zoals bloemen, vogels, vissen en insecten, en als zeer bekwaam in het analyseren van teksten, grafieken, pictogrammen, afbeeldingen en lay-outs binnen afbeeldingen.

Het model accepteert tekst- en afbeeldingsinvoer en retourneert alleen tekst. Het contextvenster is 128.000 tokens, en de maximale uitvoer is 115.200 tokens, dus lange documenten en langdurige generaties passen beide comfortabel in één verzoek. De kennisafsluitdatum is 30 juni 2024, wat van belang is wanneer je vragen afhangen van gebeurtenissen of releases na die datum. Omdat afbeeldingen een eersteklas invoer zijn, kun je een prompt sturen die instructies en visueel materiaal combineert, en het model redeneert over beide bij het produceren van zijn antwoord. Uitvoer is altijd tekst, dus alles wat je in een ander formaat nodig hebt, moet als tekst worden geproduceerd en stroomafwaarts worden geparseerd.

Die mogelijkheden wijzen op een tamelijk specifieke set taken. Document- en grafiekanalyse is de voor de hand liggende: screenshots van dashboards, gescande tabellen of diagrammen invoeren en om een samenvatting of een geëxtraheerde waarde vragen. Visuele inspectietaken volgen uit de sterkte in objectherkenning, bijvoorbeeld het classificeren of beschrijven van wat in een foto verschijnt. Lay-outbegrip is nuttig voor het verwerken van formulieren, bonnen en interface-mockups waarbij de positie van elementen betekenis draagt. En omdat het contextvenster groot is, kun je meerdere afbeeldingen combineren met een lange referentietekst in één aanroep in plaats van alles zelf op te delen.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id "qwen/qwen2.5-vl-72b-instruct". Ondersteunde verzoekparameters zijn frequency_penalty, logit_bias, logprobs, max_tokens, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, top_k, top_logprobs en top_p. De aanwezigheid van response_format en structured_outputs is nuttig wanneer je uitvoer nodig hebt die aan een schema voldoet, en seed helpt wanneer je herhaalbare resultaten wilt across aanroepen. Merk op dat dit model alleen tekst als uitvoer heeft, dus als je taak spraak-, audio- of videogeneratie is, past een ander model op api14 beter.