ScaleDown: Classify-1

ScaleDown: Classify-1 är en strukturerad beslutsmodell från ScaleDown, som tillhandahålls via leverantörens Decisions API. Istället för att generera fritext i prosaform är den byggd för att besvara frågor som du definierar i förväg, vilket placerar den i kategorin beslut snarare än i kategorin allmän chatt. Om du utvärderar modeller på api14 är den praktiska frågan inte huruvida den skriver bra utan huruvida din uppgift kan formuleras som ett val, en ja/nej-fråga eller en ordnad skala.

Modellen accepterar text, bilder och filer som indata, så du kan skicka ett textavsnitt, en skannad sida eller ett dokument och få det utvärderat direkt. Dess utdatamodalitet är beslut: den poängsätter den angivna indatan mot dina anropardefinierade frågor och returnerar kalibrerade sannolikheter. Kontextfönstret är 1 000 000 tokens, och den maximala utdatan är 900 000, vilket innebär att långa dokument och stora mängder material kan hanteras i en enda begäran utan att delas upp. Det finns ingen fritextgenerering att tolka, så du får strukturerade svar istället för meningar som du måste tolka.

Den typen av utdata pekar mot en ganska specifik uppsättning användningsområden. Routning och triagering passar naturligt: att avgöra vilken kö ett ärende tillhör, eller huruvida ett inkommande meddelande uppfyller ett ja/nej-villkor innan det når en människa. Dokumentgranskning är ett annat område, eftersom filer och bilder accepteras, så klassificering av formulär, fakturor eller skannade register mot en fast uppsättning kategorier är möjlig. Frågor på ordnad skala passar för sentiment- eller allvarlighetsgradering, och eftersom modellen returnerar sannolikheter snarare än en enda etikett kan du sätta din egen konfidenströskel och skicka vidare fall med låg konfidens någon annanstans. Varje arbetsflöde där du behöver en konsekvent, repeterbar bedömning över många objekt är en bättre matchning än ett där du behöver en utskriven förklaring.

Du anropar den via api14:s OpenAI-kompatibla API med modell-id:t "scaledown/classify-1". Eftersom gränssnittet är OpenAI-kompatibelt fungerar befintliga klienter och SDK:er med en ändring av bas-URL och modell-id. Observera att listan över parametrar som stöds är tom, så du bör inte anta att samplingskontroller som temperature eller top_p accepteras; skicka modell-id:t, din indata och de frågor du vill få poängsatta, och förlita dig på standardvärdena. Kontrollera den aktuella pristabellen på denna sida för gällande priser.

Den främsta begränsningen att väga in är själva utdataformatet. Classify-1 returnerar beslut, inte prosa, så om din applikation behöver en skriftlig sammanfattning, ett konversationssvar eller genererat innehåll av något slag passar en allmän textmodell bättre. Det är också värt att bekräfta att dina frågor kan uttryckas som val, ja/nej eller en ordnad skala, eftersom det är den formulering modellen är designad kring. Inom dessa gränser, och med ett så här stort kontextfönster, är den ett rimligt val för klassificering i hög volym där du vill ha sannolikheter du kan agera på snarare än text du måste tolka.