Unsloth Studio

AI-körning och modellserver · Lokal körning och finjustering av öppna modeller

Webbgränssnitt för att köra och finjustera öppna modeller lokalt, med GGUF via llama.cpp, datasetgenerering, export och OpenAI-kompatibelt API.

Betyg 77 av 100 Praktiskt granskad

Läs bedömningen
API · Officiellt

Modellerna serveras på ett OpenAI-kompatibelt API under /v1/chat/completions och /v1/responses samt ett Anthropic-kompatibelt /v1/messages på samma port.

Unsloth Studio API · Unsloth AI

Källa: vendor

Kontrollerat:

MCP · Officiellt

Inbyggd MCP-server i Studio-backenden på /mcp, avstängd tills ägaren slår på agentåtkomst i inställningarna.

Unsloth Studio MCP · Unsloth AI

Källa: builtin

Kontrollerat:

Unsloth Studios chatt på svenska med den lokala modellen Qwen3.5-0.8B-GGUF, där en hälsokontroll för driftportalen diskuteras och projektmappen Driftportalen är kopplad till chatten.
1 / 6 Chatten: en lokal GGUF-modell som svarar på svenska, med projektmappen och historiken i sidopanelen.

Bedömning

Så bedömer vi

Totalbetyg

77 av 100

Praktiskt granskad

Bedömningsprofil
Köra och finjustera öppna språkmodeller på den egna maskinen, med ett svenskt webbgränssnitt, GGUF-modeller via llama.cpp på processor eller grafikkort och ett OpenAI-kompatibelt API som agenter och klienter kan ansluta till.
Bedömningsdatum
Modellversion
3.0.0
  1. Öppenhet och kontroll

    Både kärnan och gränssnittet är öppen källkod: kärnpaketet unsloth ligger under Apache-2.0 (LICENSE i repot) och Studio-backenden och frontend under studio/ ligger under AGPL-3.0 (studio/LICENSE.AGPL-3.0). Båda licenserna är OSI-godkända och tillåter läsning, ändring och egen drift utan licensnyckel; det finns ingen betald nivå i den egna installationen och inga stängda moduler. Det som håller betyget på 4 är delningen: den som vill bygga vidare på webbgränssnittet måste följa AGPL-3.0 och dela sina ändringar, medan kärnan är permissiv. Datamodellen är dessutom öppen – chattar och inställningar ligger i en vanlig SQLite-fil och modellvikterna är GGUF eller safetensors som kan flyttas mellan verktyg.

  2. Funktionell passform

    I labbkörningen laddades Qwen3.5-0.8B som GGUF i Q4_K_M genom llama.cpp på processorn, och chatten svarade på svenska i det svenska gränssnittet. Projektmappen Driftportalen kopplades till fyra chattar med tio meddelanden, och Data Recipes byggde ett dataset med språkmodellen som skrev kolumnerna. Det som håller betyget på 4 är att träning och export kräver grafikkort: på labbmaskinen utan GPU visade träningsvyn att den kör på processorn och exportvyn att export inte är tillgänglig. Kvaliteten på små modellers svenska är dessutom ojämn – den lilla testmodellen svarade flytande men med sakfel, vilket är modellens begränsning och inte gränssnittets.

  3. Dataflytt och interoperabilitet

    Tillståndet är en SQLite-fil i studiokatalogen plus modellvikterna i Hugging Face-cachen, så en flytt är två katalogkopior. Modellerna är standard-GGUF och kan flyttas till llama.cpp, Ollama eller andra motorer utan konvertering, och API:t är OpenAI- och Anthropic-kompatibelt, vilket gör att klienter kan byta till eller från Unsloth utan kodändringar. Det som drar ned till 4 är att chattarna ligger i en intern tabellstruktur utan dokumenterat exportformat, och att Data Recipes-recepten är knutna till installationens egen databas.

  4. Mognad och trygghet

    Projektet startade 2023 och har en hög utgivningstakt: senaste utgåvan vid kontrollen var en betaversion från november 2026, med flera utgåvor i veckan. Repot är inte arkiverat, har över 79 000 stjärnor och drivs av ett aktivt team med egen dokumentationssajt, containeravbildningar för NVIDIA och AMD samt skrivbordsappar för tre operativsystem. Webbgränssnittet är ändå märkt Beta, versionsnumret räknas i betasteg och gränssnittet ändras mellan utgåvor – det är skälet till att betyget stannar på 3. Kärnan som används i Python-notebooks är betydligt mer beprövad än Studio-delen.

  5. Framtidskraft

    Projektet rör sig i riktning mot fler modellfamiljer, fler motorer och fler integrationsvägar: GGUF via llama.cpp, MLX på Apple Silicon, vLLM och SGLang som valbara motorer, OpenAI- och Anthropic-kompatibla ändpunkter och en MCP-server för agenter. Utgivningstakten är hög och nya modellfamiljer får stöd kort efter release. Det som håller betyget på 4 är att gränssnittet är i beta och att projektet är beroende av en liten grupp utvecklare; en ändrad inriktning skulle snabbt slå igenom i webbgränssnittet.

  6. Drift och införande

    Installationen är en container eller ett skript, och driften kräver att man hanterar grafikkortsdrivrutiner, nvidia-container-toolkit och modellvikter på disk. I labbet behövdes UNSLOTH_ALLOW_CPU=1 för att starta utan GPU, UNSLOTH_STUDIO_PROXY_HOSTS för att gränssnittet skulle nås genom en egen proxyserver, och en förberedd katalog för modellcachen. Uppdateringar kommer ofta och containeravbildningen är märkt latest, så en fast version bör pinnas i drift. Verktyg för kodkörning och webbläsarstyrning är påslagna som standard och måste begränsas före exponering – det är den viktigaste driftåtgärden.

  7. Kostnadsbild

    Programvaran är gratis och öppen källkod utan prenumerationskostnad, licensnyckel eller begränsad funktion i den egna installationen. Kostnaden ligger helt i maskinvaran: ett grafikkort med tillräckligt videominne för träning och diskutrymme för modellvikterna. På processorn kostar GGUF-körningen inget utöver den maskin man redan har. Det finns ingen molnkostnad per anrop, och API:t kan användas av egna klienter utan avgift.

  8. Svensk användbarhet

    Webbgränssnittet har en svensk översättning i repot (studio/frontend/src/i18n/locales/sv.ts) med 4 162 nycklar mot engelskans 4 381, och 3 969 av de gemensamma nycklarna har ett svenskt värde som avviker från engelskan – 90,6 procent av den engelska nyckelmängden är alltså översatt. I labbkörningen visade menyer, inställningar, träningsvyn och Data Recipes svensk text. Det som håller betyget på 4 är att en del etiketter ännu är engelska (t.ex. platshållaren i chattfältet och flera kortnamn), att dokumentationen bara finns på engelska och att supporten sker på engelska i projektets kanaler.

Om Unsloth Studio

Unsloth Studio är webbgränssnittet i Unsloth-projektet för att köra och träna öppna modeller på den egna maskinen. Modeller laddas som GGUF genom llama.cpp eller som MLX på Apple Silicon, och gränssnittet visar vilka modeller som ligger lokalt, vilka som är nedladdade från Hugging Face och vilken kvantisering som används. Chatten har verktygsanrop, webbhämtning, kodkörning i en sandlåda och en projektmapp där modellen kan läsa och skriva filer.

Träningsdelen är densamma som i Unsloths Python-paket: LoRA, QLoRA och full finjustering på NVIDIA-, AMD- och Intel-grafikkort, med automatisk minnesoptimering och stöd för flera grafikkort. På en maskin utan grafikkort går det att köra GGUF-modeller på processorn, medan träningen då är mycket långsammare. Data Recipes bygger träningsdata ur egna filer eller ur Hugging Face-dataset med språkmodeller som skriver kolumnerna.

Modellerna serveras på ett OpenAI-kompatibelt API under /v1/chat/completions och /v1/responses samt ett Anthropic-kompatibelt /v1/messages, med API-nycklar som skapas i inställningarna. En MCP-server på /mcp ger agenter verktyg för att ladda modeller, chatta, skapa bilder och ljud och starta träning; den är avstängd tills ägaren slår på den. Programmet finns som skrivbordsapp för Windows, macOS och Linux och som containeravbildning på Docker Hub. Gränssnittet är på svenska; dokumentationen är på engelska.

Användning

Passar för

  • Den som vill köra och finjustera öppna modeller på den egna maskinen utan att skicka data till en molntjänst
  • Utvecklare som vill koppla Claude Code, Codex eller andra agenter till en lokal modell över ett OpenAI-kompatibelt API
  • Team som behöver bygga träningsdata ur egna dokument och sedan finjustera en modell på samma installation
  • Den som vill ha ett svenskt gränssnitt framför kommandoraden

Passar mindre bra för

  • Den som saknar grafikkort och behöver träna modeller – träning kräver NVIDIA, AMD eller Intel GPU
  • Den som behöver fullständig svensk dokumentation – den finns bara på engelska
  • Miljöer där verktyg för kodkörning och webbläsarstyrning inte får vara påslagna som standard

Styrkor och begränsningar

Styrkor

  • Samma installation kör GGUF-modeller på processor eller grafikkort och tränar modeller på GPU
  • Svenskt gränssnitt med fullständig översättning av webbgränssnittet
  • OpenAI- och Anthropic-kompatibla ändpunkter gör att befintliga klienter och agenter fungerar oförändrade
  • Data Recipes bygger träningsdata ur egna filer eller Hugging Face-dataset
  • Inbyggd MCP-server ger agenter verktyg för modeller, chatt, bilder och träning

Begränsningar

  • Träning och export kräver grafikkort; på en maskin utan GPU går bara GGUF-körning på processorn
  • Dokumentation och support är på engelska
  • Verktyg för kodkörning, webbläsare och datoranvändning är påslagna som standard och bör begränsas före exponering
  • Kärnan och gränssnittet har olika licenser (Apache-2.0 respektive AGPL-3.0), vilket påverkar den som vill bygga vidare på Studio

Skärmbilder

Tekniska resurser

Alternativ

llama.cpp

AI-körning och modellserver · Inferensmotor för stora språkmodeller (lokal körning)

llama.cpp är en MIT-licensierad inferensmotor för kvantiserade språkmodeller i GGUF-format som kör på CPU och GPU, med kommandoradsverktyg och en OpenAI-kompatibel server.

Startår
2023
Licens
MIT
Öppen källkod
Ja

Betyg

91 av 100

Preliminär (källbaserad)

Läs bedömningen om llama.cpp

Projektdata

135 638GitHub-stjärnor
Visa alla fakta och bedömningarVisa alla fakta
Startår
2023
Licens
MITÖppen källkod (OSI-godkänd licens) · Verifierad i repots LICENSE (github.com/ggml-org/llama.cpp/blob/master/LICENSE). · Licensmodeller
Öppen källkod
Ja
Plattformar
Linux · macOS · Windows · Android
API
Finns Verifierat
Export
Ej tillämpligt Inferensmotor; inget dataexportbegrepp. Ej verifierat
Språk
Gränssnitt: Engelska · Dokumentation: Engelska · Support: Engelska
Öppenhet och kontroll Gäller: Ren MIT (OSI), full frihet att läsa/ändra/återdistribuera; ingen kommersiell låsning.
Funktionell passform Gäller: GGUF-referensimplementationen täcker effektiv kvantiserad inferens utan luckor, inkl. kvantiseringsverktyg.
Dataflytt och interoperabilitet Gäller: GGUF är branschens öppna de facto-standard, delbar mellan runtimes; backends för CPU/CUDA/Metal/Vulkan/ROCm.
Mognad och trygghet Gäller: Aktivt sedan 2023 med tusentals bidragsgivare och djupt inbäddat i ekosystemet; etablerat men inte med den långa historik som ankare 5 kräver.
Framtidskraft Gäller: llama-server ger OpenAI-kompatibelt API med verktygsanrop; CLI-först men agentramverk integrerar via API.
Drift och införande Gäller: Färdiga binärer för de flesta plattformar; normalfallet är nedladdad binär + GGUF-fil.
Kostnadsbild Gäller: MIT, gratis, körs även på CPU — transparent och väl avvägd TCO via kvantisering.
Svensk användbarhet Gäller: Språkneutral runtime — svensk förmåga följer modellen; inga svenskspecifika funktioner.

Kostnad: .

Faktakontrollerad

Ollama är ett verktyg för att hämta och köra öppna språkmodeller lokalt eller i egen molnmiljö: CLI, lokal HTTP-API och ett modellbibliotek med pull-by-name. Koden licensieras MIT.

Startår
2023
Licens
MIT
Öppen källkod
Ja
MCP
MCP-server, Tredjepart

Betyg

90 av 100

Preliminär (källbaserad)

Läs bedömningen om Ollama

Projektdata

187 565GitHub-stjärnor
Visa alla fakta och bedömningarVisa alla fakta
Startår
2023
Licens
MITÖppen källkod (OSI-godkänd licens) · Licensmodeller
Öppen källkod
Ja
Plattformar
Skrivbord
API
REST API Verifierat
MCP
MCP-server, Tredjepart
Export
Ej verifierat Ej verifierat
Språk
Gränssnitt: Engelska · Dokumentation: Engelska · Support: Engelska
Öppenhet och kontroll Gäller: MIT (OSI), full frihet; molntjänsten är ett valfritt tillägg, inget driftkrav.
Funktionell passform Gäller: Lokal CLI-inferens av öppna-vikts-modeller är projektets exakta kärna; täcks utan konfigurationskrav.
Dataflytt och interoperabilitet Gäller: Bygger på öppna GGUF-filer och OpenAI-kompatibelt API; eget Modelfile-lager kan kräva omskrivning vid byte av runtime.
Mognad och trygghet Gäller: Aktivt sedan 2023 med mycket frekventa releaser och bred användarbas, men yngre och snabbare förändringstakt.
Framtidskraft Gäller: Förstklassigt HTTP-API, Docker-stöd och många integrationer; viss styrning mot molntjänsten, men all lokal automatisering går via API.
Drift och införande Gäller: En binär, inga beroenden, väldokumenterad; hårdvarukrav är kategoriinnevärda och driftarbetet minimalt.
Kostnadsbild Gäller: MIT, gratis; hårdvara är kategoriinnevärd och kvantisering håller TCO nere.
Svensk användbarhet Gäller: Språkneutral runtime — svensk språkförmåga följer den laddade modellen; inga svenskspecifika funktioner.

Kostnad: .

Faktakontrollerad

Källor

Fler projekt under Norin Media AB