Nimble: Kompletter Leitfaden für Installation und Nutzung mit Ollama

Nimble ist ein 9-Milliarden-Parameter-Entscheidungsmodell von Bespoke Labs, das auf Qwen3.5-9B basiert. Es ist kein klassisches Chatmodell. Statt frei formulierte lange Antworten zu generieren, erhält Nimble einen Text oder strukturierten Zustand sowie vordefinierte Fragen und wählt für jede Frage eine erlaubte Antwort inklusive Wahrscheinlichkeiten.

Hauptquelle dieses Leitfadens ist die offizielle Nimble-Seite in der Ollama Model Library.

Wofür ist Nimble gedacht?

Typische Einsatzgebiete:

• Routing von Support-Tickets;
• True/False-Prüfungen;
• Policy-Checks vor Tool Calls eines AI Agents;
• Bewertung anhand einer geordneten Rubrik;
• Model- oder Agent-Routing;
• CRM-Lead- und Request-Klassifikation;
• schnelle Guardrails für Tool-Using Agents.

Unterschied zu einem normalen LLM

Generative Modelle erzeugen offene Textantworten. Nimble bewertet im vorgesehenen Decision-Workflow direkt die erlaubten Antworten und erzeugt vorher keinen textuellen Reasoning-Trace. Das Ergebnis ist damit besser typisiert und einfacher in Backend- und Automationssystemen zu verarbeiten.

Wichtige technische Daten

• Entwickler: Bespoke Labs
• Basismodell: Qwen3.5-9B
• Größe: ca. 9B Parameter
• Input: Text
• Aufgabe: Typed Decision / Classification
• Lizenz: Apache 2.0
• Benötigte Ollama-Version: 0.35 oder neuer
• Praktisches Prompt-Limit des Decision-Workflows: ca. 8.192 Tokens
• Fragen über /v1/systemone: 1 bis 64
• Fragetypen: choice, noul, score

Auf manchen Ollama-Tag-Seiten wird 256K Context angezeigt. Die aktuelle Nimble-Dokumentation nennt für den eigentlichen Decision-Workflow jedoch 8.192 Tokens. Für produktive Anwendungen sollte deshalb mit 8K geplant werden.

Fragetypen

Choice

Auswahl einer Option.

Noul

Aktuelle Bezeichnung in Ollamas Decision API für eine Boolean-Entscheidung.

Score

Einordnung auf einer geordneten Rubrik.

Für /v1/systemone dokumentiert Ollama derzeit typischerweise 2–26 Optionen bei choice und score.

Voraussetzungen

• Windows 10 oder neuer
• macOS 14 Sonoma oder neuer laut aktueller Download-Seite
• Linux gemäß offizieller Ollama-Anleitung
• GPU oder Apple Silicon wird für komfortable 9B-Performance empfohlen
• RAM/VRAM hängt von Quantisierung und Context ab

Ollama installieren

Windows

Nutzen Sie die offizielle Windows-Downloadseite oder den offiziellen PowerShell-Befehl:

irm https://ollama.com/install.ps1 | iex

Version prüfen:

ollama --version

macOS

Nutzen Sie die offizielle macOS-Downloadseite oder den offiziellen Terminal-Installer:

curl -fsSL https://ollama.com/install.sh | sh

ollama --version

Linux

Siehe offizielle Linux-Installationsseite oder verwenden Sie:

curl -fsSL https://ollama.com/install.sh | sh

ollama --version

Nimble herunterladen und ausführen

Offizielle Modellseite: Nimble bei Ollama

ollama pull nimble

ollama run nimble

ollama list

Alle Varianten stehen auf der Nimble-Tags-Seite.

Verfügbare Varianten

Für einen leichteren Einstieg:

ollama pull nimble:9b-q4_K_M

Decision API

Der vorgesehene Endpoint lautet:

localhost:11434/v1/systemone

Beispiel:

curl -s localhost:11434/v1/systemone \
 -H "Content-Type: application/json" \
 -d '{
 "model": "nimble",
 "state": {"message": "The customer was charged twice and requests a reversal."},
 "questions": {
 "team": {
 "type": "choice",
 "instructions": "Select the responsible team.",
 "criteria": {
 "billing": "Payments and refunds",
 "technical": "Technical issues",
 "sales": "Plans and purchases"
 }
 },
 "refund": {
 "type": "noul",
 "instructions": "Is a refund or reversal requested?"
 }
 }
 }'

Probability und Confidence

Eine Probability von 0,90 bedeutet nicht automatisch 90 % reale Accuracy. confidence beschreibt die Konzentration der Wahrscheinlichkeitsverteilung. Schwellenwerte sollten auf eigenen Daten kalibriert und evaluiert werden.

Gute Schema-Praxis

1. Optionen klar und möglichst überschneidungsfrei definieren.
2. Bei Bedarf other oder no_match vorsehen.
3. Context kurz und relevant halten.
4. Kriterien explizit formulieren.
5. Abhängigkeiten zwischen Fragen im eigenen Code validieren.
6. Vor Produktion mit realistischen Daten testen.

Einsatz als Agent Guardrail

Agent → Tool Call → Nimble Policy/Risk Check → Execute / Block / Human Review

Damit lassen sich beispielsweise schädliche Tool Calls, Freigabepflicht, Policy-Verstöße oder Risikostufen prüfen.

CRM-Anwendungsfälle

• Ticket Routing
• Lead Classification
• Refund Eligibility
• Priority Scoring
• Escalation Detection
• Policy Enforcement
• Human Handoff
• Model- und Agent-Routing

Nimble ergänzt üblicherweise ein generatives Modell, statt es zu ersetzen.

Grenzen

Nicht gedacht für:

• lange Texte;
• offene Zusammenfassungen;
• Chain-of-Thought;
• freie Zitatextraktion;
• beliebiges verschachteltes JSON;
• offene Fragebeantwortung.

Nimble entscheidet nur zwischen den definierten Ergebnissen.

Datenschutz

Bei lokaler Ausführung über Ollama findet die Inferenz auf dem eigenen Rechner statt. Das ist für interne CRM-Daten oder sensible Tool Calls nützlich. Die Gesamtdatenschutzsituation hängt dennoch von allen anderen verwendeten Diensten ab.

Modell entfernen oder aktualisieren

ollama rm nimble
ollama list
ollama pull nimble

Für reproduzierbare Deployments empfiehlt sich ein fest gepinnter Tag wie nimble:9b-q4_K_M.

Offizielle Links und Downloads

Für Installation, Modellvarianten und aktuelle Dokumentation sollten die offiziellen Links verwendet werden:

• Nimble in der Ollama Model Library
• Alle Nimble-Tags und Varianten
• Ollama für Windows herunterladen
• Ollama für macOS herunterladen
• Ollama unter Linux installieren
• Offizielles Nimble-Repository auf GitHub
• Bespoke-Nimble-9B auf Hugging Face
• Ollama-Blog zu Jev-style Decision Models

Fazit

Nimble ist kein allgemeiner Chatbot, sondern ein schnelles, typisiertes Entscheidungsmodell für Routing, Boolean Checks, Rubric Scoring, Policy Enforcement und Tool Moderation. Installieren Sie Ollama, laden Sie das Modell mit ollama pull nimble und verwenden Sie /v1/systemone für den eigentlichen Decision-Workflow.