Workshop: Lokale KI

Einstiegsleitfaden für die Nutzung lokaler Sprachmodelle.

Artikel aktualisiert am 23. April 2026

Vier Säulen für Prompt Engineering in der Patentpraxis

Jede Aufgabe im Kurs setzt vier Methoden voraus, die die Qualität sichern. Bei agentischen Werkzeugen wie OpenCode oder Claude Code läuft Context Engineering automatisch; bei manuellem Prompting musst Du selbst darauf achten.

Diese interaktive Visualisierung benötigt JavaScript. Im Vollbild öffnen

Context Engineering: Für jede Aufgabe ein frischer Chat mit genau den relevanten Dokumenten.
Belegpflicht: Jede Aussage mit wörtlichem Zitat aus der Quelle und Fundstelle.
Absatz-für-Absatz-Durchsuchung: Systematisch durch die ganze Quelle.
Self-Reflexion + Advocatus Diaboli: Am Ende prüfen, ob etwas übersehen wurde, Gegenposition einnehmen.

Start hier: Dein erstes lokales Modell in 30 Minuten

Lokale KI ist Voraussetzung für vertrauliche Arbeit. Die Grundinstallation lohnt sich, sobald Du über vertrauliche Dokumente arbeiten willst (Drafting, Erfindungsmeldung, interne Strategiepapiere).

Was Du vorab bereit halten solltest

Einen Rechner mit mindestens 8 GB RAM für 4B-Modelle (Qwen 3, Gemma 3n), 16 GB für Gemma 3 12B oder 32 GB für Gemma 4 27B
Administratorrechte zur Installation von Software
Ein Testdokument (ein Anspruch, ein kurzer Text) für die erste Konversation

Dein Weg durch den Kurs (3 Klicks)

10 Min Installation: Wähle ein Inference-Framework aus der Liste unten. Für Einsteiger empfehle ich LM Studio oder Msty (grafische Oberfläche). Herunterladen, installieren.
10 Min Modell: Ein Sprachmodell herunterladen. Mit 16 GB RAM: Gemma 3 12B. Mit 32 GB RAM: Gemma 4 27B. Beim ersten Mal dauert der Download einige Minuten.
10 Min erste Konversation: Im LM-Studio/Msty-Chat oder auf der Kommandozeile mit Ollama einen ersten Prompt schicken: „Erkläre, was dieses Patent in einfachen Worten sagt: [Dein Testdokument]." Ergebnis prüfen: langsam, aber vollständig lokal.

Wenn Du hängst

Hardware reicht nicht? Schau Dir die Alternativen-Sektion an: Hugging Face Online-Tests für nicht-vertrauliche Versuche, Cloud-Chatbots für nicht-vertrauliche Dokumente.
Installation klemmt? Die Installations-Videos unten zeigen Ollama und LM Studio Schritt für Schritt.
Wofür brauche ich das jetzt in der Patentpraxis? Der Patent-Drafting-Kurs baut direkt auf.
Agent statt Chat? Der Agent-Framework-Kurs erklärt, wann OpenCode + Ollama eine Stufe über dem Chat liegt.

Wozu ein Inference-Framework?

Sprachmodelle wie „Llama” oder „Gemma” sind neuronale Netzwerke, die in speziellen Dateiformaten gespeichert sind. Sie lassen sich nicht wie andere Software direkt ausführen. Ein Inference-Framework wie Ollama, Msty oder LM Studio übernimmt die nötige Arbeit:

Modell-Loading: Lädt die Gewichtsdateien des Sprachmodells in den Arbeitsspeicher.
Hardware-Optimierung: Passt die Berechnungen an die verfügbare Hardware an (CPU, GPU, spezialisierte KI-Chips) und nutzt Optimierungen wie Quantisierung zur Reduzierung des Speicherverbrauchs.
API-Interface: Stellt eine Schnittstelle bereit, oft kompatibel mit OpenAI-Standards.
Speicherverwaltung: Lagert bei Bedarf Teile des Modells zwischen Arbeitsspeicher und Festplatte aus.

Inference-Framework installieren

Für Einsteiger empfehle ich Msty oder LM Studio, für fortgeschrittene Nutzer Ollama.

Ollama

Kostenlos

Leichtgewichtig, perfekt für die Automatisierung oder zur Verwendung mit eigenen Apps. Empfohlen für fortgeschrittene Nutzer.

Herunterladen

LM Studio

Kostenlos

Umfangreich, mit benutzerfreundlicher Oberfläche und ChatGPT-ähnlichem Chat-Interface. Empfohlen für Einsteiger.

Herunterladen

Msty

Kostenlos für persönliche Nutzung

Sehr benutzerfreundliche Oberfläche, Zugriff auf die Ollama-Modell-Bibliothek, RAG-Funktion („Ask your data”). Gewerbliche Nutzung kostenpflichtig.

Herunterladen

Vorsicht bei vertraulichen Daten: Achte darauf, etwaige Optionen zu deaktivieren, durch die Daten ins Internet geschickt werden. Die Datenkommunikation lässt sich mit Tools wie dem Microsoft Process Monitor oder der Windows Firewall prüfen und unterbinden.

Sprachmodell herunterladen

Das Framework allein ist eine leere Hülle. Das eigentliche Sprachmodell muss separat heruntergeladen werden. Die Auswahl hängt davon ab, was Deine Hardware leistet und wofür Du es einsetzen willst.

Qwen 3 (4B)

Kompakt, Apache-2.0-Lizenz. Läuft auf fast jedem Laptop. Für erste Tests und einfache Aufgaben.

Ollama

Gemma 3n (4B)

Gemma 3 (12B)

Mittelklasse-Modell mit 128K Kontextfenster. Bescheid und Stand der Technik passen in einen Prompt. Benötigt 16 GB RAM oder 8 GB VRAM.

Ollama

Gemma 4 (27B)

Installations-Videos

Zwei kurze Walkthroughs für die Einrichtung:

Installation: Ollama

Installation: LM Studio

Alternativen ohne lokale Installation

Nur zum Experimentieren mit nicht-vertraulichen Daten. Die folgenden Alternativen laufen in der Cloud. Sie eignen sich, um Modelle auszuprobieren und herauszufinden, welches für Deine Arbeitsweise passt, bevor Du in lokale Hardware investierst. Für Mandats- oder Erfindungstexte sind sie nicht geeignet.

Hugging Face: Die wichtigste Plattform für Open-Source-Modelle. Viele Modelle lassen sich direkt online testen. Gut, um vor dem Hardwarekauf zu prüfen, ob sich eine lokale Installation lohnt. Lege für die Nutzung im Seminar bitte vorab ein kostenloses Konto an: huggingface.co.
Cloud-Chatbots: Für nicht-vertrauliche Daten kannst Du auch ChatGPT, Microsofts Copilot (basiert auf ChatGPT) oder Claude nutzen.

Weiterführende Ressourcen

Prompt-Library

Eigene Prompts anlegen, verwalten und individualisieren.

Patent-Drafting-Prozess

Prompts und Notizen, zugeordnet zu den einzelnen Prozessschritten.

Cheat Sheet: GenAI-Software

Kuratiertes Cheat Sheet zur GenAI-Software für die Patentarbeit.

Beispiel-Erfindungsmeldung (Coffee Mug)

PDF einer beispielhaften Erfindungsmeldung. Übungsmaterial.

Beispiel-Erfindungsmeldung (Pokerchip)

Anspruchsvollere Erfindungsmeldung mit zwei Stand-der-Technik-Dokumenten (D1, D2), mehreren Ausführungsbeispielen und Bezugszeichen — geeignet, um lokale Modelle an einem realistischen Drafting-Fall zu testen.

Bleib auf dem Laufenden zu generativer KI in der Patentpraxis.

GenAI-Newsletter abonnieren

Inhalte teilweise KI-generiert, kuratiert von Sebastian Goebel. Dies ist keine Rechtsberatung, sondern Trainingsmaterial für meine Workshops. Keine Gewährleistung für Richtigkeit oder Vollständigkeit. Keine Haftung. Software wird ohne Mängelgewähr bereitgestellt.