---
title: '🗣️ LLM auf dem Laptop'
url: 'https://niklas-stephan.de/en/wiki/tutorials/llm-auf-dem-laptop'
markdown: 'https://niklas-stephan.de/en/wiki/tutorials/llm-auf-dem-laptop.md'
lang: en
date: '2026-11-08'
description: "🗣️ LLM auf dem Laptop Variante 1 - Direktinstallation von Ollama Ollama installieren: curl -fsSL https://ollama.com/install.sh | sh Sprachmodell installieren: ollama pull gemma4:12b Optimierung für das LLM in Datei /etc/systemd/system/ollama.service\_ inhalt ergänzen: [Service] Environment=\"OLLAMA_N…"
---

# 🗣️ LLM auf dem Laptop

## Variante 1 - Direktinstallation von Ollama

Ollama installieren:

```ini
curl -fsSL https://ollama.com/install.sh | sh
```

Sprachmodell installieren:

```ini
ollama pull gemma4:12b
```

Optimierung für das LLM in Datei `/etc/systemd/system/ollama.service`

inhalt ergänzen:

```ini
[Service]
Environment="OLLAMA_NUM_THREADS=6"
Environment="OLLAMA_FLASH_ATTENTION=1"
Environment="OLLAMA_KV_CACHE_TYPE=q8_0"
Environment="OLLAMA_KEEP_ALIVE=-1"
LimitMEMLOCK=infinity
```

Ollama Dienst neustarten:

```ini
sudo systemctl daemon-reload
sudo systemctl restart ollama
```

Ergebnis: langsam

## Variante 2: LM Studio

Ergebnis: langsam

## Variante 3: Ollama in Docker

---

## Navigation

- Parent: [Tutorials](https://niklas-stephan.de/en/wiki/tutorials.md)
- Previous: [💾 Dateisysteme](https://niklas-stephan.de/en/wiki/tutorials/dateisysteme.md)