LLM auf dem Laptop
Veröffentlicht: 09.06.2026
| Aktualisiert: 09.06.2026
Ollama installieren:
curl -fsSL https://ollama.com/install.sh | sh
Sprachmodell installieren:
ollama pull gemma4:12b
Optimierung für das LLM in Datei /etc/systemd/system/ollama.service
inhalt ergänzen:
[Service]
Environment="OLLAMA_NUM_THREADS=6"
Environment="OLLAMA_FLASH_ATTENTION=1"
Environment="OLLAMA_KV_CACHE_TYPE=q8_0"
Environment="OLLAMA_KEEP_ALIVE=-1"
LimitMEMLOCK=infinity
Ollama Dienst neustarten:
sudo systemctl daemon-reload
sudo systemctl restart ollama
App:
LM Studio auf Flathub