🧠 Ollama installieren – Eigene lokale KI auf Synology, Ugreen und Windows-PC

🏁 Einleitung: Warum eine lokale KI?

Künstliche Intelligenz ist längst kein Zukunftsthema mehr – sie ist längst Teil unseres Alltags. Doch viele KI-Dienste, wie ChatGPT oder Copilot, laufen in der Cloud. Das bedeutet: Deine Daten werden über das Internet an fremde Server gesendet und dort verarbeitet. Für private Dokumente, Kundendaten oder sensible Informationen ist das ein No-Go.

Hier kommt Ollama ins Spiel. Mit Ollama kannst du eine lokale KI direkt auf deinem PC oder deiner NAS installieren und betreiben – komplett ohne Cloud, ohne API-Kosten und ohne Datenabfluss.

🌟 Vorteile einer lokalen KI

Damit ist Ollama ideal für Selbstständige, kleine Unternehmen oder Privatanwender, die ihre KI selbst in der Hand behalten wollen.

🚀 Teil 1: Installation von Ollama unter Docker auf einer Synology NAS

🔧 Voraussetzungen:

• Synology NAS mit Intel- oder AMD-Prozessor
• DSM 7.2 oder höher
• Container Manager (Nachfolger von Docker) installiert
• Mindestens 8 GB RAM (besser 16 GB+)

🪜 Schritt-für-Schritt-Anleitung

1. Verzeichnisse anlegen

Öffne die File Station und erstelle im docker-Verzeichnis zwei neue Ordner:

docker/ollama
docker/openwebui

2. Projekt im Container Manager erstellen

1. Öffne den Container Manager → Projekt erstellen
2. Name: Ollama
3. Projektverzeichnis: /volume1/docker/ollama
4. Erstelle eine neue docker-compose.yaml Datei.

3. Docker Compose-Datei einfügen

Füge den folgenden Inhalt in die Compose-Datei ein (Pfad ggf. anpassen):

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    volumes:
      - /volume1/docker/ollama:/root/.ollama
    ports:
      - "11434:11434"
    restart: unless-stopped

  openwebui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: openwebui
    depends_on:
      - ollama
    environment:
      - OLLAMA_API_BASE_URL=http://ollama:11434
    ports:
      - "3000:8080"
    volumes:
      - /volume1/docker/openwebui:/app/backend/data
    restart: unless-stopped 

Quote

💡 Tipp: Achte darauf, dass die Ports 11434 und 3000 nicht bereits durch andere Dienste belegt sind.

4. Projekt starten

• Klicke auf Bereitstellen → Starten.
• Die Images werden nun heruntergeladen (das kann einige Minuten dauern).
• Nach erfolgreichem Start siehst du zwei laufende Container: ollama und openwebui.

5. Funktion prüfen

Rufe im Browser auf:

http://[NAS-IP]:11434 

Wenn „Ollama is running“ angezeigt wird, läuft der Dienst korrekt.

Rufe danach auf:

http://[NAS-IP]:3000 

→ Das ist deine Open Web UI Oberfläche.
Hier kannst du dich mit einem neuen Benutzer registrieren und direkt loslegen.

💻 Teil 2: Installation auf einer Ugreen-NAS

Die Vorgehensweise ist nahezu identisch zur Synology, lediglich die Pfade unterscheiden sich leicht.

🔧 Voraussetzungen:

• Ugreen NAS mit Docker-Unterstützung
• Aktuelle Firmware & Adminrechte
• Docker (Container Manager) aktiviert

🪜 Schritt-für-Schritt-Anleitung

1. Ordnerstruktur anlegen

Erstelle folgende Verzeichnisse:

/volume1/docker/ollama
/volume1/docker/openwebui

2. Docker Compose-Projekt erstellen

Öffne die Docker-Oberfläche → Projekte → Neues Projekt
Projektname: Ollama
Pfad: /volume1/docker/ollama

Füge die gleiche Docker-Compose-Datei wie bei der Synology ein (siehe oben).
Achte nur darauf, dass die Pfade zu deinen Volumes exakt stimmen.

3. Bereitstellen & Starten

Nach dem Start prüfe:

http://[Ugreen-IP]:11434  →  „Ollama is running“
http://[Ugreen-IP]:3000   →  Open Web UI Oberfläche 

Damit ist Ollama auch auf deiner Ugreen NAS aktiv und kann über das Netzwerk genutzt werden.

🖥️ Teil 3: Installation auf dem Windows-PC

Auch auf einem Windows-PC kannst du Ollama nativ installieren – ganz ohne Docker.

🪜 Schritt-für-Schritt-Anleitung

1. Download

Gehe auf die offizielle Webseite:
👉 https://ollama.com/download

Lade die Windows-Version (Ollama Setup.exe) herunter.

2. Installation

• Doppelklicke auf die heruntergeladene Datei
• Bestätige die Sicherheitsabfrage
• Folge dem Installationsassistenten
• Optional: Microsoft Visual C++ Runtime wird automatisch installiert, falls erforderlich

Nach Abschluss startet Ollama automatisch.

3. Testen

Öffne die Eingabeaufforderung (CMD) und gib ein:

ollama run llama3

Das Modell wird heruntergeladen und du kannst sofort erste Prompts eingeben.

🌐 Optional: Web-Oberfläche mit Page Assist

Wenn du eine grafische Oberfläche bevorzugst:

• Installiere die Chrome-Erweiterung „Page Assist“ Download
• Verbinde sie mit http://localhost:11434
• Du erhältst ein Chatfenster ähnlich wie ChatGPT – nur eben lokal 🚀

🧩 Tipp: Eigene Modelle und Wissen hinzufügen

Du kannst eigene Sprachmodelle oder Trainingsdaten lokal einbinden:

ollama pull mistral
ollama pull llama3

Oder über Open Web UI Dateien (PDF, TXT, JSON) als Wissensbasis hochladen.
So entsteht deine eigene private KI, die komplett offline und DSGVO-konform arbeitet.

✅ Fazit

Mit Ollama kannst du deine eigene KI-Instanz direkt im lokalen Netzwerk betreiben – unabhängig, sicher und kostengünstig.
Ob auf der Synology NAS, einer Ugreen NAS oder direkt auf dem Windows-PC – der Aufbau ist unkompliziert, und die Möglichkeiten sind enorm.

Im nächsten Teil zeigen wir dir, wie du Ollama in die Synology AI Console integrierst, um deine lokale KI direkt aus DSM zu nutzen.