Deepseek auf eigene Linux-Server installieren

carlos weber

carlos weber

Mit Open-Source-KI-Modellen wie Deepseek kannst du deine eigene Sprach-KI auf einem Server betreiben. Aber wie gut funktioniert das wirklich? Und wie viel Leistung brauchst du?

In diesem Beitrag richten wir einen virtuellen Linux-Server ein, installieren Ollama und testen Deepseek. So kannst du herausfinden, welche Modelle dein Server schafft und ob es sich lohnt, größere Modelle zu probieren.

🖥️ Schritt 1: Linux-Server vorbereiten

1️⃣ Server einrichten:

  • Du kannst einen lokalen Proxmox-Server oder einen Cloud-Server (z. B. Hetzner, AWS, DigitalOcean) nutzen.
  • Empfohlene Mindestanforderungen:
    • 8 GB RAM für kleine Modelle
    • 16+ GB RAM für größere Modelle
    • GPU (optional), aber hilft bei großen Modellen

2️⃣ System aktualisieren:

sudo apt update && sudo apt upgrade -y

3️⃣ Ollama installieren:

curl -fsSL https://ollama.ai/install.sh | bash

Mit diesem Tool kannst du KI-Modelle einfach laden und testen.


🤖 Schritt 2: Deepseek installieren und testen

Deepseek gibt es in mehreren Versionen – von kleinen Modellen für schwache Server bis hin zu riesigen KI-Varianten für High-End-Hardware.

Deepseek 1.3B (leicht & schnell, ab 8 GB RAM)

Perfekt für erste Tests, da es mit normalen Servern läuft. Installation:

ollama pull deepseek-ai/deepseek-coder:1.3b

Jetzt kannst du Deepseek starten:

ollama run deepseek-coder:1.3b

💡 Hinweis: Dieses Modell braucht mindestens 8 GB RAM, sonst kann es nicht geladen werden.

📌 Alle DeepSeek-Varianten im Überblick

ModellEmpfohlener RAMEinsatzgebiet
Deepseek 1.3B8 GBSchnelle Tests, einfache KI-Aufgaben
Deepseek 7B16 GBMittlere Anwendungen, komplexere Analysen
Deepseek 33B64 GB+Große Modelle für tiefere KI-Tests
Deepseek LLM 67B128 GB+ (GPU empfohlen)Vergleichbar mit GPT-4, sehr leistungsstark

Falls dein Server leistungsstark genug ist, kannst du einfach das gewünschte Modell ziehen:

ollama pull deepseek-ai/deepseek-coder:1.3b

Das gleiche gilt für alle anderen Varianten.

🎮 Fazit: Coole Spielerei mit KI aber mehr Leistung nötig für echte GPT-Alternativen

Deepseek ist eine spannende Open-Source-Alternative zu ChatGPT. Für Tests und kleinere Anwendungen reicht 1.3B, aber sobald du eine echte GPT-Alternative willst, brauchst du viel mehr RAM & GPU-Power.

💡 Trotzdem macht es Spaß, die verschiedenen Modelle auszuprobieren und eigene KI-Experimente auf dem Server zu starten. 🚀

Previous Post
Next Post

Contact

E-mail us:
info{@}weber-system.ch

Call us:
CH: 0041 76 344 98 89
ES: 0034 613 14 14 28

About Weber IT-System

Weber IT System is a Swiss team based in Spain that manages and maintains servers worldwide.

Weber IT-System
Avd. Maribel Lopez Perez Ojeda 32,
03130 Santa Pola, Alicante ES

RGE185066092023

Copyright 2024 Weber IT-System

WordPress Cookie Notice by Real Cookie Banner