Lokale KI-Modelle laufen direkt auf der eigenen Hardware anstatt in der Cloud, was vollständigen Datenschutz, keine laufenden Token-Kosten und Unabhängigkeit vom Internet bietet.
Drei Ausbaustufen - ein Prinzip: KI-Modelle werden direkt auf dem eigenen System ausgeführt - abgestimmt auf den jeweiligen Bedarf an Grafikspeicher, Rechenleistung und Arbeitsspeicher. Unsere COMPETENCE AI-PC Systeme sind in der Basis üppig mit Hardware ausgestattet und übernehmen hochsensible Berechnungen mit besonders leistungsstarken Grafikbeschleunigern aus dem Hause NVIDIA.
Jetzt AI-PC-Serie entdecken & Konfiguration wählen:
1. DER EINSTIEG IN LOKALE KI:
Texte erstellen und zusammenfassen, kompakte Sprachmodelle nutzen und Bilder lokal generieren.
Mit 32 GB RAM / GeForce RTX 5060 Ti 16 GB VRAM / 759 AI-TOPS* / 448 GB/s MEMORY BANDWIDTH
AI BASE R – AMD Ryzen 5 9600X Prozessor, 6 Kerne / 12 Threads
AI BASE U – Intel Core Ultra 5 250K Plus Prozessor, 18 (6+12) Kerne / 18 Threads
2. MEHR SPIELRAUM FÜR PRODUKTIVE WORKFLOWS:
Größere lokale Modelle, Dokumenten- und Wissenssuche sowie anspruchsvollere Bild-Workflows.
Mit 64 GB RAM / RTX PRO 4000 Blackwell
24 GB VRAM / 1.247 AI-TOPS* / 672 GB/s MEMORY BANDWIDTH
AI ADVANCE R – AMD Ryzen 7 9700X Prozessor, 8 Kerne / 16 Threads
AI ADVANCE U – Intel Core Ultra 7 270K Plus Prozessor, 24 (8+16) Kerne / 24 Threads
3. FÜR UMFANGREICHE UND PARALLELE KI-WORKLOADS:
Große Modelle, komplece Inferenz, multimodale Aufgaben und parallele KI-Anwendungen.
Mit 64 GB RAM / RTX PRO 5000 Blackwell 48 GB VRAM / 2.223 AI-TOPS* / 1.344 GB/s MEMORY BANDWIDTH
AI PERFORMANCE R – AMD Ryzen 7 9700X Prozessor, 8 Kerne / 16 Threads
AI PERFORMANCE U – Intel Core Ultra 7 270K Plus Prozessor, 24 (8+16) Kerne / 24 Threads
* AI TOPS: Theoretische FP4-Spitzenwerte mit Sparsity gemäß Herstellerangaben. Die Werte sind keine direkten Anwendungsbenchmarks; reale Ergebnisse hängen u. a. von Modell, Quantisierung, Software und Workload ab.
Lokale KI-Software für COMPETENCE AI-PC Systeme
Lokale KI-Software auf dem PC läuft komplett offline ohne Cloud-Anbindung, was maximalen Datenschutz und volle Kontrolle über Ihre Daten bietet.
Beliebte KI-Software (Modell-Runner & Oberflächen)
LM Studio: Einsteigerfreundliche Desktop-Oberfläche mit grafischer Benutzeroberfläche (GUI) zum Suchen, Herunterladen und Ausführen verschiedener Sprachmodelle (LLMs).
Ollama:Sehr minimalistisches, aufgeräumtes Programm, das wie ein App-Store für KI-Modelle funktioniert und Modelle direkt über das Terminal oder Zusatz-UIs steuert. Unterstützt neben Nvidia- und Apple- auch AMD- sowie Intel-Grafikkarten über Vulkan.
Open WebUI:Eine webbasierte ChatGPT-ähnliche Benutzeroberfläche, die lokal mit Ollama oder llama.cpp verbunden werden kann.
Jan.ai:Open-Source-Alternative, die sich ähnlich wie ChatGPT bedienen lässt und lokal im Datenschutzmodus arbeitet.
llama.cpp / Koboldcpp: Leichtgewichtige Backend-Werkzeuge für Fortgeschrittene, die Modelle sehr ressourcenschonend ausführen.
Microsoft Foundry on Windows:Integrierte Windows-Lösungen (wie Foundry Local oder Windows ML) für den Betrieb von Open-Source-LLMs und Whisper-Sprachmodellen auf Windows-PCs.
Gängige lokale KI-Modelle
Qwen-Modelle (z. B. Qwen 3):Starke Open-Source-Modelle für Texte, Programmieren und Steuerungsaufgaben
Gemma-Modelle (von Google, z. B. Gemma 3 / Gemma 4): Kompakte und leistungsfähige Modelle für allgemeine Sprachaufgaben.
Mistral / Llama:Bewährte Open-Source-Standardmodelle für Chat und Textverarbeitung.