Bevor Sie Geld in ein KI-System stecken, sollten Sie ehrlich prüfen, ob Ihr Unternehmen bereit ist. Nicht jedes Unternehmen braucht sofort eine DGX Spark – und nicht jedes Unternehmen kann die Vorteile der lokalen KI voll nutzen, wenn die Grundlagen fehlen.
Im Folgenden bekommen Sie sechs konkrete Prüfpunkte, die wir im Erstgespräch durchgehen. Beantworten Sie sie ehrlich – am Ende wissen Sie, ob die lokale KI für Sie der richtige Schritt ist, wie groß Ihr Einstieg sein sollte, und ob Sie erst ein paar Grundlagen legen müssen.
1. Mitarbeiterzahl & Nutzungsdichte
Die erste Frage: Wie viele Mitarbeiter haben Sie, und wie viele davon werden die KI aktiv nutzen?
| Größe | Aktive Nutzer (geschätzt) | Empfohlene Hardware |
|---|---|---|
| 5–15 Mitarbeiter | 3–8 aktive | RTX-5090 (~7.000 €) |
| 15–50 Mitarbeiter | 10–30 aktive | DGX Spark (~5.000 €) |
| 50–100+ Mitarbeiter | 30–80 aktive | 2× DGX Spark oder Spark + 5090 |
Wichtig ist nicht die absolute Zahl, sondern die Nutzungsdichte. Ein 50-Mann-Betrieb, bei dem nur 5 die KI aktiv nutzen, fährt die RTX-5090 problemlos. Ein 20-Mann-Betrieb, bei dem alle 20 die KI als Haupt-Arbeitstool nutzen, braucht die DGX Spark. Beantworten Sie ehrlich: Wie viele Leute in Ihrem Haus werden die KI wirklich jeden Tag nutzen – nicht nur einmal im Monat?
2. Datenlage: was haben Sie, und in welcher Form?
Die zweite Frage: Welches Wissen wollen Sie der KI geben, und in welcher Form liegt es vor?
- Text-Dokumente (PDF, Word, Markdown): perfekt für RAG. Ja → der RAG-Korpus ist leicht aufzubauen.
- Strukturierte Daten (Excel, Datenbank): brauchen einen separaten Datenzugriff (SQL-Abzug), nicht RAG. Ja → zusätzlicher Aufwand, aber machbar.
- Unstrukturierte Daten (E-Mails, Chats, Audio-Notizen): brauchen Vorverarbeitung. Ja → Rechenarbeit, aber kein Stopper.
- Wissen ist nur im Kopf der Mitarbeiter: das ist der häufigste Fall – und der schwierigste. Wenn das Wissen nicht dokumentiert ist, kann RAG es nicht liefern. Ja → Sie brauchen erst ein Dokumentations-Programm, bevor die KI vollen Nutzen bringt.
Die ehrliche Antwort: Wenn Ihr Wissen zu 80 % in Dokumenten vorliegt, ist die lokale KI sofort wertvoll. Wenn es zu 80 % nur im Kopf der Leute ist, brauchen Sie erst die Dokumentation – und die lokale KI wird dann zum Katalysator, der das Dokumentieren lohnt.
3. Budget: was können Sie realistisch investieren?
Die dritte Frage: Was können Sie im ersten Jahr investieren, und was dürfen Sie monatlich ausgeben?
| Investition | RTX-5090-Paket | DGX-Spark-Paket |
|---|---|---|
| Hardware (einmalig) | ~7.000 € | ~5.000 € |
| Installation & Setup (einmalig) | ab 2.000 € | ab 2.000 € |
| Wartung (pro Monat) | ~100–200 € | ~100–200 € |
| Strom (pro Jahr) | ~150–675 € | ~45–190 € |
| Gesamt Jahr 1 | ~6.400–8.700 € | ~7.900–8.900 € |
Die entscheidende Frage: Verglichen mit den Cloud-Abos, die Sie heute zahlen – lohnt sich die Investition? Wenn Sie heute 15.000–30.000 €/Jahr an Abos zahlen, ist die lokale KI nach 18–30 Monaten amortisiert. Wenn Sie heute nur 2.000–5.000 €/Jahr an Abos zahlen, ist die Amortisation langsamer – aber die Vorteile (Datenschutz, Kontrolle, keine Preiserhöhungen) bleiben.
4. IT-Grundlagen: haben Sie das Netzwerk, die AD und den Raum?
Die vierte Frage: Ihr IT-Grundgerüst – ist es da, oder müssen Sie erst nachlegen?
- Firewall & VLAN: Haben Sie eine Firewall, die ein separates VLAN für den KI-Server einrichten kann? Ja → kein Problem. Nein → Ihr IT-Dienstleister muss das zuerst aufsetzen (1–2 Tage Arbeit).
- Active Directory / SSO: Haben Sie ein zentrales Login-System (Azure AD, Google Workspace, lokales LDAP)? Ja → Open WebUI dockt daran an, kein extra Passwort. Nein → Sie brauchen entweder SSO aufzubauen oder leben mit lokalen Accounts (weniger elegant, aber machbar).
- Serverraum / Platz: Haben Sie einen Platz für einen Desktop-Server (Schreibtisch, Ecke, kleiner Raum)? Ja → kein Problem. Nein → Sie müssen einen Platz finden – der Spark ist so groß wie ein kompakter Desktop-PC, die 5090-Maschine wie ein normaler PC.
- IT-Personal: Haben Sie 1–2 IT-Mitarbeiter, die den Server im Auge behalten? Ja → gut. Nein → der Wartungsvertrag deckt das ab; Sie brauchen kein eigenes KI-IT-Personal.
Der häufigste Stolperstein: Unternehmen, die kein zentrales Login-System haben. Das ist kein Stopper, aber es macht die Zugangsverwaltung umständlicher. Beantworten Sie das ehrlich: Was haben Sie, was fehlt?
5. Use-Cases: was wollen Sie konkret mit der KI machen?
Die fünfte Frage: Was sind Ihre Top-3 Anwendungsfälle, die Sie mit der KI lösen wollen? Je konkreter die Anwendung, desto klarer die Hardware-Empfehlung.
- RAG über internes Wissen (Verträge, Richtlinien, Prozesse, Knowledge-Basis) → der Standard-Use-Case, funktioniert auf jeder Hardware, der Sweet Spot für die meisten KMU.
- E-Mail- & Dokument-Zusammenfassungen (lange Mails zusammenfassen, Dokumente auf den Punkt bringen) → funktioniert auf jeder Hardware, 7B–14B reicht.
- Interner Assistent / Copilot-Ersatz (Chat, Fragen, Brainstorming) → funktioniert auf jeder Hardware, 14B–70B je nach Anforderung.
- Komplexes Reasoning / Code / Mathematik → begrenzt lokal, besser in der Cloud (Hybrid).
- Bild-/Video-Generierung → begrenzt lokal, besser in der Cloud (Hybrid).
Wenn Ihre Top-3 Use-Cases in die ersten drei Kategorien fallen, ist die lokale KI der perfekte Fit. Wenn sie in die letzten beiden fallen, brauchen Sie ein Hybrid-Modell. Beides setzen wir auf – die Frage ist nur, wie viel Cloud-Anteil Sie wollen.
6. Wartung: wer hält das System am Laufen?
Die sechste und letzte Frage: Wer wartet die KI, wenn Sie selbst kein IT-Experte sind?
- Sie haben IT-Personal: Dann können Sie das Patching und Monitoring selbst machen (mit unserer Doku und Support). Sparsamste Option, aber zeitlich bindend.
- Sie haben kein IT-Personal: Dann brauchen Sie den Wartungsvertrag. Wir machen das Patching, Monitoring, Modell-Updates und Re-Index – zu festen Konditionen, ~100–200 €/Monat.
- Sie haben einen IT-Dienstleister: Dann können wir uns mit ihm koordinieren – wir machen das KI-spezifische (Modell, RAG, Ollama), er das Netzwerk-spezifische (Firewall, VLAN, AD). Klar abgegrenzt, keine Doppelarbeit.
Die ehrliche Antwort: Die meisten KMU haben kein dediziertes KI-IT-Personal. Deshalb ist der Wartungsvertrag kein Luxus, sondern der Grund, warum die lokale KI für Sie praktikabel ist. Ohne ihn wäre das System eine Blackbox, die im Stich bleibt, wenn etwas kaputtgeht.
Die kurze Antwort: sind Sie bereit?
Wenn Sie auf mindestens 4 der 6 Punkte ein «Ja» oder «grün» haben, ist Ihr Unternehmen bereit für lokale KI. Die verbleibenden 1–2 Punkte klären wir im kostenlosen Erstgespräch – wir sagen Ihnen ehrlich, was fehlt, wie viel es kostet und wie lange es dauert, bis Sie startklar sind.
Wenn Sie auf 2–3 Punkte ein «Nein» oder «rot» haben, ist das kein Stopper – aber es bedeutet, dass Sie erst ein paar Grundlagen legen müssen (Dokumentation, SSO, Firewall-Setup). Das macht die lokale KI nicht unmöglich, aber sie dauert ein bisschen länger.
Der nächste Schritt ist der kostenlose 30-Minuten-Check: Sie beantworten uns die 6 Fragen, wir sagen Ihnen, welche Hardware passt, was es kostet, wie lange das Setup dauert – und ob die lokale KI für Sie der richtige Schritt ist. Ohne Verpflichtung, ohne Verkaufsdruck. Wenn Sie die 6 Punkte selbst durchgegangen sind und sich nicht sicher sind, rufen Sie uns an oder schreiben Sie uns – wir gucken es uns an, bevor Sie Geld ausgeben.