Lokale KI neben dem ERP: Wann lohnt sich eigene Hardware statt Cloud?
Lokale KI lohnt sich, wenn sensible Daten wie offene Posten, Kalkulationen oder Lohndaten keinen Cloud-Dienst sehen sollen und die Aufgaben für ein lokales Modell lösbar sind. Ob das zutrifft, zeigt ein Machbarkeits-Check vor dem Hardwarekauf. Wo eine EU-Cloud genügt, ist sie meist einfacher.
In Kürze
- Der Hauptgrund für lokale KI ist die Datenlage, nicht die Technik.
- Lokale Modelle sind nicht für jede Aufgabe so stark wie große Cloud-Modelle.
- Ein Machbarkeits-Check auf gemieteter GPU-Rechenleistung kommt vor jeder Anschaffung.
- Die Hardware steht bei Ihnen, der Betrieb kann per freigegebenem Fernzugang erfolgen.
Warum die Frage überhaupt aufkommt
Die Daten im ERP gehören zu den sensibelsten eines Unternehmens: Kunden mit offenen Posten, Einkaufspreise, Deckungsbeiträge, in vielen Fällen auch Lohndaten. Gerade hier würde KI helfen, etwa beim Erklären von Abweichungen oder beim Auslesen von Belegen. Und gerade hier sagen Geschäftsführung oder Datenschutzbeauftragte oft, dass diese Daten keinen externen Dienst sehen sollen.
Lokal, EU-Cloud oder gar nicht
Es gibt drei sinnvolle Antworten:
- EU-Cloud: Das Sprachmodell läuft bei einem Anbieter in einem Rechenzentrum in der EU, ohne Training mit Ihren Daten. Das kann ausreichen und ist deutlich einfacher.
- Lokal: Das Sprachmodell läuft auf eigener GPU-Hardware im Haus. Die Daten verlassen das Firmennetz nicht.
- Gar nicht: Wenn weder die Datenlage noch der Nutzen passen, ist auch das eine vernünftige Entscheidung.
Welche Antwort passt, hängt von der Einstufung Ihrer Daten, von Vorgaben aus Verträgen oder Konzernrichtlinien und von den Aufgaben ab.
Wie man vor dem Kauf prüft, ob es reicht
Ein lokales Modell ist kleiner als die großen Cloud-Modelle. Für manche Aufgaben ist das unerheblich, für andere nicht. Deshalb steht am Anfang ein Machbarkeits-Check: Auf gemieteter GPU-Rechenleistung in einem EU-Rechenzentrum werden lokale Modelle mit typischen Aufgaben aus Ihrem Alltag getestet, mit Beispielen, die Sie dafür freigeben. Erst wenn die Ergebnisse passen, folgt eine Stückliste für die Hardware.
Was die IT einplanen sollte
- Platz, Strom und Kühlung im Serverraum für einen GPU-Server.
- Einen Fernzugang für die Betreuung, den die IT freigibt und wieder sperren kann.
- Klare Berechtigungen, wer welche Daten über die KI abfragen darf.
- Einen lesenden Zugang zum ERP, falls ERP-Daten einbezogen werden sollen. Ob und wie das geht, ist eine eigene Prüfung.
Wo die Grenzen liegen
Eine lokale KI ersetzt weder das Berichtswesen im ERP noch die Buchhaltung. Sie liefert Antworten, Zusammenfassungen und Vorschläge, die Menschen prüfen. Und sie braucht Pflege: Modelle werden aktualisiert, Quellen ändern sich, Berechtigungen müssen mitwachsen.
Häufige Fragen
Ist eine lokale KI automatisch DSGVO-konform?
Nein, aber sie vereinfacht vieles, weil die Daten das Haus nicht verlassen. Berechtigungen, Zweckbindung und Dokumentation bleiben Ihre Aufgabe. Das ist ein allgemeiner Hinweis und ersetzt keine Rechtsberatung.
Kann die lokale KI direkt auf das ERP zugreifen?
Es gelten dieselben Wege wie bei jeder Anbindung, etwa Schnittstelle, Datenbankzugriff oder Export. Welcher davon bei Ihnen offensteht, sehen wir uns vor dem Machbarkeits-Check gemeinsam mit Ihrer IT an.
Was passiert, wenn der Machbarkeits-Check negativ ausfällt?
Dann kaufen Sie keine Hardware. Sie erfahren, welche Aufgaben ein lokales Modell nicht gut genug löst, und können entscheiden, ob eine Lösung auf einem Server in der EU in Frage kommt oder ob Sie es lassen.