Ein eigenes Sprachmodell im Serverraum, neben dem ERP
Manche Unternehmen wollen Buchhaltungs-, Lohn- oder Kalkulationsdaten keinem Cloud-Dienst geben, auch keinem in der EU. Für sie richten wir ein Sprachmodell, also die KI, die Fragen versteht und Antworten formuliert, auf eigener Hardware mit Grafikprozessor (GPU) im Haus ein, betrieben neben ERP und Fileserver.
Wo es heute hakt
Gerade die Daten, bei denen KI am meisten helfen würde, sind oft die sensibelsten: offene Posten mit Kundennamen, Deckungsbeiträge je Artikel, Einkaufskonditionen, Gehälter. Geschäftsführung oder Datenschutzbeauftragter sagen dann zu Recht, dass das nicht hinausgeht.
Häufig steht das ERP ohnehin noch im eigenen Serverraum, und die IT betreibt die Infrastruktur selbst. Ein lokales Modell passt in diese Umgebung, braucht aber passende Hardware und eine ehrliche Prüfung, ob es die Aufgaben schafft.
Was das in der Praxis heißt
Beispiele für mögliche Abläufe, keine Kundenfälle. Was bei Ihnen sinnvoll ist, klären wir im Erstgespräch.
-
Auswertungen mit Finanzdaten
Das Controlling lässt sich Abweichungen in Deckungsbeiträgen erklären oder Zusammenfassungen zu offenen Posten erstellen, ohne dass diese Zahlen das Firmennetz verlassen.
-
Belege auslesen im Haus
Eingangsrechnungen und Lieferscheine werden auf der eigenen Hardware ausgelesen und für das ERP vorbereitet. Ob ein lokales Modell dabei so zuverlässig ist wie ein Cloud-Modell, zeigt der Machbarkeits-Check.
-
Wissensdatenbank ohne Cloud
Verträge, Verfahrensanweisungen und Protokolle werden im eigenen Haus durchsuchbar, mit Antwort und Fundstelle, auch für Unterlagen, die als vertraulich eingestuft sind.
-
Personalverrechnung
Fragen zu Lohnarten, Zulagen oder Kollektivvertragseinstufungen lassen sich an interne Unterlagen stellen, ohne dass Personaldaten an einen externen Dienst gehen.
So läuft es ab
-
Erstgespräch
Wir klären, welche Aufgaben die lokale KI übernehmen soll, welche Daten beteiligt sind und was Ihre IT an Infrastruktur schon hat.
-
Machbarkeits-Check
Auf gemieteter GPU-Rechenleistung in einem EU-Rechenzentrum testen wir lokale Modelle mit Ihren Aufgaben, mit Beispielen, die Sie dafür freigeben. Das Ergebnis zeigt, ob die Qualität reicht.
-
Stückliste für die Hardware
Passt das Ergebnis, bekommen Sie eine Stückliste für Server und GPU, nach der Ihre IT die Hardware beschaffen kann.
-
Installation
Wir installieren das Modell im Haus und binden es an die vereinbarten Quellen an, bei ERP-Daten über den Weg, der sich in der Prüfung als passend gezeigt hat.
-
Betrieb per Fernzugang
Auf Wunsch betreuen wir das System danach über einen Fernzugang, den Sie freigeben und jederzeit wieder sperren können. Den Umfang legen wir im Angebot fest.
Was bewusst nicht dazugehört
- Ein lokales Modell ist nicht für jede Aufgabe so stark wie ein großes Modell in der Cloud. Der Machbarkeits-Check soll genau das vorher zeigen.
- Die Hardware gehört Ihnen und steht bei Ihnen; Strom, Platz und Kühlung muss Ihr Serverraum hergeben.
- Die Beschaffung der Hardware liegt bei Ihnen; von uns kommt die Stückliste dafür.
Ihre Daten
Im Betrieb verarbeitet das Modell Ihre Daten auf Ihrer eigenen Hardware im Haus. Nur für den Machbarkeits-Check nutzen wir gemietete GPU-Rechenleistung in einem EU-Rechenzentrum, mit Beispielen, die Sie dafür freigeben. Unser Zugriff läuft ausschließlich über den Fernzugang, den Sie erlauben.
Häufige Fragen
Wer betreut die Hardware bei uns im Haus?
Es braucht jemanden, der den Serverraum betreut und den Fernzugang freigibt. Das kann auch Ihr externer IT-Dienstleister sein. Betrieb und Aktualisierung des Modells können wir nach Absprache übernehmen.
Wie groß muss die Hardware sein?
Das hängt von den Aufgaben und der Zahl der Nutzer ab. Genau dafür gibt es den Machbarkeits-Check; danach bekommen Sie eine Stückliste statt einer Schätzung.
Kann die lokale KI mit unserem ERP arbeiten?
Grundsätzlich gelten dieselben Wege wie bei jeder Anbindung: Schnittstelle, Datenbankzugriff, Export. Welcher bei Ihrer Installation in Frage kommt, zeigt die Prüfung vor dem Angebot.
Lohnt sich das für ein mittelständisches Unternehmen?
Wenn die Datenlage eine Cloud ausschließt, kann es sich lohnen. Wenn nicht, ist die Wissensdatenbank auf eigenem Server in Deutschland meist die einfachere Lösung. Das besprechen wir offen.
Passt dazu
Ratgeber zum Thema
Passt das zu Ihrem Unternehmen?
Im Erstgespräch sehen wir uns Ihre Abläufe an und sagen ehrlich, ob sich dieser Baustein für Sie lohnt.
Lieber gleich reden? Rufen Sie an:
+43 699 17119818