KI & Automatisierung

KI im eigenen Haus

Auch bekannt als: On-Premise-KI · lokale KI

Kurz erklärt

KI im eigenen Haus bedeutet, ein Modell auf eigener Hardware zu betreiben, statt Anfragen an einen externen KI-Anbieter zu senden.

Bei den meisten KI-Anwendungen laufen Anfragen über das Internet zu einem Modell, das bei einem externen Anbieter auf dessen Servern läuft. KI im eigenen Haus bedeutet stattdessen, ein Modell auf Hardware zu betreiben, die dem Betrieb selbst gehört oder von ihm kontrolliert wird, sodass Anfragen und Daten das eigene Netz nicht verlassen müssen. Grund dafür ist meist die Frage der Datenhoheit: Wo liegen die Daten, und wer hat sonst noch Zugriff darauf.

In der Praxis braucht das passende, meist offen verfügbare Modelle, ausreichend leistungsfähige Server mit entsprechender Grafikkarte, und laufenden Betrieb dieser Infrastruktur, ähnlich wie bei einem eigenen Fileserver. Die eingesetzten Modelle sind dabei in der Regel kleiner und in ihren Fähigkeiten spürbar hinter den größten Modellen der großen Anbieter, weil deren Rechenleistung im eigenen Haus kaum erreichbar ist.

Ein Grenzfall ist die Annahme, KI im eigenen Haus sei automatisch sicherer. Die Daten verlassen zwar den eigenen Betrieb nicht, aber der Server selbst muss genauso abgesichert, gepatcht und überwacht werden wie jedes andere System, sonst verschiebt sich das Risiko nur an eine andere Stelle.

Was das im Betrieb heißt

Für einen Betrieb mit fünfzig Leuten lohnt sich KI im eigenen Haus vor allem dann, wenn tatsächlich sensible Kunden- oder Produktionsdaten verarbeitet werden sollen, die aus nachvollziehbaren Gründen das eigene Netz nicht verlassen dürfen, und wenn genug laufender Bedarf besteht, um Anschaffung und Betrieb zu rechtfertigen. Für gelegentliche Nutzung ist ein externer Anbieter meist der praktikablere Weg. NDVDL berät zu dieser Abwägung im Einzelfall.

Ist das bei Ihnen sauber gelöst?

Wir schauen uns an, wie es bei Ihnen tatsächlich aussieht — und sagen ehrlich, ob etwas zu tun ist.

IT-Infrastruktur

Ein Begriff aus Ihrem Angebot fehlt hier?

Schicken Sie uns die Stelle, die Sie nicht verstehen. Wir erklären sie — ohne dass daraus gleich ein Auftrag werden muss.