Hosting agentów AI. Twój agent, Twój serwer, Twój klucz.

1. Dein KI-Agent muss nicht in einer fremden Cloud leben

Die meisten verbreiteten KI-Assistenten arbeiten als SaaS-Dienst: mit API-Key, monatlichem Abfragelimit und Gesprächsdaten, die über Server Dritter laufen. Bei vielen geschäftlichen Anwendungen, etwa im Kundenservice, in der internen Automatisierung oder beim Zugriff auf Unternehmensdaten, stellt sich damit die Frage, wo diese Daten tatsächlich landen.

Im App-Katalog von Saplo findest du mehrere fertige Engines, mit denen du eigene KI-Agenten und KI-Automatisierungen aufsetzen kannst. Sie laufen in deiner eigenen Box-Instanz unter deiner eigenen Domain, ohne fremde SaaS-Infrastruktur zu nutzen. Der einzige externe Bestandteil ist das Sprachmodell, mit dem sich der Agent verbindet.

Hermes Agent (Nous Research) ist das Flaggschiff: ein persönlicher KI-Agent für Telegram, Discord, Slack und API-Anbindungen. Im Web-Panel konfigurierst du den Modell-Key und die Messenger, ohne direkten Zugriff auf den Server zu benötigen. Das Manifest sieht rund 1,5 GB RAM vor.

2. Vier verschiedene Engines, vier verschiedene Ansätze für KI

Hermes Agent ist ein fertig konfigurierter Agent für Messenger und ideal, wenn du einen Assistenten in Telegram oder Discord möchtest, ohne alles von Grund auf zu bauen. Es genügt, den Modell-Key einzufügen und den Messenger im App-Panel zu verbinden.

Flowise ist ein visueller Drag-and-Drop-Builder für KI-Agenten und -Chatbots, der LLM-Modelle, Tools (API-Aufrufe, Funktionen) und RAG-Vektor-Datenbanken in einem Knotengraphen verbindet, ohne Code zu schreiben. Das Manifest benötigt 2 GB RAM, weil das Image Chromium für Knoten zum Scrapen von Websites und PDF-Dateien enthält.

n8n ist zwar keine dedizierte KI-Engine, dient aber oft als Bindeglied zwischen dem KI-Agenten und den übrigen Unternehmenssystemen: Ein Webhook von Hermes Agent oder Flowise kann einen Workflow in n8n auslösen, der das Ergebnis in einem CRM speichert oder eine Benachrichtigung sendet. Die gesamte Kommunikation läuft zwischen Anwendungen auf derselben Box-Instanz.

Windmill ist eine codebasierte Automatisierungsplattform (Python, TypeScript, Go, Bash) und eher für Programmierer als für visuelle Workflows wie bei n8n oder Flowise gedacht. Sie ist besonders nützlich, wenn die Agentenlogik ein individuelles Skript benötigt und nicht nur aus fertigen Node-Bausteinen besteht.

3. Wie viele Ressourcen benötigt die eigene Infrastruktur für KI-Agenten?

Hermes Agent mit mindestens 1,5 GB RAM und Flowise mit mindestens 2 GB RAM benötigen zusammen mehr Arbeitsspeicher, als Box M bietet. Um beide auf einer Box-Instanz zu betreiben, ist in der Praxis Box L mit 6 GB RAM nötig, inklusive Reserve für das System und weitere parallel laufende Anwendungen.

Hermes Agent passt ohne andere ressourcenintensive Anwendungen auf Box M mit 2 GB RAM. Das reicht für einen einzelnen Messenger-Agenten ohne zusätzliche visuelle Engines oder Automatisierung.

Die Kosten für das Sprachmodell selbst, also der API-Zugang beim LLM-Anbieter, werden getrennt von den Hosting-Kosten berechnet. Das gilt wie bei jeder anderen selbst gehosteten KI-Lösung, weil Saplo die Engine des Agenten hostet, nicht das Modell, mit dem der Agent kommuniziert.

4. Warum ist das anders als ein SaaS-Abonnement für einen KI-Agenten?

Ein SaaS-Abonnement für einen KI-Assistenten wird meist pro Nutzer oder nach der Anzahl der monatlichen Abfragen abgerechnet. Bei wachsendem Einsatz im Unternehmen steigen damit die monatlichen Kosten, oft ohne eine klare Obergrenze.

Eine eigene Instanz auf Saplo hat feste jährliche Kosten in Höhe des Box-Preises, unabhängig von der Anzahl der Nachrichten, die der Agent im jeweiligen Monat verarbeitet. Für Unternehmen mit unregelmäßiger oder saisonaler Nutzung ist das leichter zu budgetieren.

Die Gesprächsdaten und die Konfiguration des Agenten bleiben physisch im LXC-Container auf deinem Box und nicht in der Datenbank des SaaS-Anbieters. Für Unternehmen, die personenbezogene Kundendaten über einen Agenten verarbeiten, etwa im Kundenservice, ist das bei der Bewertung der RODO-Konformität relevant.

5. Für wen es sich eignet

Für ein kleines Unternehmen ist Box M mit Hermes Agent ein schneller und günstiger Einstieg in einen einfachen Assistenten in Telegram zur Beantwortung von Kundenfragen, ohne dass du etwas von Grund auf bauen musst.

Box L mit Hermes Agent, Flowise oder Windmill und n8n auf einem einzigen Box bietet einem technischen Team, das einen komplexeren Workflow (Agent plus Automatisierung plus CRM-Integrationen) entwickelt, die volle Kontrolle über den gesamten KI-Stack.

Wenn du testen möchtest, welche KI-Engine am besten zu den Anforderungen deines Unternehmens passt, kannst du im Katalog mehrere Engines gleichzeitig auf einer Box-Instanz installieren und vergleichen, ohne mehrere SaaS-Verträge abschließen zu müssen.

6. So startest du Schritt für Schritt mit deinem eigenen KI-Agenten

Wähle die Engine passend zur konkreten Anwendung: Hermes Agent für einen einfachen Messaging-Assistenten, Flowise für einen komplexeren Agenten mit Dokumentzugriff (RAG), Windmill, wenn die Logik eigenen Code erfordert und nicht nur Node-Blöcke.

Installiere die gewählte Anwendung aus dem Katalog auf der passenden Box-Instanz: mindestens Box M für Hermes Agent allein oder Box L bei mehreren Engines. Dadurch richtet Saplo einen Docker-Container mit vorkonfiguriertem Reverse Proxy und SSL ein.

Konfiguriere den Schlüssel für das Sprachmodell im Panel der ausgewählten App, ohne Zugriff auf den Server selbst zu benötigen. So kann eine nicht-technische Person im Unternehmen einen Messenger verbinden oder einen System-Prompt festlegen.

Teste den Agenten zunächst mit einer kleinen Gruppe von Nutzern, etwa in einem internen Testkanal auf Discord, bevor du ihn für Kunden freigibst. So findest du Fehler in der Prompt-Konfiguration oder bei der Integration, bevor echter Kundenkontakt entsteht.

Verbinde den Agenten über n8n auf derselben Box-Instanz mit deinen übrigen Systemen, wenn seine Antworten an ein CRM oder eine Datenbank weitergeleitet werden oder andere Automatisierungen im Unternehmen auslösen sollen.

7. Datenschutz beim Einsatz von KI-Agenten im Unternehmen

Von einem KI-Agenten verarbeitete Gespräche, etwa Kundenfragen in Telegram, bleiben in einem Container auf deiner Box-Instanz gespeichert und nicht in der Datenbank eines externen SaaS-Anbieters. So behältst du die Kontrolle darüber, wer auf diese Daten zugreifen kann.

Das Sprachmodell, mit dem der Agent kommuniziert, ist normalerweise ein externer Dienst (API des LLM-Anbieters). Der Inhalt der Anfragen gelangt daher ohnehin zu diesem Anbieter. Das solltest du bei der Bewertung der RODO-Konformität für personenbezogene Daten in den Gesprächen berücksichtigen.

Für Unternehmen, die sensible Kundendaten über einen Agenten verarbeiten, kann es sich lohnen, Anbieter von Sprachmodellen mit einer klaren Datenschutzrichtlinie auszuwählen, nach der Anfragen nicht zum weiteren Training des Modells verwendet werden. Das gilt unabhängig davon, wo die Agent-Engine selbst gehostet wird.

Eine selbst gehostete Agent-Engine (Hermes Agent, Flowise) gibt dir die Kontrolle über Logs und Gesprächsverläufe auf InfrastrukturEbene, wie eine vollständig externe SaaS-Plattform für die Entwicklung von Chatbots dies nicht immer garantiert.

8. Integration eines KI-Agenten in die bestehenden Systeme des Unternehmens

Ein KI-Agent arbeitet selten völlig isoliert von den übrigen Systemen eines Unternehmens. Meist muss er die Produktverfügbarkeit in einer Datenbank prüfen, einen neuen Supportfall im CRM anlegen oder eine komplexere Kundenfrage an einen Berater weiterleiten. Das erfordert eine Verbindung des Agenten mit anderen Anwendungen, nicht nur mit dem Sprachmodell.

Bei Saplo wird diese Verbindung meist über n8n auf derselben Box hergestellt: Ein Webhook von Hermes Agent oder Flowise startet einen Workflow, der die Datenbank prüft, Daten in einem CRM (z. B. Baserow) speichert oder eine Slack- oder Discord-Benachrichtigung an die zuständige Person im Team sendet.

Diese Architektur, Agent plus Automatisierung plus Datenbank auf einem einzigen Box, ermöglicht es dir, relativ komplexe Kundenservice-Szenarien zu entwickeln, ohne eigenen Integrationscode zu schreiben. Du nutzt ausschließlich fertige Engines aus dem App-Katalog, die über standardisierte Webhook- und API-Mechanismen verbunden sind.

Für Unternehmen mit einem bestehenden CRM außerhalb von Saplo (z. B. bei einem externen, kostenpflichtigen SaaS-Anbieter) können Agent und Automatisierung über die öffentliche API dieses CRM-Systems angebunden werden, sofern der CRM-Anbieter sie bereitstellt. So bleibt die vorhandene Infrastruktur erhalten und lässt sich um eine KI-Schicht ergänzen, ohne das gesamte CRM migrieren zu müssen.

Beim Testen einer solchen Integration solltest du mit einem einfachen Szenario beginnen. Der Agent speichert zum Beispiel nur die Kundenfrage in der Datenbank, ohne automatisch zu antworten. Erst wenn geprüft ist, dass die Daten korrekt am richtigen Ort landen, solltest du das Szenario um komplexere Aktionen des Agenten erweitern.

Die Dokumentation, welcher n8n-Workflow welchen Agenten bedient und mit welchen Systemen der Agent verbunden ist, wird mit zunehmender Integrationskomplexität wichtiger. Mehrere miteinander verknüpfte Anwendungen auf derselben Box werden für jemanden, der später zum Projekt kommt, ohne Dokumentation schnell zu einem schwer verständlichen Geflecht von Abhängigkeiten.

9. Entwicklung des Open-Source-Ökosystems rund um KI-Agenten

Hermes Agent, Flowise, Windmill und ähnliche Engines sind aktiv entwickelte Open-Source-Projekte. Das bedeutet regelmäßige Releases mit neuen Funktionen und Integrationen für weitere Sprachmodelle. Die neuen Funktionen und Integrationen kannst du in deiner eigenen Instanz nutzen, ohne auf die Freigabe durch einen SaaS-Anbieter warten zu müssen.

Das Entwicklungstempo im Bereich KI-Agenten ist im Vergleich zu anderen Softwarekategorien außergewöhnlich hoch. Deshalb bieten aktiv gepflegte Open-Source-Engines schneller Zugang zu neuen Funktionen, sobald diese veröffentlicht werden, als das Warten auf ein Update einer geschlossenen kommerziellen Plattform.

Bei Saplo werden solche Engines über einen Eintrag im Anwendungskatalog aktualisiert. So bleibst du auf dem neuesten Stand, ohne die GitHub-Repositories jedes verwendeten Tools einzeln verfolgen zu müssen.

Für Teams, die mit verschiedenen Sprachmodellen experimentieren (z. B. einen LLM-Anbieter wechseln oder neue Modelle testen), bietet eine selbst gehostete Agent-Engine die Freiheit, einen beliebigen API-Schlüssel anzubinden, ohne die Einschränkungen einer geschlossenen Plattform, die an einen bestimmten Modellanbieter gebunden ist.

Die Community rund um diese Projekte, etwa Foren, Repositories mit Beispielen und Discord-Kanäle zu Open-Source-Projekten, ist eine zusätzliche Wissensquelle bei der Lösung ungewöhnlicher Szenarien. Sie ist unabhängig von der Saplo-Dokumentation, die sich auf die Infrastruktur konzentriert und nicht auf die Konfiguration der Agent-Engine selbst.

10. Bewertung der Wirksamkeit eines KI-Agenten nach der Einführung

Nach dem Einsatz eines Messaging-Agenten, etwa Hermes Agent auf Telegram, solltest du beobachten, welchen Anteil der Kundenanfragen der Agent selbstständig bearbeitet und welche an einen Menschen übergeben werden müssen. So erhältst du eine konkrete Kennzahl, ob der Agent das Kundenserviceteam tatsächlich entlastet.

Eine regelmäßige Durchsicht der Gespräche, anonymisiert und unter Wahrung der Privatsphäre der Kunden, hilft dabei, wiederkehrende Fragen zu erkennen, die der Agent nicht gut beantworten kann. Das ist ein Signal, den Systemprompt zu verbessern oder neue Informationen zur Wissensdatenbank des Agenten hinzuzufügen. Dieser Zyklus aus Beobachtung, Korrektur und erneuter Beobachtung ist eine natürliche Methode, die Qualität des Agenten mit der Zeit zu verbessern, ähnlich wie bei der Entwicklung jedes anderen Produkts, das direkt mit den Kunden des Unternehmens arbeitet.

Bei Agenten, die in Flowise erstellt wurden und per RAG auf Unternehmensdokumente zugreifen, solltest du regelmäßig prüfen, ob die Wissensdatenbank auf dem neuesten Stand ist. Veraltete Dokumente führen zu veralteten und potenziell falschen Antworten, die der Agent Kunden erteilt.

Bei der Bewertung der Wirksamkeit solltest du auch die Kundenzufriedenheit mit dem Gespräch mit dem Agenten berücksichtigen, nicht nur die technische Leistungsfähigkeit des Systems. Eine technisch korrekte Antwort kann dennoch als zu steif oder unpassend zum Kommunikationston des Kunden empfunden werden.

11. Zusammenfassung: Eigene KI-Infrastruktur ist ein Vorteil, kein Kostenfaktor

Wenn die KI-Agenten-Infrastruktur als Eigentum des Unternehmens behandelt wird, statt sie in einem nach Abfragen abgerechneten SaaS-Modell zu mieten, verändert sich die Wirtschaftlichkeit des KI-Einsatzes für kleine und mittlere Unternehmen: Die Kosten sind fest und planbar, die Daten bleiben vollständig unter der Kontrolle des Unternehmens, und die Wahl der Engine (Hermes Agent, Flowise, Windmill) richtet sich nach dem tatsächlichen Bedarf, nicht danach, was ein einzelner Cloud-Anbieter aktuell in seinem begrenzten Funktionskatalog für den jeweiligen Abonnement-Plan anbietet.