Hosting agentów AI. Twój agent, Twój serwer, Twój klucz.

1. Un agent AI non deve per forza vivere nel cloud di qualcun altro

La maggior parte degli assistenti AI più diffusi funziona come servizio SaaS: chiave API, limite mensile di richieste e dati delle conversazioni che passano attraverso server di terze parti. Per molte applicazioni aziendali, come l'assistenza clienti o l'automazione interna con accesso ai dati aziendali, questo pone la domanda su dove finiscono davvero questi dati.

Nel catalogo di applicazioni di Saplo trovi diversi motori pronti per creare i tuoi agenti e le tue automazioni con l'AI. Vengono installati sul tuo Box, sotto il tuo dominio, senza passare da infrastrutture SaaS esterne, a parte il modello linguistico a cui si collega l'agente.

L'applicazione di punta è Hermes Agent (Nous Research): un agent AI personale collegato a canali di messaggistica come Telegram, Discord, Slack e API, con un pannello web per configurare la chiave del modello e i canali, senza dover accedere al server. Il manifest richiede circa 1,5 GB di RAM.

2. Quattro motori diversi, quattro approcci diversi all'AI

Hermes Agent è un agente per la messaggistica già pronto e configurato, ideale se vuoi un assistente su Telegram o Discord senza costruire tutto da zero. Basta incollare la chiave del modello e collegare il canale dal pannello dell'applicazione.

Flowise è un editor visuale drag-and-drop per agenti AI e chatbot, che collega modelli LLM, strumenti (chiamate API, funzioni) e database vettoriali RAG in un grafo di nodi senza scrivere codice. Il manifest richiede 2 GB di RAM, perché l'immagine include Chromium per i nodi che effettuano lo scraping di pagine e file PDF.

n8n, pur non essendo un motore AI dedicato, è spesso il collante che unisce un agent AI al resto dei sistemi aziendali: una webhook da Hermes Agent o Flowise può attivare un workflow in n8n, che salva il risultato in un CRM o invia una notifica. Tutto avviene tra applicazioni sullo stesso Box.

Windmill è una piattaforma di automazione basata sul codice, con Python, TypeScript, Go e Bash, più adatta agli sviluppatori che il flusso visuale di n8n o Flowise. È utile quando la logica dell'agente richiede uno script personalizzato, non solo blocchi pronti.

3. Quante risorse richiede un'infrastruttura propria per agent AI

Hermes Agent (minimo 1,5 GB di RAM) e Flowise (minimo 2 GB di RAM) insieme superano la memoria disponibile su Box M. Installarli entrambi sullo stesso Box richiede quindi, in pratica, Box L (6 GB di RAM), con spazio per il sistema e le altre applicazioni in esecuzione.

Hermes Agent, da solo e senza altre applicazioni pesanti, funziona su Box M (2 GB di RAM), una configurazione sufficiente per chi desidera un solo agente per la messaggistica, senza motori visuali o automazioni aggiuntive.

Il costo del solo modello linguistico, cioè la chiave API di un fornitore LLM, è distinto dal costo dell'hosting, come in qualsiasi altra soluzione AI self-hosted. Saplo ospita il motore dell'agente, non il modello con cui l'agente dialoga.

4. Perché è diverso da un abbonamento SaaS per agent AI

Un abbonamento SaaS per un assistente AI viene di solito fatturato per utente oppure in base al numero di richieste mensili. Con l'aumento dell'uso in azienda, questo comporta un costo mensile crescente, spesso senza un tetto chiaro.

Un'istanza propria su Saplo ha un costo annuale fisso, determinato dal prezzo del Box, indipendente dal numero di messaggi gestiti dall'agente ogni mese. Per un'azienda con un utilizzo irregolare o stagionale, è più facile da pianificare nel budget.

I dati delle conversazioni e della configurazione dell'agente restano nel container LXC sul tuo Box, non nel database del fornitore SaaS. Per le aziende che trattano dati personali dei clienti tramite l'agente (ad esempio nell'assistenza clienti), questo è un aspetto importante quando si valuta la conformità al GDPR.

5. Per chi è adatto

Per una piccola impresa che vuole un semplice assistente su Telegram per rispondere alle domande dei clienti, Box M con Hermes Agent è un punto di partenza rapido ed economico, senza dover costruire nulla da zero.

Per un team tecnico che costruisce un flusso più complesso (agente, automazione e integrazioni CRM), Box L con Hermes Agent, Flowise o Windmill, insieme a n8n sullo stesso Box, offre il pieno controllo sull'intero stack AI.

Per chi sta valutando quale motore AI si adatti meglio alle esigenze dell'azienda, il catalogo permette di installare più motori contemporaneamente sullo stesso Box e confrontarli senza dover stipare più abbonamenti SaaS separati.

6. Come iniziare con il tuo agent AI, passo dopo passo

Scegli il motore in base al caso d'uso: Hermes Agent per un semplice assistente per app di messaggistica, Flowise per un agente più complesso con accesso ai documenti (RAG), Windmill quando la logica richiede codice su misura, non solo blocchi di nodi.

Installa l'applicazione scelta dal catalogo sul Box adatto: almeno Box M per Hermes Agent da solo, Box L se colleghi più motori. L'operazione crea un container Docker con una configurazione pronta per reverse proxy e SSL.

Configura la chiave del modello linguistico nel pannello dell'applicazione selezionata, senza accesso al server. Il sistema è progettato per consentire a una persona non tecnica dell'azienda di collegare in autonomia un'app di messaggistica o impostare il prompt di sistema.

Prova l'agente con un piccolo gruppo di utenti, ad esempio in un canale di test interno su Discord, prima di condividerlo con i clienti. In questo modo puoi individuare errori nella configurazione del prompt o delle integrazioni prima del contatto reale con i clienti.

Collega l'agente al resto dei sistemi tramite n8n, installato sullo stesso Box, se vuoi che le risposte dell'agente proseguano verso un CRM, un database o attivino altre automazioni aziendali.

7. Privacy dei dati quando si usano agent AI in azienda

Le conversazioni gestite da un agent AI, come le domande dei clienti su Telegram, vengono salvate in un container sul tuo Box, non nel database di un fornitore SaaS esterno. Questo semplifica il controllo su chi può accedere ai dati.

Il modello linguistico con cui l'agente interagisce è di solito un servizio esterno (l'API del fornitore LLM), quindi il contenuto delle richieste arriva comunque a quel fornitore, aspetto da considerare quando si valuta la conformità al GDPR per i dati personali presenti nelle conversazioni.

Per le aziende che trattano dati sensibili dei clienti tramite un agente, vale la pena considerare provider di modelli linguistici con una chiara politica di non utilizzare le richieste per addestrare ulteriormente il modello, indipendentemente da dove è ospitato il motore dell'agente.

Un motore per agenti self-hosted (Hermes Agent, Flowise) consente di controllare i log e la cronologia delle conversazioni a livello di infrastruttura, cosa che una piattaforma SaaS esterna per creare chatbot non sempre garantisce pienamente.

8. Integrazione dell'agente AI con i sistemi aziendali esistenti

Un agente AI raramente opera in completo isolamento dagli altri sistemi aziendali: più spesso deve verificare la disponibilità di un prodotto nel database, registrare un nuovo ticket nel CRM oppure inoltrare a un consulente una domanda più articolata proveniente da un cliente. Questo richiede di collegare l'agente alle altre applicazioni, non solo al modello linguistico.

Su Saplo l'integrazione si realizza più spesso tramite n8n ospitato sullo stesso Box: un webhook da Hermes Agent o Flowise avvia un workflow che interroga il database, salva i dati nel CRM (ad esempio Baserow) o invia una notifica tramite Slack o Discord alla persona giusta nel team.

Questa architettura (agente, automazione e database, tutto sullo stesso Box) consente di realizzare scenari di assistenza clienti relativamente complessi senza scrivere codice di integrazione su misura, utilizzando esclusivamente i motori pronti all'uso del catalogo delle applicazioni collegati tramite meccanismi standard basati su webhook e API.

Per le aziende che già utilizzano un sistema CRM esterno a Saplo (ad esempio un SaaS a pagamento), l'agente e l'automazione possono collegarsi al CRM tramite le API pubbliche del sistema, purché il fornitore del CRM le renda disponibili. In questo modo è possibile mantenere l'infrastruttura aziendale esistente e aggiungervi uno strato AI senza migrare l'intero sistema CRM.

È opportuno iniziare a testare questa integrazione con uno scenario semplice (ad esempio, l'agente salva soltanto la domanda del cliente nel database, senza risposta automatica) e, solo dopo aver verificato che i dati raggiungano correttamente la destinazione prevista, estendere lo scenario con azioni dell'agente più avanzate.

Documentare quali workflow n8n gestiscono quale agente e a quali sistemi si collegano diventa importante man mano che le integrazioni crescono. Senza documentazione, infatti, più applicazioni collegate su un unico Box si trasformano facilmente in un intricato reticolo di dipendenze, difficile da comprendere per chi si aggiunge al progetto in seguito.

9. Sviluppo dell'ecosistema open source attorno agli agenti AI

Hermes Agent, Flowise, Windmill e motori simili sono progetti open source sviluppati attivamente. Questo significa regolari rilasci di nuove funzionalità e integrazioni con nuovi modelli linguistici, utilizzabili nella propria istanza senza attendere che un provider SaaS decida di renderli disponibili.

Il ritmo di sviluppo nel campo degli agenti AI è eccezionalmente alto rispetto ad altre categorie di software. Per questo, usare motori open source mantenuti attivamente rende più probabile accedere subito alle nuove funzionalità appena rilasciate, anziché attendere l'aggiornamento di una piattaforma commerciale chiusa.

Su Saplo l'aggiornamento di questi motori a una versione più recente avviene tramite una ricetta nel catalogo delle applicazioni, il che facilita il mantenersi aggiornati senza dover seguire separatamente i repository su GitHub di ogni strumento utilizzato.

Per i team che sperimentano con modelli linguistici diversi (cambio di provider LLM, test di nuovi modelli), un motore per agenti self-hosted permette di usare qualsiasi chiave API, senza i vincoli imposti da una piattaforma chiusa legata a un unico provider di modelli.

La comunità attorno a questi progetti (forum, repository con esempi, canali Discord dei progetti open source) è una fonte di conoscenza alternativa per affrontare scenari più insoliti. La documentazione di Saplo si concentra infatti sul livello infrastrutturale, non sulla configurazione del motore dell'agente.

10. Valutazione dell'efficacia dell'agente AI dopo l'implementazione

Dopo aver implementato un agente per la messaggistica (ad esempio Hermes Agent su Telegram), è utile monitorare la percentuale di richieste dei clienti gestita in autonomia dall'agente e quella che richiede il passaggio a una persona. È un indicatore concreto per capire se l'agente sta davvero alleggerendo il lavoro del team di assistenza clienti.

Una revisione periodica delle conversazioni (anonimizzata, nel rispetto della privacy dei clienti) aiuta a individuare le domande ricorrenti alle quali l'agente non sa dare una buona risposta. È un segnale per migliorare il prompt di sistema o aggiungere nuove informazioni alla base di conoscenza dell'agente. Questo ciclo (osservazione, correzione, nuova osservazione) è un modo naturale per migliorare nel tempo la qualità dell'agente, proprio come accade per qualsiasi altro prodotto basato sul contatto diretto con i clienti dell'azienda.

Per gli agenti creati con Flowise che hanno accesso ai documenti aziendali (RAG), è opportuno verificare periodicamente che la base di conoscenza utilizzata dall'agente sia aggiornata, perché documenti obsoleti possono portare l'agente a fornire risposte obsolete e potenzialmente errate ai clienti.

La valutazione dell'efficacia deve considerare anche la soddisfazione dei clienti per la conversazione con l'agente, non solo l'efficacia tecnica del sistema. Anche una risposta tecnicamente corretta può infatti risultare troppo rigida o non adatta al tono usato dal cliente.

11. Riepilogo: la propria infrastruttura AI come vantaggio, non come costo

Trattare l'infrastruttura degli agenti AI come qualcosa che l'azienda possiede, anziché come un servizio noleggiato tramite un SaaS con tariffazione per numero di richieste, cambia l'economia dell'implementazione dell'AI nelle piccole e medie imprese: il costo è fisso e prevedibile, i dati restano sotto il controllo dell'azienda e la scelta del motore (Hermes Agent, Flowise, Windmill) dipende dalle esigenze reali, non dall'offerta corrente di un singolo provider cloud, limitata alle funzionalità incluse nel piano di abbonamento scelto.