Contattaci
LEAF Advisory · AI confidenziale

AI su un'infrastruttura che controlli tu.

Per le organizzazioni che non possono inviare dati riservati a servizi AI di terze parti. Lavoriamo con i tuoi team IT e di sicurezza per valutare le opzioni, co-progettare AI privata on-premises o in ambienti isolati e metterla in pratica insieme, con il supporto ingegneristico di LEAF Labs dove serve.

Esploriamola insieme
Che cos'è

Inferenza privata, progettata come architettura.

AI confidenziale significa eseguire i modelli su sistemi che controlli tu, in modo che dati, prompt, output e log restino entro confini che definisci tu. Non è un prodotto da installare: è una decisione architetturale che riguarda infrastruttura, identità, rete e governance, e la affrontiamo con te come incarico di consulenza.

Le architetture possono essere progettate per supportare clienti che operano secondo specifici requisiti normativi, di sicurezza e di residenza dei dati. Insieme ai tuoi team di sicurezza, legale e IT, traduciamo questi requisiti in scelte tecniche concrete, adatte ai tuoi processi.

Modelli di deployment

Dove vengono eseguiti i modelli

Insieme valutiamo quale opzione si adatta ai tuoi dati, ai tuoi vincoli e ai team che la gestiranno.

Inferenza on-premises

Modelli serviti dai tuoi server e dalle tue GPU, nel tuo data center, integrati con la rete e l'operatività esistenti.

Cloud privato

Infrastruttura dedicata in un ambiente cloud che controlli tu, nella regione che scegli, senza inviare dati ad API AI condivise di terze parti.

Isolato e air-gapped

Ambienti senza connettività esterna, in cui modelli e aggiornamenti entrano attraverso procedure di trasferimento controllate.

Ibrido con confini chiari

I carichi di lavoro riservati restano privati, mentre le attività meno sensibili usano servizi esterni, con regole esplicite su quali dati possono attraversare il confine.

L'hardware con cui abbiamo lavorato negli incarichi per i clienti

Dimensionato sul carico di lavoro, dall'hardware edge compatto all'infrastruttura multi-GPU da data center. L'hardware viene scelto con te per ogni incarico, non per impostazione predefinita.

Compatto ed edge

Raspberry Pi 5 con acceleratore AI Hailo per l'inferenza su dispositivo di immagini e video da telecamera, mantenendo i dati visivi in sede.

Team e reparto

NVIDIA DGX Spark (GB10) per inferenza privata, RAG e adattamento dei modelli al servizio di un team, su una scrivania o in una sala server.

Data center

Server NVIDIA con doppia GPU H200 per modelli più grandi, più utenti simultanei e carichi documentali più pesanti.

Sicurezza e governance

Che cosa affrontiamo insieme

Controllo degli accessi

Chi può usare quale modello, su quali fonti di dati. Integrazione con il tuo identity provider e permessi basati sui ruoli che rispecchiano quelli già in vigore.

Verificabilità

Registrazione di interrogazioni, azioni amministrative e modifiche ai modelli, conservata secondo la tua politica e mantenuta nel tuo ambiente.

Residenza dei dati

Una conoscenza chiara di dove vengono archiviati ed elaborati dati, embedding, cache e log, inclusi backup e file temporanei.

Architettura di sicurezza

Segmentazione della rete, cifratura, gestione dei segreti e hardening dello stack di serving, progettati con il tuo team di sicurezza.

Filiera dei modelli

Fonti dei modelli verificate, revisione delle licenze, tracciamento delle versioni e un processo controllato per introdurre nuovi modelli o aggiornamenti.

Governance aziendale

Un inventario dei casi d'uso dell'AI, dei responsabili e delle approvazioni, in modo che l'architettura si inserisca nei tuoi processi esistenti di gestione del rischio e del cambiamento.

Come lavoriamo

Al fianco dei tuoi team.

Scout, Connect, Unlock: il metodo LEAF, applicato con i tuoi team IT, di sicurezza e di conformità dalla prima valutazione all'uso quotidiano.

01

Capire e valutare

Insieme mappiamo casi d'uso, classificazione dei dati, modello delle minacce, requisiti normativi e di residenza dei dati e infrastruttura esistente.

02

Co-progettare

Modello di deployment, selezione dei modelli, dimensionamento dell'hardware, accessi e registrazione dei log, definiti con i tuoi team in una proposta di architettura condivisa.

03

Sperimentare insieme

Un progetto pilota sulla tua infrastruttura, sviluppato con il tuo team IT e con il supporto ingegneristico di LEAF Labs dove serve, per validare qualità, prestazioni e controlli su carichi di lavoro reali.

04

Integrare e adottare

Procedure operative scritte con il tuo team IT per integrare il risultato nei tuoi processi, e LEAF Academy che aiuta le persone che lo useranno.

Limiti espliciti

Che cosa l'AI privata non risolve da sola

  • Eseguire i modelli sulla tua infrastruttura non rende un'organizzazione conforme. La conformità dipende da processi, persone e controlli che vengono valutati da te e dai tuoi auditor.
  • LEAF non si presenta come titolare di certificazioni di sicurezza o di conformità per questo servizio.
  • I modelli che possono essere ospitati privatamente possono avere capacità diverse rispetto ai più grandi modelli proprietari in cloud. Li valutiamo con te sulle tue attività prima di raccomandarne uno.
  • Hardware, operatività e aggiornamenti dei modelli diventano una tua responsabilità, o quella di un partner che scegli tu. Lo pianifichiamo insieme fin dall'inizio.
FAQ

Domande e risposte

Domande frequenti sull'AI confidenziale.

Chiedici quello che vuoi

L'AI confidenziale è AI distribuita su un'infrastruttura controllata dal cliente, come server on-premises, un ambiente di cloud privato o una rete isolata, in modo che dati riservati, prompt e output non debbano essere elaborati da servizi AI di terze parti. In LEAF è un servizio di consulenza Advisory: lavoriamo con i tuoi team IT e di sicurezza per valutare le opzioni, co-progettare l'architettura, sperimentarla insieme in un progetto pilota e integrarla nei tuoi processi, con il supporto ingegneristico di LEAF Labs dove serve.

Con un'API AI pubblica, i dati escono dal tuo ambiente e vengono elaborati secondo le condizioni del fornitore. Con l'AI confidenziale, l'inferenza avviene entro confini che definisci tu, e sei tu a controllare accessi, registrazione dei log e conservazione. Il compromesso è che ti fai carico di hardware, operatività e ciclo di vita dei modelli, e i modelli che puoi ospitare in proprio possono avere capacità diverse rispetto ai più grandi modelli proprietari in cloud.

Sì. Le architetture possono essere progettate per reti isolate o air-gapped, dove modelli, dipendenze e aggiornamenti vengono introdotti attraverso procedure di trasferimento controllate invece che via rete. Questo richiede di pianificare aggiornamenti, monitoraggio e valutazione dei modelli senza connettività esterna.

No. LEAF non si presenta come titolare di certificazioni di sicurezza o di conformità per l'AI confidenziale. Le architetture possono essere progettate per supportare clienti che operano secondo specifici requisiti normativi o di conformità, come gli obblighi del GDPR sui dati personali o le regole di residenza dei dati. La conformità viene valutata dal cliente e dai suoi auditor sull'intera organizzazione, non dal solo sistema AI.

I modelli i cui pesi possono essere ospitati localmente secondo i termini della loro licenza, inclusi modelli linguistici, di embedding, di visione e vocali. La selezione tiene conto delle condizioni di licenza, delle prestazioni sulle tue attività e lingue e dell'hardware disponibile. Insieme al tuo team valutiamo i modelli candidati sui tuoi dati prima di raccomandarne uno.

Dipende dai modelli, dal numero di utenti e dal tipo di carico di lavoro, per esempio assistenti interattivi, elaborazione di documenti o analisi batch. Negli incarichi per i clienti LEAF ha lavorato con un'ampia gamma di hardware: da un Raspberry Pi 5 con acceleratore Hailo per l'inferenza su dispositivo di immagini e video da telecamera, a NVIDIA DGX Spark (GB10) per l'uso a livello di team, fino a server NVIDIA con doppia GPU H200. Insieme dimensioniamo l'hardware sulla base dei carichi di lavoro misurati durante un progetto pilota, non di stime generiche.

Le architetture che progettiamo con te possono essere integrate con il tuo identity provider esistente, applicare permessi basati sui ruoli per caso d'uso e per fonte di dati e registrare interrogazioni e azioni amministrative secondo la tua politica di conservazione. I log restano nel tuo ambiente. Questi controlli vengono progettati insieme ai tuoi team di sicurezza e conformità.

Sì. Il recupero di informazioni e le interfacce conversazionali su documenti e database interni possono essere eseguiti all'interno dello stesso perimetro privato e rispettare i permessi esistenti. È il focus dei nostri incarichi Dialogo con i sistemi aziendali.

Con una valutazione congiunta dei tuoi casi d'uso, della classificazione dei dati, dei requisiti normativi e di residenza dei dati e dell'infrastruttura esistente, secondo il metodo Scout, Connect, Unlock. Il risultato è una proposta di architettura e un piano per il progetto pilota concordati con i tuoi team. Il progetto pilota viene poi sviluppato insieme al tuo team IT, con il supporto ingegneristico di LEAF Labs dove serve, e LEAF Academy aiuta le persone che lo useranno e lo gestiranno.

Ti serve l'AI senza far uscire i dati dal tuo perimetro?

Raccontaci i tuoi dati, i tuoi requisiti e la tua infrastruttura. Valuteremo con te se una configurazione privata è adatta e come progettarla e adottarla insieme.

Iniziamo a parlarne