Tutte le competenze

Competenza · N. II

IA e infrastruttura cloud

Ho passato anni immerso nei dettagli dell'infrastruttura cloud-native: gestendo macchine virtuali, debuggando cold start, progettando scheduler distribuiti di job e aiutando gli sviluppatori a rilasciare più velocemente le proprie applicazioni. È qui che convergono la mia formazione matematica e il mio istinto ingegneristico pratico.

ByteNite Serverless Compute Platform

Ho progettato e rilasciato una piattaforma serverless che abilita inferenza IA su GPU, web scraping ed elaborazione video su larga scala. Ho gestito fin dal primo giorno l'infrastruttura basata su GKE, le pipeline CI/CD di produzione e il provisioning cloud multi-fornitore, automatizzando la gestione delle modifiche per garantire deploy senza interruzioni in ambienti eterogenei.

Documentazione ByteNite

Ottimizzazione dell'inferenza IA

Ho supportato direttamente clienti sviluppatori nel deploy di open source LLM, modelli diffusers e data pipeline sulla piattaforma. Ho diagnosticato problemi di cold start delle GPU, inserito controlli di qualità dei modelli e fornito soluzioni mirate che hanno reso possibili cinque deploy in produzione in tre mesi, riducendo al contempo di 3× il tempo medio di configurazione. Il lavoro ha richiesto sia il debug a livello di sistema sia una comunicazione chiara con team non specializzati nell'infrastruttura.

Vedi la repository

Brevetto sul calcolo ad alto rendimento

Ho inventato e brevettato un sistema per il partizionamento dinamico e l'orchestrazione di job computazionali su reti calcolo eterogenee, ottimizzando capacità e disponibilità. Brevetto concesso sia negli Stati Uniti sia nell'Unione Europea. L'intuizione centrale: trattare domanda e offerta di calcolo come un problema di scheduling risolvibile con algoritmi consapevoli delle risorse.

Vedi il brevetto

Esperienza con AWS e GCP

In ByteNite gestivo quotidianamente l'infrastruttura di produzione GCP (Compute Engine, GKE e Cloud Storage), rimanendo a stretto contatto con i compromessi tra costo e prestazioni di un ambiente di calcolo multi-tenant. Per completare quell'esperienza, ho conseguito la certificazione AWS Solutions Architect, che copre progettazione dell'architettura, networking, sicurezza e configurazione della CDN a livello di servizio AWS.

Vedi la credenziale