IA, Seeweb e Clastix lanciano Serverless GPU – askanews.it

IA, Seeweb e Clastix lanciano Serverless GPU

Il servizio per addestrare in cloud i modelli di AICristofanilli,
Set 10, 2024

Roma, 10 set. (askanews) – Un servizio che permette alle aziende che stanno sviluppando modelli di Intelligenza Artificiale di accadere alle GPU in cloud, in questo modo si utilizza solo la potenza di calcolo di cui si ha bisogno, e si ottimizzano gli investimenti, senza preoccuparsi dei cali nelle forniture hardware. Il tutto, informa una nota, può essere integrato in qualsiasi ambiente di calcolo già esistente, senza quindi dover effettuare nessuna migrazione o modifica alle pipeline.

Si chiama Serverless GPU, il servizio è stato ideato da Seeweb – azienda italiana del Gruppo Dominion Hosting Holding – insieme a Clastix, tech startup anch’essa italiana specializzata in soluzioni Kubernetes multitenancy. Dopo una proficua fase di test con le community tech in early adoption, il servizio è ora accessibile a tutte le aziende, attraverso il sito Seeweb. Seeweb è da sempre impegnata per supportare le community di sviluppatori che operano nell’ambito dell’AI. Già nei mesi scorsi – per prima nel contesto europeo – ha lanciato il servizio cloud per AI basato sugli innovativi chip Tenstorrent, offrendo così un’alternativa più efficiente e più economica per i piccoli modelli di linguaggio. Il servizio Serverless GPU – che già a giugno è stato messo a disposizione di una selezione di early adopter – è nato per rispondere alle esigenze dei team che sfruttano Kubernetes per eseguire codice su più infrastrutture, sfruttando il vantaggio dei microservizi. Consente di accedere immediatamente a delle GPU deployabili, lo sviluppatore quindi – in qualunque parte del mondo si trovi – attraverso il proprio pannello vedrà le schede grafiche come fossero remote al proprio cluster Kubernetes.

“Seeweb cerca da sempre l’innovazione sostenibile, in tutto quello che fa – commenta Marco Cristofanilli, Head of AI Cloud di Seeweb. – Attraverso Serverless GPU, è possibile ottimizzare l’esecuzione di codice AI consentendo ai team di sviluppo di avere a disposizione in pochi secondi nuove istanza cloud con schede grafiche estremamente potenti, mettendo a disposizione il primo nodo disponibile”.

“Grazie alla collaborazione con Clastix e a un enorme lavoro di squadra – prosegue Cristofanilli, – siamo riusciti a mettere in campo con successo, visti anche i primi riscontri positivi da parte degli early adopter del servizio, una soluzione di GPU provisioning in grado di togliere qualsiasi problema di approvvigionamento di unità di elaborazione grafiche. E questo, con il vantaggio per le aziende di ottimizzare i costi e di non dover migrare alcun processo sul nuovo cluster. Un sogno possibile grazie alla tecnologia opensource Kubernetes, che ci permette ogni giorno di sfruttare il modello multi-tenancy in modo proficuo e vantaggioso”.