Osmo digitalizza gli odori e riduce i costi dell'IA di 200 volte con Meta Llama su AWS

Come parte del suo viaggio verso la digitalizzazione dei profumi, Osmo crea strumenti basati sull'intelligenza artificiale che generano formule di fragranze a partire da sintesi creative. Lo sviluppo di modelli rappresenta una sfida particolarmente complessa perché i risultati possono essere valutati solo producendo fisicamente il profumo. Inizialmente il team si è basato su API proprietarie per i modelli di frontiera, ma questa soluzione è diventata insostenibile a causa della personalizzazione limitata, della mancanza di proprietà del modello e dei costi elevati. Passando a Meta Llama on Amazon Web Services (AWS), Osmo ha acquisito il pieno controllo dei suoi modelli e dell'infrastruttura, riducendo i costi di addestramento di 20 volte e i costi di inferenza di 200 volte. Nelle valutazioni effettuate da profumieri esperti, il suo sistema a modello aperto ha eguagliato le prestazioni dei principali modelli di frontiera.

Digitalizzare il senso finale della percezione umana

I computer hanno imparato a vedere. Hanno imparato a sentire. Possono rilevare luce, movimento e suono a livelli e velocità che superano di gran lunga le capacità umane. Ma per gran parte della storia dell'informatica, un senso è rimasto fuori dalla loro portata: l'olfatto. Osmo ha la missione di cambiare questa situazione. L'azienda combina apprendimento automatico, profumeria, chimica e neuroscienze per costruire quella che chiama "intelligenza olfattiva", conferendo ai sistemi di intelligenza artificiale la capacità di percepire e interpretare il mondo chimico.

Oggi Osmo si rivolge principalmente all'industria della profumeria, ma si impegna attivamente anche a espandere le possibilità di utilizzo dei profumi come mezzo per raccontare la storia di un marchio. Attraverso la sua piattaforma Studio, gli utenti partono da una frase, una mood board o un'immagine, per poi impostare dei parametri come le note da evitare, il budget e gli standard di purezza. Studio trasforma questi input in formule pronte per la produzione, che vengono consegnate ai clienti sotto forma di campioni fisici. Abbassando le barriere alla creazione di profumi, Osmo sta trasformando la fragranza da lusso esclusivo a strumento accessibile e potente per l'espressione del marchio moderno.

Realizzare questa tecnologia rappresenta un problema di machine learning di una difficoltà senza precedenti. L'olfatto è straordinariamente multidimensionale. Il naso umano possiede circa 400 tipi di recettori distinti, rispetto ai soli tre della vista, e la percezione degli odori dipende da complesse combinazioni molecolari. Le descrizioni umane dei profumi sono notoriamente incoerenti, il che rende difficile la raccolta di dati etichettati. "A differenza della maggior parte dei sistemi di intelligenza artificiale, non possiamo valutare i risultati istantaneamente. Dobbiamo produrre fisicamente la fragranza e farla annusare agli esperti", afferma Richard Whitcomb, CTO di Osmo. Ogni ciclo di valutazione richiede circa due settimane. Valutatori esperti analizzano i campioni in base alla loro corrispondenza con le specifiche di input, nonché ad attributi qualitativi come equilibrio, indossabilità e qualità complessiva come fragranza pregiata. Questo crea un ciclo di feedback strettamente integrato tra l'output del modello e la valutazione nel mondo reale. Poiché ogni ciclo richiede la produzione fisica, l'iterazione è lenta e costosa, il che rende il costo e la flessibilità dell'infrastruttura di intelligenza artificiale sottostante di fondamentale importanza.

Inizialmente Osmo ha affrontato il problema utilizzando le API di modelli di frontiera di grandi dimensioni, ma i limiti delle piattaforme proprietarie sono diventati difficili da ignorare con la crescita delle sue ambizioni. I metodi di addestramento erano limitati a ciò che la piattaforma consentiva e, in un settore così specializzato, la possibilità di personalizzare a fondo il comportamento del modello non era un'opzione. Né lo era la proprietà: in un campo in cui pesi finemente calibrati e dati di addestramento proprietari rappresentano il vantaggio competitivo, basarsi su modelli che Osmo non controllava era una posizione sempre più scomoda.

Passaggio da modelli chiusi alla proprietà a stack completo dell'IA

I modelli Meta Llama su AWS hanno fornito a Osmo il controllo e la flessibilità necessari per costruire il proprio sistema nel modo corretto. "Pensiamo alla creazione di fragranze come alla scrittura: costruiamo le formule ingrediente per ingrediente, in modo simile a come i modelli linguistici generano il testo", afferma Wesley Qian, vicepresidente dell'ingegneria e della ricerca di Osmo. "Si definiscono prima i componenti principali, poi si riempiono gli spazi vuoti e il modello apprende questi schemi dai dati." Grazie ai pesi aperti di Llama, Osmo è stata in grado di supportare al meglio questo processo strutturato e sequenziale, modellando il comportamento del modello, personalizzando gli approcci di addestramento e mantenendo il controllo sulla propria infrastruttura e sui modelli. Ciò ha incluso l'implementazione di tecniche come la Direct Preference Optimization (DPO), la creazione di cicli agentici per la progettazione iterativa delle fragranze e l'esplorazione di approcci di apprendimento per rinforzo come la Group Relative Policy Optimization (GRPO).

Per supportare questo approccio su larga scala, Osmo ha creato una pipeline flessibile di formazione e implementazione su AWS. Amazon SageMaker alimenta i flussi di lavoro di training e fine-tuning di Osmo su dataset proprietari, mentre i pesi del modello vengono archiviati in Amazon Simple Storage Service (Amazon S3) e importati in Amazon Bedrock per la distribuzione. Amazon Bedrock offre scalabilità automatica per gli endpoint di inferenza, garantendo un'erogazione economicamente efficiente sia per i carichi di lavoro di sperimentazione che per quelli di produzione. "Il passaggio a Llama su AWS ha cambiato il nostro modo di pensare alla creazione di sistemi di intelligenza artificiale", afferma Whitcomb. "Invece di adattare il nostro prodotto a un modello, ora possiamo adattare il modello al nostro prodotto".

Durante l'intero processo, i team di AWS hanno collaborato a stretto contatto con Osmo, incontrandosi settimanalmente per valutare le strategie di preparazione dei dati e le configurazioni dei modelli. Hanno fornito implementazioni di riferimento, supporto per il debug e script di training e inferenza, consentendo a Osmo di passare rapidamente dalla fase di sperimentazione a una pipeline di produzione stabile. Dopo aver valutato le varianti di Meta Llama, AWS e Osmo hanno identificato i modelli Meta Llama 3.1 8B e 3.3 70B Instruct come i più performanti, con il modello 8B che ha prodotto anche output validi. La collaborazione si è estesa anche al modo in cui Osmo perfeziona i suoi modelli nel tempo: le formule ad alte prestazioni vengono reintrodotte nel training tramite un ciclo di aumento dei dati filtrato, aggiungendo output validi al set di dati in modo che solo i risultati validati informino le future generazioni di modelli. "Ciò che AWS ci ha permesso di realizzare è un vero e proprio flusso di lavoro end-to-end, dall’addestramento alla distribuzione, che comprendiamo e controlliamo appieno", afferma Whitcomb.

Raggiungere la parità, ridurre i costi e assumere il controllo

Le valutazioni condotte da valutatori esperti hanno dimostrato che il modello Meta Llama 3.3 70B ha raggiunto la parità di prestazioni con il modello di produzione di Osmo, basato su API di frontiera di grandi dimensioni. Non si sono riscontrate differenze statisticamente significative nelle metriche principali, tra cui l'aderenza ai descrittori e gli attributi qualitativi delle fragranze. "Sapevamo di essere sulla strada giusta quando i nostri panel sensoriali non sono riusciti a distinguere tra gli output di Meta Llama 3.3 70B e quelli di modelli di frontiera molto più grandi", afferma Sam Barnett, ingegnere senior di machine learning presso Osmo. Ancora più significativo, i costi di addestramento si sono ridotti di circa 10-20 volte e i costi di inferenza sono diminuiti fino a 200 volte, a seconda delle dimensioni del modello e del throughput. Si è trattato di un cambiamento fondamentale in termini di ciò che è economicamente possibile. Come afferma Whitcomb, "Possiamo sperimentare di più, iterare più velocemente e, in definitiva, fornire risultati migliori ai nostri clienti, mantenendo al contempo la proprietà dei nostri modelli e dei nostri dati".

Eliminando la dipendenza da fornitori di IA proprietaria, Osmo ha anche eliminato il rischio di deprecazioni forzate o cambiamenti di comportamento imprevisti. "Si tratta essenzialmente di passare dal noleggio di intelligenza artificiale alla sua creazione interna", afferma Whitcomb, "e di realizzare un profumiere digitale che controlliamo completamente e che possiamo migliorare continuamente". Con costi ridotti e il pieno controllo, Osmo può iterare più velocemente, generare più dati e perfezionare i suoi modelli principali. "Quando si controlla il modello e l'infrastruttura, si possono esplorare idee che non sono semplicemente possibili in un sistema più limitato", afferma Qian. Questo accelera la sua missione più ampia di rendere l'intelligenza olfattiva accessibile e potente quanto gli strumenti che già possediamo per la vista e l'udito. "Una volta che le macchine sono in grado di interpretare gli odori, si sbloccano applicazioni completamente nuove", afferma Whitcomb, "dall'individuazione di cibo avariato o di muffa in un edificio al rilevamento di malattie e all'identificazione di rischi ambientali".

Scopri come Amazon SageMaker e Amazon Bedrock aprono nuove possibilità per creare, personalizzare e distribuire modelli di IA generativa con il pieno controllo.