Modelli aperti vs. chiusi: i leader dell'intelligenza artificiale di GM, Zoom e IBM valutano i compromessi per l'uso aziendale
Desideri ricevere informazioni più intelligenti nella tua casella di posta? Iscriviti alle nostre newsletter settimanali per ricevere solo ciò che conta per i leader aziendali di intelligenza artificiale, dati e sicurezza. Iscriviti ora
La scelta dei modelli di intelligenza artificiale è tanto una decisione tecnica quanto strategica. Tuttavia, la scelta tra modelli aperti, chiusi o ibridi comporta dei compromessi.
Intervenuti al VB Transform di quest'anno, gli esperti di architettura dei modelli di General Motors, Zoom e IBM hanno discusso di come le loro aziende e i loro clienti considerano la selezione dei modelli di intelligenza artificiale.
Barak Turovsky, che a marzo è diventato il primo responsabile dell'intelligenza artificiale di GM, ha affermato che ogni nuovo modello rilasciato e ogni cambiamento nella classifica genera un notevole rumore. Molto prima che le classifiche diventassero oggetto di dibattito pubblico, Turovsky ha contribuito al lancio del primo modello linguistico di grandi dimensioni (LLM) e ha ricordato come l'open source dei pesi dei modelli di intelligenza artificiale e dei dati di training abbia portato a importanti progressi.
"Francamente, quella è stata probabilmente una delle più grandi innovazioni che ha aiutato OpenAI e altri a decollare", ha detto Turovsky. "Quindi è in realtà un aneddoto divertente: l'open source ha effettivamente contribuito a creare qualcosa che era stato chiuso e che ora forse è tornato ad essere aperto."
I fattori decisionali variano e includono costi, prestazioni, fiducia e sicurezza. Turovsky ha affermato che le aziende a volte preferiscono una strategia mista, utilizzando un modello aperto per l'uso interno e un modello chiuso per la produzione e il rapporto con i clienti, o viceversa.
Armand Ruiz, vicepresidente della piattaforma di intelligenza artificiale di IBM, ha affermato che IBM ha inizialmente lanciato la piattaforma con i propri LLM , ma poi si è resa conto che non sarebbe stato sufficiente, soprattutto con l'arrivo sul mercato di modelli più potenti. L'azienda ha quindi ampliato l'offerta offrendo integrazioni con piattaforme come Hugging Face, consentendo ai clienti di scegliere qualsiasi modello open source. (L'azienda ha recentemente lanciato un nuovo gateway per i modelli che offre alle aziende un'API per passare da un LLM all'altro.)
Sempre più aziende scelgono di acquistare più modelli da più fornitori. Quando Andreessen Horowitz ha intervistato 100 CIO, il 37% degli intervistati ha dichiarato di utilizzare 5 o più modelli. L'anno scorso, solo il 29% ne utilizzava la stessa quantità.
La scelta è fondamentale, ma a volte troppa scelta crea confusione, ha affermato Ruiz. Per aiutare i clienti nel loro approccio, IBM non si preoccupa troppo di quale LLM utilizzare durante la fase di proof of concept o di pilotaggio; l'obiettivo principale è la fattibilità. Solo in un secondo momento si inizia a valutare se distillare un modello o personalizzarne uno in base alle esigenze del cliente.
"Per prima cosa cerchiamo di semplificare la paralisi da analisi con tutte quelle opzioni e di concentrarci sul caso d'uso", ha detto Ruiz. "Poi cerchiamo di capire qual è il percorso migliore per la produzione."
I clienti di Zoom possono scegliere tra due configurazioni per AI Companion, ha affermato Xuedong Huang, CTO di Zoom. Una prevede la federazione del LLM dell'azienda con altri modelli di base più ampi. Un'altra configurazione consente ai clienti che temono di utilizzare troppi modelli di utilizzare solo il modello di Zoom. (L'azienda ha anche recentemente collaborato con Google Cloud per adottare un protocollo agent-to-agent per AI Companion per i flussi di lavoro aziendali.)
L'azienda ha creato il proprio modello linguistico di piccole dimensioni (SLM) senza utilizzare i dati dei clienti, ha affermato Huang. Con 2 miliardi di parametri, l'LLM è in realtà molto piccolo, ma può comunque superare altri modelli specifici del settore. L'SLM funziona al meglio su attività complesse se utilizzato insieme a un modello più ampio.
"Questa è davvero la forza di un approccio ibrido", ha affermato Huang. "La nostra filosofia è molto semplice. La nostra azienda sta aprendo la strada, proprio come Topolino e l'elefante che ballano insieme. Il modello piccolo svolgerà un compito molto specifico. Non stiamo dicendo che un modello piccolo sarà sufficiente... Topolino e l'elefante lavoreranno insieme come un'unica squadra."
Se vuoi fare colpo sul tuo capo, VB Daily è la soluzione che fa per te. Ti offriamo informazioni privilegiate su ciò che le aziende stanno facendo con l'IA generativa, dai cambiamenti normativi alle implementazioni pratiche, così puoi condividere spunti per massimizzare il ROI.
Leggi la nostra Informativa sulla privacy
Grazie per l'iscrizione. Scopri altre newsletter di VB qui .
Si è verificato un errore.
venturebeat
