La chiave che apre le black box
OPINIONI |

La chiave che apre le black box

L'OTTIMIZZAZIONE MATEMATICA PUO' AMPLIARE LA COMPRENSIONE PIU' APPROFONDITA DELLA STRUTTURA PROFONDA DELLE RETI NEURALI COSI' DA ARRIVARE A UN'ARTIFICIAL INTELLIGENCE NON SOLO GENERATIVA MA ANCHE SPIEGABILE IN GRADO CIOE' DI GIUSTIFICARE LE PROPRIE SCELTE. SOLO COSI' L'AI POTRA' DAVVERO ESSERE UTILE ALLE DECISIONI POLITICHE, ETICHE, FINANZIARIE O COMMERCIALI

di Laura Sanita', Professore associato, Dipartimento di Computing sciences

Le ultime scoperte nel campo dell'intelligenza artificiale si basano sulle reti neurali profonde, un tipo specifico di sistemi di AI. Oggi le loro applicazioni sono note al grande pubblico in diversi ambiti, in particolare: i cosiddetti "modelli linguistici di grandi dimensioni" in grado di produrre testi e conversazioni simili a quelli umani (ChatGPT, Bing AI, Bard), i modelli generativi "text-to-image" in grado di produrre immagini suggestive a partire da didascalie testuali (DALL-E 2, Imagen, Stable Diffusion, Midjourney), oltre a diversi altri legati al riconoscimento, alla produzione e alla traduzione del parlato e del suono.

Che cosa c'è dietro il successo di queste tecniche? I domini in cui si sono verificati questi successi non sono accidentali o casuali, ma piuttosto perfettamente adatti ai punti di forza delle reti neurali così come esistono oggi. In effetti, le reti neurali sono abili nell'emulare azioni complesse, anche quando sono difficili da definire in termini precisi, purché si possa fornire loro un'enorme quantità di esempi da cui imparare. Per esempio, è difficile definire in termini matematici precisi un'immagine, un suono o un testo "bello" o addirittura "ben formato". Tuttavia, abbiamo a disposizione una grande quantità di esempi da cui imparare.
Una grande sfida che l'IA sta attualmente affrontando nel suo percorso di ampliamento della gamma di applicazioni, tuttavia, è che le reti neurali profonde sono imperscrutabili. In effetti, le basi degli attuali sistemi di IA sono essenzialmente una gigantesca tabella di numeri. Non si tratta di numeri casuali qualsiasi: i sistemi di IA trovano i numeri che permettono loro di riprodurre al meglio gli esempi da cui hanno imparato. Tuttavia, le dimensioni e la composizione della tabella diventano così complesse da essere prive di una vera struttura semantica. Di conseguenza, capiamo come funzionano le reti neurali solo in modo superficiale: siamo in grado di snocciolare i numeri e di riprodurre qualsiasi risultato da un dato output. Ma non sappiamo praticamente nulla di più. Per questo motivo, si tratta di sistemi cosiddetti "black-box", notoriamente incapaci di fornire una giustificazione per i loro risultati. Questo può andare bene per la generazione di immagini, testi o suoni: un pezzo brutto o malformato non compromette l'utilità dello strumento se molti altri sono buoni. Tuttavia, potrebbe essere decisamente inappropriato per le decisioni politiche, etiche, finanziarie o commerciali: in questo caso si vuole essere in grado di spiegare perché una certa decisione è considerata quella giusta. Inoltre, emulare i processi decisionali del passato senza avere o comprendere le motivazioni alla base potrebbe farci trascurare possibili pregiudizi o errori latenti. 

Per ampliare l'applicabilità dell'IA dovremmo quindi adottare algoritmi che forniscano una giustificazione per le loro risposte ("IA spiegabile"). Per quanto riguarda le reti neurali, si tratta di integrare i massicci sforzi ingegneristici degli ultimi anni (che hanno portato ai recenti risultati sbalorditivi) con una comprensione più approfondita della loro struttura da una prospettiva matematica e teorica. Gli approcci di ottimizzazione matematica sono una via privilegiata per colmare questo divario di comprensione.

Di per sé, l'ottimizzazione è lo strumento chiave per risolvere molti problemi operativi. In parole povere, si tratta di selezionare la soluzione migliore per un dato problema, tra un insieme di soluzioni possibili. Il punto cruciale è dimostrare formalmente (cioè spiegare) l'ottimalità di una data soluzione senza enumerare tutte le possibilità, ma sfruttando la struttura matematica del problema in esame. Non sorprende che l'ottimizzazione sia un pilastro delle fondamenta matematiche dell'IA moderna. Infatti, tali sistemi si occupano di trovare gli algoritmi e i parametri che meglio modellano un determinato compito e questo, di per sé, può essere visto come un problema di ottimizzazione. Inoltre, i problemi di ottimizzazione sono spesso formalizzati come la massimizzazione di una funzione obiettivo soggetta a determinati vincoli, dove sia l'obiettivo che i vincoli sono specificati in termini facilmente comprensibili dall'uomo. Per questo motivo, rafforzare l'interazione tra i sistemi di intelligenza artificiale e le tecniche di ottimizzazione può aiutare a rompere la loro natura imperscrutabile. È qui che l'amalgama tra ottimizzazione e IA dà i suoi frutti più promettenti.
 
 

Ultimi articoli Opinioni

Vai all'archivio
  • Con un lavoro sempre piu' liquido, i vecchi paletti servono a poco

    Tempi e modi nuovi di svolgere la propria attivita' da parte dei lavoratori richiedono nuove forme di gestione e nuove tutele. E quindi anche nuove forme e nuovi strumenti di espressione per le relazioni sindacali

  • C'e' fiducia e fiducia

    C'e' quella sociale e quella nelle istituzioni. E se la prima e' piu' stabile agli shock esterni, la seconda e' invece piu' sensibile. Le due possono anche divergere, come durante la pandemia, quando a una sfiducia nelle istituzioni Usa per la gestione dell'emergenza ha corrisposto un aumento della fiducia sociale

  • L'arma e' il reskilling

    Secondo una survey del World Economic Forum in tutto il mondo, nel 2027 il 42% dei lavori sara' automatizzato. La competitivita' dei lavoratori passera' dunque, sempre di piu', da una formazione che li metta al passo con le nuove necessita' del mercato. Perche' la facciano, tuttavia, e' necessario che ne colgano l'utilita'

Sfoglia la nostra rivista in formato digitale.

Sfoglia tutti i numeri di via Sarfatti 25

SFOGLIA LA RIVISTA

Eventi

Lun Mar Mer Gio Ven Sab Dom
          1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31