"L'intelligenza artificiale non ha capacità di giudizio"

L'onnipresenza dell'Intelligenza Artificiale in tutti gli ambiti della vita quotidiana, dal mondo accademico a quello aziendale, riflette l'impatto trasformativo di questa tecnologia negli ultimi tre anni. Infatti, il professore spagnolo Juan Luis Suárez la paragona volentieri all'impatto della stampa, quasi 600 anni fa. Suárez ha dedicato la sua vita allo studio dell'impatto delle tecnologie digitali sulla vita umana. È professore di Digital Humanities alla Western University, in Canada , dove dirige il laboratorio di ricerca digitale CulturePlex Lab.

Martedì prossimo Suárez sarà a Medellín, in Plaza Mayor, per partecipare al Primo Summit Jaguar, o come lo definiscono gli organizzatori, "una conversazione sull'intelligenza artificiale generativa e la cultura". All'evento, organizzato da Co-Crea, un ente pubblico-privato che si occupa della sostenibilità del settore creativo in Colombia, saranno presenti Chinasa T. Okolo, consulente del Brookings Institute negli Stati Uniti; Patricia Murrieta Flores, della Lancaster University (Regno Unito); e María Teresa Llano, professoressa di informatica, intelligenza artificiale e creatività presso l'Università del Sussex (Regno Unito).

La presentazione di Suárez si intitola "Etica e creatività: dilemmi nell'uso dell'AGI (intelligenza artificiale generativa)" e ne ha parlato con EL TIEMPO.

La prima cosa che devo dire è di che tipo di IA stiamo parlando, perché è una tecnologia molto ampia, che coinvolge molte sottotecnologie. Fondamentalmente, stiamo parlando di modelli linguistici o intelligenza generativa, che sono fondamentalmente modelli statistici addestrati a prevedere quale sarà la prossima unità che emergerà in una sequenza di interazioni. L'altro aspetto è che sono prodotti di aziende e piattaforme tecnologiche con l'obiettivo di soddisfare i propri azionisti e raggiungere la massima quota di mercato possibile. Infine, va detto che l'intelligenza artificiale è una tecnologia creata dagli esseri umani; non si è creata da sola, non è venuta dal cielo, non è magia.

Da un po' di tempo insegno diversi corsi di creatività alla Eastern Canada University e, quando inizio, dico sempre agli studenti: "La creatività è qualcosa di semplice: è l'abilità di sé, la capacità di plasmare e crescere per tutta la vita". Ora, quando parliamo di creatività nell'intelligenza artificiale, ci riferiamo a quei sistemi per generare prodotti che finora sono stati generati solo da esseri umani, che si tratti di testi, immagini o video, e che sono stati associati alle industrie creative. Ma la creatività è qualcosa di umano.

Da un po' di tempo insegno diversi corsi di creatività alla Eastern Canada University e, quando inizio, dico sempre agli studenti: "La creatività è qualcosa di semplice: è l'abilità di sé, ovvero la capacità di plasmare e crescere per tutta la vita". Ora, quando parliamo di creatività nell'intelligenza artificiale, ci riferiamo a quei sistemi per generare prodotti che fino ad ora erano generati solo da esseri umani, che si tratti di testi, immagini o video, e che erano associati alle industrie creative. Ma la creatività è qualcosa di umano. La cosa importante, oltre a esercitare il pensiero critico sulla tecnologia e sul suo utilizzo, è formare i lavoratori come esseri umani. Non c'è niente di peggio di un essere umano, un professionista, che ha paura di una tecnologia che non capisce o con cui non ha familiarità. Con tutti i cambiamenti economici che l'intelligenza artificiale porterà, questa è la cosa più importante. La cosa peggiore che possiamo fare è lasciare un'intera classe di persone istruite emarginata sul posto di lavoro ed economicamente.

Questa distinzione mi sembra giusta. Generare testi informativi è diverso dall'esercitare una professione che si basa fondamentalmente sul giudizio, e questo è qualcosa che si sviluppa in molti anni di esperienza ed è legato al gusto, al giudizio e a una serie di altre cose. Il giornalismo richiede giudizio; la cosa importante è: quali sono le domande? E questo non sarà determinato dall'intelligenza artificiale.

Ci sono molti spazi in cui la creatività umana verrà rimodellata. Faccio un esempio di chi di noi ama cucinare. La gente dice: "La tua paella è venuta benissimo". Ma nessuno chiede: "Quanti utensili hai usato per prepararla?". Ci sono il coltello, la padella, l'olio e, in alcuni casi, le macchine; ora si usano persino i robot. Ma la domanda è: chi ha deciso che questo fosse il piatto giusto per il pubblico che sarebbe venuto a casa mia quella domenica? Quali ingredienti? Come li hanno combinati? Quale ricetta hanno usato? Come l'hanno servito? Nelle industrie creative, l'attenzione si concentrerà su cosa posso fare con l'intelligenza artificiale e cosa no, perché, almeno per ora, l'intelligenza artificiale non ha capacità di giudizio.

Le discipline umanistiche sono fondamentalmente una serie di discipline che si sono sviluppate a partire dal Rinascimento in modi diversi per cercare di codificare e trasmettere il modo in cui gli esseri umani diventano umani o più umani.

Il contesto storico in cui sono emersi è stato il Rinascimento, con la nascita della stampa e del libro come mezzo principale di trasmissione della conoscenza nel mondo occidentale. La situazione è cambiata radicalmente negli ultimi 30 anni: quasi tutta la conoscenza è ora prodotta digitalmente o viene digitalizzata.

Ma la domanda su come diventiamo umani non troverà risposta nell'intelligenza artificiale. È un dibattito che affrontiamo con noi stessi, dal giorno in cui prendiamo coscienza della nostra vita fino alla morte. Ma l'era digitale ha portato una generazione a disconnettersi dalla realtà reale – ovvero dal contatto fisico – a favore del contatto digitale.

Ciò significa che ogni modo in cui questa generazione si relaziona al proprio corpo, alla propria famiglia, alla società, all'apprendimento e al proprio modo di essere nel mondo è mediato da dispositivi tecnologici digitali controllati non dalle istituzioni tradizionali della nostra società – la famiglia, la Chiesa, la scuola o il governo – ma da tecnologie che, grazie all'analisi dei dati e ai comportamenti che promuovono, sono al centro di tutte queste relazioni. Tutto passa attraverso un telefono o un social network che fornisce loro un feedback, e questo è un cambiamento radicale, di portata brutale, qualcosa che gli esseri umani non hanno mai sperimentato prima.

L'esercizio di questo controllo avrebbe dovuto avvenire molto prima. L'unico modo oggi è sfruttare la capacità normativa degli Stati per rallentarne l'attuazione e utilizzare quel tempo per consentire alla società e ai governi di formare i propri cittadini al suo utilizzo.

Esatto, lo dicono per evitare di controllare l'incitamento all'odio, e poi sorge spontanea la domanda: qual è l'obiettivo fondamentale di una grande piattaforma tecnologica? Fare soldi, anche se affermano di voler fare del bene, il che non significa che vogliano fare del male. Il problema è che si sono insinuati negli interstizi e nelle relazioni precedentemente occupati da altre organizzazioni politiche e sociali, che almeno erano più separate.

È importante che le persone conoscano i propri diritti e che le diverse IA, essendo prodotti commerciali, siano guidate da interessi specifici, e questo determina la qualità delle risposte. Ad esempio, se si chiede loro di argomenti come il massacro di Piazza Tienanmen in Cina, le risposte variano a seconda dell'argomento a cui si chiede.

Penso che faccia parte di ciò che già esiste. Dobbiamo riflettere su quale tecnologia di prodotto per i veicoli utilizzi per penetrare nella società, e l'intelligenza artificiale utilizza lo stesso metodo dei social media, del telefono e di quasi tutte le piattaforme digitali, quindi l'effetto sarà più o meno lo stesso.

Torno un po' indietro: la stessa cosa è successa con i media, come con tutte le istituzioni tradizionali – librerie, editori, università – e per anni abbiamo pensato che non ci avrebbe toccato. In un certo senso, siamo arrivati con 20 anni di ritardo rispetto a quelle piattaforme che ci hanno sostanzialmente sottratto pubblico e inventato nuove forme di pubblicità, ecc. Per quanto riguarda l'informazione, credo che tutto abbia a che fare con le domande importanti. L'informazione prodotta dai media ha una sua ragion d'essere evolutiva e storica, e continuerà ad averla. Continuo a leggere le versioni digitali di diversi giornali in tutto il mondo perché credo che siano in grado di offrire un'immagine migliore del mondo e della realtà rispetto a quei riassunti prodotti da algoritmi di cui non capisco il funzionamento.

Ora so anche che non è questo che i giovani capiscono. Guardano il video di TikTok che riassume le notizie in 30 secondi, ecc. E questo ci riporta alla questione dell'alfabetizzazione digitale e della formazione, affinché le persone sappiano, beh, chi è la fonte di quelle informazioni.

Questa settimana ho dovuto scrivere qualcosa legato alla mia laurea. Ho scritto la mia tesi di dottorato su un umanista spagnolo di nome Pedro de Valencia, che scrisse un testo filosofico sullo scetticismo nel XVI secolo. Era molto importante perché ciò che studiava fondamentalmente era lo scetticismo. Quali sono i criteri di verità?

In quel periodo, quasi tutte le forme di definizione dei criteri di verità furono infrante, perché la stampa consentiva a chiunque di leggere ciò che voleva. Furono realizzate traduzioni della Bibbia in lingue romanze e l'autorità della Chiesa fu messa in discussione. Fu scoperta l'America e giunse una ricchezza di informazioni che nessuno prima aveva, e la scienza iniziò a svilupparsi, e la verità entrò in crisi. Ed è ciò che abbiamo oggi. Ciò che rimane del libro di Pedro de Valencia è che dobbiamo tornare alle fonti primarie originali, siano esse database, set di dati, fonti testuali, interviste, e questo deve essere insegnato ai giovani.

Questo è più importante della ricerca di notizie false, perché l'algoritmo sarà sempre in grado di produrre più notizie false di quelle che puoi verificare.

La domanda è: a cosa serve la verità in una società? E non mi riferisco al contenuto specifico di un credo o della Costituzione, ma allo scopo dei modi in cui abbiamo strutturato socialmente la società per determinare se qualcosa è vero o no? Questa deve essere la base della nuova creatività, della nuova etica e della nuova economia, perché senza criteri di verità non si può vivere. In altre parole, mentire ha senso solo quando si sa qual è la verità.

Ci saranno molte informazioni false, proprio come è successo nei processi elettorali quasi ovunque nel mondo. Tutte le parti le usano, le stesse aziende e le stesse piattaforme. Ecco perché è così importante continuare ad avere organizzazioni autonome di cui le persone si fidano perché, che si sbaglino o meno, usano un criterio di verità che posso identificare. Le consulto perché mi fido di loro.