Nel settembre 2023 l’UNESCO, un’agenzia delle Nazioni Unite che promuove la collaborazione delle nazioni con l’istruzione, la scienza, la cultura, l’educazione ha pubblicato il documento Guidance for generative AI in education and research. Il documento contiene una serie di Linee guida per l’uso dell’intelligenza artificiale nella formazione e nella ricerca.
In questo articolo descrivo i punti principali delle linee guida relativi a rischi di tipo generale e possibili usi nella formazione e nella ricerca. Non mi occupo invece delle possibili misure per limitare i rischi che pure sono presenti nelle linee guida.
Cos’è l’intelligenza artificiale
L’intelligenza artificiale è un termine generale che si riferisce a sistemi informatici in grado di eseguire compiti che emulano alcune funzioni rese possibili dall’intelligenza umana, come il riconoscimento di immagini, la produzione di testi o di conversazioni in linguaggio naturale (vale a dire nel linguaggio umano), la pianificazione, l’apprendimento automatico, la risoluzione di problemi e altro ancora.
L’IA può essere utilizzata in una vasta gamma di applicazioni, tra cui chatbot, motori di ricerca, sistemi di raccomandazione di prodotti, guida di veicoli autonomi (aerei e auto), riconoscimento vocale, analisi dei dati e altro ancora.
Come dice un articolo dell’Osservatorio CPI, l’IA ha già integrato in modo pervasivo molteplici aspetti delle nostre quotidianità. Quando compriamo i pomodori al supermercato, il pagamento con la carta viene valutato da un IA, talvolta la vaschetta è stata preparata con un robot che fa computer vision, i pomodori sono stati selezionati con IA per scartare quelli di minore qualità, la logistica è stata pianificata con IA, i pomodori sono stati piantati con sementi migliorate con l’IA e sono stati irrigati con IA, i fertilizzanti contengono sostanze studiate con l’IA.
Molti programmi di intelligenza artificiale sono messi a punto utilizzando l’apprendimento automatico (machine learning). Sempre secondo l’Osservatorio CPI, grazie all’apprendimento automatico i programmi sono in grado di apprendere da dati passati, e migliorare le prestazioni su compiti specifici senza essere esplicitamente programmati per tali compiti. L’apprendimento automatico consente ai programmi di imparare da esperienze passate, migliorando progressivamente le loro capacità senza richiedere una programmazione dettagliata per ciascuna situazione specifica.
Che cos’ l’intelligenza artificiale generativa
L’intelligenza artificiale generativa si riferisce invece a sistemi informatici capaci di creare contenuti testuali, immagini, video, musica.
L’intelligenza artificiale generativa è addestrata usando dati reperiti da pagine web, social media e altri media online. Genera i contenuti attraverso un’analisi statistica delle distribuzioni delle parole, dei pixel o di altri elementi presenti nei dati che ha acquisito. L’IA generativa individua degli schemi ricorrenti nei dati che ha esaminato, ad esempio la frequenza con cui determinate parole compaiono nelle stesse frasi.
Va evidenziato che l’intelligenza artificiale generativa può produrre nuovo contenuto, ma non può generare nuove idee o soluzioni perché non è in grado di capire i significati del mondo reale.
L’attuale interesse per l’intelligenza artificiale è dovuto al lancio, nel 2022, di ChatGPT, un programma che risponde su web a domande in linguaggio naturale. Con ChatGPT è possibile ottenere risposte a domande relative a sapere dichiarativo, ottenere risposte a problemi matematici, creare testi e poesie con stili e su temi a scelta, farsi scrivere linee di codice, conversare in una lingua straniera. La versione 3 di ChatGPT, aggiornata al 2021, è liberamente interrogabile. La versione più aggiornata (la 4) è invece disponibile, al momento, a 24 $ al mese. C’è poi una applicazione gemella, chiamata DALL.E che genera immagini.
La differenza fra intelligenza artificiale e intelligenza artificiale generativa
Un esempio delle prestazioni che è possibile ottenere con l’intelligenza artificiale generativa è il confronto fra Google e ChatGPT. Per rispondere a una domanda, Google (anch’esso basato su intelligenza artificiale) fa una ricerca fra tutte le pagine web presenti nel proprio archivio, e presenta estratti da queste pagine. Ne consegue che se non c’è una pagina web con la risposta esatta alla nostra domanda, le pagine presentate da Google come risposta saranno non troppo pertinenti. Chat GPT invece crea risposte ad hoc.
Quando le domande sono di carattere generale (ad esempio Che spiagge sabbiose ci sono in Croazia?) ci sarà sicuramente almeno una pagina con la risposta, che Google mi farà vedere. In questi casi usare ChatGPT non dà vantaggi particolari. Se invece le domande sono complesse (ad esempio: Dove potrebbe andare in vacanza con un viaggio in auto inferiore a 4 ore una famiglia milanese di 2 adulti e 3 figli, in una località di mare con spiagge sabbiose e spendendo meno di 400 euro al giorno?) è difficile che esista una pagina web che risponda a questo caso specifico, perciò Google non mi darà una risposta utile. ChatGPT invece creerà una risposta esattamente rispondente alla mia domanda.
L’architettura dei computer che producono intelligenza artificiale generativa
ChatGPT sta per chat Generative Pre-Trained Transformer, vale a dire una chat basata su un sistema
- Generativo (generative), vale a dire capace di creare contenuti
- Addestrato (pre-trained): il software è stato addestrato su una vasta quantità di dati prima di essere applicato a compiti specifici. Nella fase di pre-addestramento, il modello impara gli schemi e le caratteristiche del linguaggio naturale
- Basato sull’architettura dei trasformatori (transformer). I trasformatori sono un tipo di architettura neurale molto efficace nell’elaborazione del linguaggio naturale. Consentono al software di rilevare dipendenze complesse tra le parole in un testo.
Perciò, un Generative Pre-trained Transformer (GPT) è un software che è stato addestrato su una vasta quantità di testo prima di essere utilizzato per compiti specifici, ed è in grado di generare testo in modo creativo.
L’elaborazione dei dati in un software avviene tramite algoritmi. Un algoritmo è un insieme di istruzioni inserire in un software. Ad esempio, Dividi per 100 il valore di partenza e moltiplica il risultato per il numero riferito alla percentuale desiderata è l’algoritmo che serve per calcolare le percentuali. Gli algoritmi utilizzati da programmi di intelligenza artificiale sono enormemente complicati. ChatGPT usa una particolare struttura di algoritmi ispirata alle reti di neuroni che fanno funzionare il cervello umano. Maggiori sono gli ‘strati’ della rete neuronale e migliore e più rapida è l’elaborazione dei dati.
Possibili effetti negativi dell’intelligenza artificiale generativa
Le Linee guida per l’uso dell’intelligenza artificiale nella formazione e nella ricerca elencano una serie di possibili effetti negativi dovuti all’utilizzo e alla diffusione dell’intelligenza artificiale generativa.
Peggiorare la povertà digitale
La realizzazione di sistemi di intelligenza artificiale generativa è alla portata solo di società basate in paesi ricchi. Questo comporta un ulteriore aumento di potere e di ricchezza per questi paesi.
I sistemi di intelligenza artificiale generativa sono addestrati usando i dati su Internet che sono prodotti in gran parte da paesi ricchi, questo aumenta i rischi di colonizzazione culturale dei paesi più poveri.
Accentrare il potere in un ristretto numero di imprese
Gli investimenti richiesti per sviluppare sistemi di intelligenza artificiale generativa sono alla portata di un numero ristretto di imprese, le quali vengono così a disporre di un potere molto elevato.
Un ulteriore elemento di preoccupazione è che gli algoritmi dei sistemi di intelligenza automatica generativa sono in genere sconosciuti, perché sviluppati in autonomia dal sistema stesso, sulla base di miliardi di parametri.
Questi due aspetti creano preoccupazione perché riducono la possibilità di controllo democratico sulle società e sull’intelligenza artificiale generativa.
Uso non autorizzato di contenuti
L’addestramento dei sistemi di intelligenza generativa viene effettuato utilizzando contenuti presi da Internet, con possibili violazioni delle norme relative alla protezione del copyright e dei dati personali.
Creare e diffondere contenuti distorti
L’intelligenza artificiale crea contenuti basandosi su quelli reperiti in rete, alcuni dei quali hanno impostazioni razziste, sessiste, a favore della violenza, etc.. Alcuni test hanno evidenziato come in alcuni casi i contenuti creati dall’intelligenza artificiale generativa contengono contenuti di questo tipo.
Nascondere le opinioni non tradizionali e i punti di vista di gruppi marginalizzati
I sistemi di intelligenza artificiale generativa tendono a produrre risposte coerenti con i valori dei programmatori e degli addestratori.
Poiché inoltre i gruppi marginalizzati producono in genere pochi materiali web, i loro punti di vista sono poco rappresentati nelle risposte.
Creare falsi di ottima qualità
I sistemi di intelligenza artificiale generativa possono alterare o manipolare in modo molto convincente immagini o video esistenti, diffondendo così la disinformazione.
Rischi dell’intelligenza artificiale nei settori dell’educazione e della ricerca
Nei settori dell’educazione e della ricerca, l’uso dell’intelligenza artificiale generativa può portare due comportamenti negativi,
Favorire il plagio di opere altrui
L’intelligenza artificiale generativa è in grado di parafrasare, condensare e di fondere documenti di ricerca prodotti da altri, realizzando documenti che sembrano originali ma che non lo sono.
Favorire la frode nello svolgimento di prove di verifica
Siti che utilizzano l’intelligenza artificiale generativa sono in grado di risolvere problemi matematici e esercizi di italiano e lingua straniera, permettendo allo studente svogliato o disattento di ottenere immeritatamente buoni risultati
Possibili effetti positivi dell’intelligenza artificiale generativa nella educazione e nella ricerca
Le Linee guida per l’uso dell’intelligenza artificiale nella formazione e nella ricerca elencano una serie di possibili effetti positivi dovuti all’utilizzo e alla diffusione dell’intelligenza artificiale generativa
Migliorare e semplificare la realizzazione di ricerche
L’IA generativa può:
- Sviluppare e rispondere a domande di ricerca
- suggerire metodologie adeguate
- svolgere un ruolo di coaching del ricercatore
- reperire rapidamente articoli sui temi di ricerca, scrivere rapidamente dei riassunti dei diversi testi
- automatizzare alcune parti dell’interpretazione dei dati
Migliorare e semplificare l’insegnamento
l’intelligenza artificiale generativa può:
- Supportare i docenti nella messa a punto dei curricula, delle unità didattiche, dei materiali didattici
- supportare i docenti nella preparazione di prove di valutazione
- Supportare gli studenti In difficoltà durante il processo di apprendimento grazie all’uso di chatbot
- Ehi aiutare gli studenti a migliorare il processo di apprendimento proponendo ulteriori risorse, occasioni per esercitarsi, prove di verifica,
Aiutare ad acquisire le competenze di base
L’intelligenza artificiale generativa vuoi aiutare giovani studenti a migliorare le loro capacità di ascolto, pronunzia, scrittura sia nella madre lingua che nelle lingue straniere. E inoltre migliorare le loro capacità di calcolo e ragionamento matematico, di programmazione, di espressione artistica e musicale.
Aiutare gli studenti a lavorare per progetti e riflettere sul proprio processo di apprendimento
l’intelligenza artificiale generativa può:
- porre domande agli studenti sui loro processi e tecniche di apprendimento, sviluppando la loro capacità di imparare a imparare
- Aiutare gli studenti a impostare progetti di ricerca, basati sull apprendimento deduttivo (vedi quanto detto sopra relativamente alle possibilità di facilitare la ricerca)
Supportare gli studenti con bisogni educativi speciali
L’intelligenza artificiale generativa può:
- Produrre sottotitoli per studenti con difficoltà di udito
- leggere testi per studenti con difficoltà visive
- per mettere a studenti con difficoltà di linguaggio di udito o visive di interagire con altri studenti
- tradurre testi per studenti che non padroneggiano la lingua in cui i corsi sono insegnati
- individuare studenti che hanno difficoltà di apprendimento.
Queste le indicazioni nel documento Guidance for generative AI in education and research prodotto da UNESCO nel settembre 2023.
Articolo contenuto sul sito www.orientamento.it. Autore Leonardo Evangelista. Leonardo Evangelista si occupa di orientamento dal 1993. Riproduzione riservata. Vedi le indicazioni relative a Informativa Privacy, cookie policy e Copyright.