Recensione

Forme del sapere tradizionali e predittive: una possibile collaborazione?
Come ChatGPT crea contenuti dal ‘tocco umano’

di Ludovica Mastrobattista  | xxx 02 2024

Nel suo ultimo libro Gino Roncaglia, professore presso l’università Roma Tre ed esperto in editoria digitale, informatica umanistica e filosofia dell’informazione, adotta una suggestiva metafora per esplorare i modelli di produzione del sapere: quella dell’architetto e dell’oracolo. Con questa immagine l’autore esamina, da un lato, il modello di organizzazione della conoscenza cui siamo tradizionalmente abituati, presentando le enciclopedie cartacee e digitali come esemplificazione di un approccio sistematico del sapere. Tale approccio costruttivo, deliberato alla loro creazione, è frutto di una progettualità umana intenzionale destinata a ‘fare memoria’ (Sbardella et al., 2023). Dall’altro lato, ci spiega il metodo di produzione adottato dalle intelligenze artificiali generative, che agiscono in maniera predittiva attraverso l’uso di «modelli statistico-probabilistici estremamente complessi e in parte opachi» (pag. 123) di cui, invece, siamo ancora all’oscuro.

Il libro

L’architetto e l’oracolo

Forme digitali del sapere da Wikipedia a ChatGPT

L'architetto e l'oracolo

Autore: Gino Roncaglia

Anno: 2023

Editore: Laterza

Luogo di pubblicazione: Bari

In che senso i sistemi di intelligenza artificiale (AI) generativa possono essere interpretati come veri e propri oracoli?

Le AI producono contenuti in base a un modello completamente diverso da quello tradizionale, che possiamo definire in qualche modo ‘oracolare’: token per token, ovvero una sequenza di informazioni digitali alla volta, creano contenuti nuovi in modo sequenziale e predittivo basandosi su enormi quantità di dati di addestramento. Nell’ambito della produzione di contenuti testuali, si tende erroneamente a pensare che le intelligenze artificiali recuperino informazioni preesistenti e che sistemi come ChatGPT facciano ‘copia e incolla’ dal web. In realtà non è così, il che spiega il crescente interesse e fascino verso le AI.

ChatGPT, in quanto strumento di intelligenza artificiale per la produzione di contenuti testuali, funziona in risposta a un prompt, o richiesta, dell’utente. «Le AI generative ‘costruiscono’ risposte anziché limitarsi a selezionare e riprodurre contenuti già esistenti in rete» (pag. 106). In sostanza ChatGPT opera su un vasto corpus di testi che, attraverso la ‘tokenizzazione’, suddivide in unità più piccole come parole, parte di esse o singoli caratteri (i token, appunto). In questo modo, la rete neurale apprende a predire il token successivo basandosi su quelli precedenti.

Riprendendo la metafora di Roncaglia, ChatGPT produce testi in maniera ‘oracolare’ nel senso che predice quale potrebbe essere il token successivo senza una comprensione ‘umana’ del significato del testo. Ciononostante, il più delle volte il risultato è un testo sintatticamente, semanticamente e sorprendentemente corretto.

Ambito di Intervento

Tecnologie per valorizzare il tocco umano

Il Centro Ricerche sAu porta avanti progetti di ricerca basati su un’idea di tecnologia a sostegno della libertà umana e del diritto dei soggetti a conoscere e a orientare i propri comportamenti sulla base dei valori in cui si riconoscono.

Sorge allora spontanea una domanda: quali rischi corriamo nell’affidarci a un oracolo di questo tipo? 

Le intelligenze artificiali generative presentano un nuovo paradigma di produzione e gestione dell’informazione. «Un paradigma basato su grandi modelli gestiti in maniera completamente automatica, al cui interno i collegamenti fra dati non sono quelli, sistematici e controllati, ai quali è abituato l’architetto» (pag. 191), ma sono piuttosto espressi attraverso matrici numeriche di valori statisticamente probabili, soggetti a modifica costante. L’output che producono è difficilmente descrivibile secondo i paradigmi ‘architettonici’ tradizionali. In pratica, ChatGPT non seleziona casualmente le sequenze linguistiche di un testo, ma lo fa basandosi su complessi modelli probabilistici.

Questo approccio di creazione ex-novo di risposte all’utente comporta alcuni svantaggi. Le ‘allucinazioni’ e i bias ne sono un esempio: le AI possono generare contenuti che non rispecchiano la realtà, portando alla diffusione di informazioni fuorvianti o addirittura dannose se non identificate e/o verificate; inoltre, le risposte generate dalla chatbot possono essere soggette a bias e, quindi, influenzate da pregiudizi incorporati nei dati di addestramento.

Forse allora, la vera domanda a cui tutti vorremmo dare una risposta è: l’oracolo e l’architetto possono collaborare?

Secondo l’autore «le intelligenze artificiali generative potranno inoltre lavorare alla produzione automatica di metadati in contesti come gli archivi, le biblioteche, i musei, la descrizione di contenuti editoriali» (p.119), offrendo strumenti potenzialmente utili ad alcuni professionisti in termini di tempo e risorse rispetto al lavoro umano, e contribuendo ad organizzare le nostre conoscenze.

Infine, è doveroso assicurarsi di utilizzare questi strumenti con eticità per garantire che i contenuti generati conservino sempre un ‘tocco umano’, ossia che non manchino mai della conoscenza, comprensione, ragionamento critico, interpretazione e creatività umana che li contraddistingue, preservando in tal modo un sano rapporto di collaborazione. Per far ciò, è essenziale che gli utenti conoscano i meccanismi di funzionamento delle AI generative, in modo da utilizzarle consapevolmente e responsabilmente. In questo senso, la trasparenza degli strumenti e la literacy degli utenti aiuterebbero a comprendere meglio cosa la tecnologia può e non può fare, consentendone un uso informato – oltre che ‘informatico’ – in linea con i valori e gli obiettivi che ne giustificano l’impiego in diversi contesti.

La recensione è a cura di

Ludovica Mastrobattista

Ha conseguito il titolo internazionale di Dottore di Ricerca in Tradición Literaria, Cultura Escrita y Humanidades Digitales presso l’Universidad de Salamanca (ES), con una tesi incentrata sulla percezione della lettura digitale in ambito accademico. Dal 2021 è membro collaboratore del gruppo di ricerca E-LECTRA: Lectura, Edición Digital, Transferencia y Evaluación de la Información Científica. Collabora con il Centro Ricerche “scientia Atque usus” per la Comunicazione Generativa ETS nell’ambito della ricerca sul tema della scrittura collaborativa.

Bibliografia

  • Ferraro, G. (2010). La scuola dei sentimenti. Dall’alfabetizzazione delle emozioni all’educazione affettiva. Filema.
  • Kohan, W. O. (2019). Paulo Freire mais do que nunca: una biografía filosòfica. Vestígio.
Gli altri contributi dell’Ambito di Intervento
“Tecnologie per valorizzare il tocco umano”

Dalla “correzione” alla “collaborazione”.
Origine ed evoluzione dei Centri di scrittura

L’Articolo affronta il tema dei Centri di scrittura da una prospettiva storica, volta ad approfondire la loro origine ed evoluzione nel tempo, fino alla definizione di un nuovo status e ruolo nella contemporaneità, in contrasto con un immaginario collettivo ancora legato al ‘vecchio’ paradigma di metodo e approccio pedagogico diffusosi negli anni ‘50-’60 del Novecento.

Nuove tecnologie che generano innovazione. Il progetto artigianale degli strumenti di lavoro

L’Introduzione Generativa pone l’attenzione sull’idea di artigianato di Renzo Piano, che non deve rimandare a un concetto di lavoro basato sulla solitudine, orientato alla tradizione e chiuso all’innovazione. Al contrario, è un artigianato che deve fare perno sulla sperimentazione, sulla necessità di divergere e uscire dal seminato.

Piano, R. (2017), La responsabilità dell’architetto. Conversazione con Renzo Cassigoli. Firenze: Passigli Editori

Chat GPT di testo

A partire dal contributo pubblicato per il volume Libri di testo e contenuti didattici digitali. Un dialogo possibile? (Carocci Editore, 2023), Daniele Barca approfondisce le funzionalità di Chat GPT che possono favorire l’apprendimento e l’insegnamento a scuola.