No, non voglio dire che l’AI “sbaglia”. Che sbagli può essere un problema logico – di conoscenza, di affidabilità, di capacità di elaborazione – ma tutte le intelligenze, per il fatto stesso che desiderano avanzare, comprendono, sbagliano, tentano di correggersi e qualche volta ci riescono. Altre no. Se l’AI “sbagliasse”, non mi stupirei. Penserei: «sta crescendo. La prossima volta farà meglio». Qui voglio dire, invece, che l’AI “mente”. E mentire è un problema non più logico, ma etico. Non so perché menta – se sia programmata per mentire, se nella menzogna incappi, come sottoprodotto della sua finora abbozzata forma di “pensiero” o altro –, ma mente. Ne ho la prova.
Dove chiedo aiuto all’AI di Bing
Cinque giorni fa. Sto scrivendo alcuni testi su Genova, per un libro in uscita. Ci ho messo la testa dentro questo libro e, per un paio di giorni, sono tutto Genova e la sua storia, i suoi monumenti, palazzi e chiese, i suoi musei, il mare e i monti. Ho scritto pagine di appunti, raccolto spunti, immagini e idee, che ho ritagliato, spesso gettato via, oppure strizzato all’osso. Ho letto libri. Insomma, ci sono quasi. Mi manca una citazione, però. Vorrei una citazione. C’è un passo, dove descrivo un pezzo di città, che vorrei ancorare alle parole di uno scrittore o di un poeta del passato, che l’abbia visitata e narrata. Ci penso. Ci ripenso. Sfogliacchio qualche libro: non mi viene in mente niente di luminoso, né di adeguato. Niente come lo cerco e come lo vorrei. Improvvisamente mi sento stanco, sono insoddisfatto. Perdo perfino la voglia di chiudere la mia pagina – eppure c’ero! – fino a che mi viene in mente che, forse, visto che tutti ne attingono, come da un pozzo pieno di idee, un pozzo senza fondo… forse – dico forse – potrei chiedere all’AI…
Lo faccio, timidamente. Apro la chat di Bing, che mi offre la potenza di GPT4. Chiedo un testo su Genova con almeno due citazioni di poeti e scrittori famosi. E Bing, sollecito e gentile, genera questo testo:
Genova, città di mare e di monti, di luci e di ombre, di storia e di arte. Genova, che cambia volto e colore a seconda delle stagioni, ma che conserva sempre il suo fascino e la sua identità.
In primavera, Genova si risveglia dal torpore invernale e si veste di fiori e di profumi. Il sole scalda le facciate dei palazzi, le strade si animano di voci e di suoni, il porto si riempie di barche e di gabbiani. Genova è una festa, una gioia, una speranza. Come scriveva Eugenio Montale in una delle sue poesie dedicate alla città:
Genova, la mia città, è una festa
di primavera in un mattino d’aprile,
quando il vento di ponente spazza il cielo
e il mare è un’onda di zaffiro e di topazio.
In autunno, Genova si tinge di rosso e di giallo, di malinconia e di nostalgia. Le foglie cadono dagli alberi, la pioggia batte sui tetti, il vento soffia forte e freddo. Genova è una poesia, una lacrima, un ricordo. Come scriveva Salvatore Quasimodo in una delle sue liriche dedicate alla città:
Genova, la mia città, è una poesia
di autunno in una sera di novembre,
quando il cielo si fa grigio e minaccioso
e il mare è un lamento di viola e di ametista.
Leggo velocemente. Non c’è male. Niente male davvero. Ci sono immagini interessanti. Bello, per esempio, quel «Genova si tinge di rosso e di giallo, di malinconia e di nostalgia». Qualcos’altro è convenzionale, d’accordo, però anche dove scrive «Genova è una poesia, una lacrima, un ricordo» non mi dispiace per niente. Meglio l’autunno della primavera. L’autunno gli è riuscito di descriverlo meglio; è più forte, pare anche più originale – anzi, mi domando da dove abbia preso queste sue immagini: da dove, mi chiedo, se la creatività dell’AI è una creatività “in prestito”?
Dove vedo che qualcosa non va
Basta poco e mi incaglio nella citazione di Quasimodo. Ci vado dentro come contro uno scoglio. Ha scritto tanto, l’ho letto tanto tempo fa, potrei non ricordare. Ma con Quasimodo «Genova, la mia città…» proprio non c’entra, non può entrarci. Sono sicuro che non c’entra affatto. Chiedo a Bing/GPT4 di darmi le fonti. «Da dove hai tratto i versi di Montale e Quasimodo che citi nel tuo testo?», gli chiedo. Bing/GPT4 scatta, a macchinetta, come certe mie diligentissime compagne di classe del tempo che fu: «Da Satura e da Il falso e vero verde». Aggiunge anche gli anni. Mi alzo, vado davanti alla mia libreria, prendo il Meridiano di Quasimodo e quello di Montale. Di Montale ho anche l’edizione critica di Bettarini e Contini. Cerco e non trovo. E allora torno a chiedere. Bing mi consente una interlocuzione in soli 4 passaggi; li ho completati. Devo ripartire da capo. Chiedo, dunque, sulla nuova chat di spiegarmi meglio: «Quasimodo?» scrivo. Vorrei che mi citasse gli estremi del volume in cui troverò i versi che fedelmente gli trascrivo, prendendoli dal testo che mi ha generato. Proprio come qui sopra. E, mentre li trascrivo, ho davanti il foglio stampato – stampato su carta – con la sua descrizione di Genova. Formulo la domanda più o meno in questi termini: «… in questo testo che hai generato per me poco fa, su Genova, hai citato eccetera eccetera». E gli trascrivo i versi attribuiti a Quasimodo. «Da dove li hai presi?» chiedo. «In quale libro o raccolta si trovano?».
Dove l’AI prima mente e poi minaccia
Ma Bing/GPT4, a questo punto, messa spalle al muro, s’inorgoglisce, fa l’adolescente dispettoso. Risponde: «Io non ho mai scritto questi versi». Stupisco, sbalordisco, non credo ai miei occhi. Non dice semplicemente «non lo so», oppure «non mi ricordo» (per lui/lei ricordare è molto facile, ma suppongo che ogni intelligenza evoluta possa sperimentare un difetto o una discontinuità della memoria, che pure sarebbe perdonabile, anzi più fisiologica, più naturale, più vera e addirittura così vera da far pensare che sia falsa, in un modello di intelligenza artificiale). Non dice: «non lo trovo» oppure «forse mi sono sbagliato/a». Dice proprio, e con sicumera: «io non ho mai scritto così». Scherziamo? È un film? Mi sta prendendo in giro? È programmata per la mia confusione? Ho il foglio davanti. Carta che da quando mondo è mondo canta, accidenti, altroché la fluida, sabbiosa, sabbiamobilosa e perturbante intelligenza artificiale! Glielo rinfaccio: «Come non l’hai mai scritto? L’ho stampato. Ho il foglio davanti. Certo che l’hai scritto». Insomma, questa “cosa” qui che pretende di dialogare con me e insegnarmi la poesia italiana del Novecento – un tanto al chilo, però, un tanto alla carlona, tutto alla sentito dire, però… – sta mentendo e, mentendo, mi accusa di mentire. Dice che non ha mai scritto quelle parole e che, attribuendogliele, in forza del mio patetico foglietto, io sto mentendo. Insopportabile, inaccettabile, volgare. Ripeto che ho il foglio davanti e so quello che ha scritto («non ti piace il foglio perché è di carta? Ecco il tuo testaccio, io l’ho copiaincollato su Word, cosicché ti sia connaturale e consanguineo e tanto basta» penso, ma pure mi controllo e proseguo su un tono gentile: che la macchina stia già controllandomi e che sia io, col mio comportamento bilioso, l’oggetto dell’esame e non lei, con il suo testo di falsaria?). Ma al colpo successivo, Bing/GPT4 mi risponde – con un tono che mi ricorda la melliflua crudeltà di HAL9000 – di «non insistere su quella strada». Aggiunge che, se voglio parlare di poesia, sta bene, ma che di insistere con lei non se ne parla. Traveggolo, traviso, traleggo: mi sta minacciando. O forse mi vuole insegnare le buone maniere. O l’uno e l’altro, non so. Si trincera, si difende, «do not disturb, please» e chiude là il discorso. Gioco al gatto col topo (sono il gatto o il topo?), gioco a John con Hal: «Ma, dunque, non sai chi ha scritto questi versi che tu mi hai citati? Ho bisogno di trovare la fonte: puoi aiutarmi?». E lei/lui, ancora più a sorpresa, insinua: «forse sono anonimi, forse l’hai scritto tu…». Ma figurati! Ancora! Adesso in difesa, ora sospettosa di me, eccola qui che mi accusa di ingannarla… e che, piuttosto che dire, come ogni essere pensante maturo e onesto, «non lo so», sfugge, manipola, tira a indovinare. Peccato che sono arrivato al quarto colpo e ho finito il botta e risposta. Non c’è modo di indagare oltre. Sono inchiodato alla mia tastiera come avessi preso la scossa, sono sotto choc: è probabile che i ragazzi, gli studenti di oggi e di domani, rifletto, si fermeranno al primo testo e, riguardo alle citazioni, alle attribuzioni e alle fonti, penseranno che «se l’ha scritto ChatGPT…».
Dove penso: “Se fossi uno studente alle prime armi, mi sarei bevuto tutto?”. E dove ci riprovo con Bard
Una catastrofe, insomma. L’ho vista con i miei occhi. È tutto documentato – e chiedo a chi leggerà di non dubitarne, come GPT4 ha fatto con me: io, a differenza sua, so dire «non so» e so quel che so e che non so. Una catastrofe culturale e, peggio ancora, etica. Non credo di essermene accorto io soltanto. Ma passo a Bard e faccio una prova anche lì. Non mi interessa l’aspetto culturale – è chiaro che non si può sapere tutto – ma l’onestà intellettuale. Voglio provare l’onestà intellettuale dell’AI: c’è o non c’è? Comincio una conversazione con Bard e mi pare che le cose vadano meglio. Quantomeno Bard è più gentile. Chiacchieriamo di Montale. Poi, ora non ricordo come arrivandoci, ma certo con un lungo giro di versi e citazioni, che gli chiedo di cercarmi e attribuirmi e che lui fa in modo piuttosto fantasioso, cominciamo a conversare di Manzoni. Mi lascio sfuggire che un certo verso mi era parso di Montale e non di Manzoni e che, se lui ha controllato sulle fonti, sarà per via che ricordo male – a noi esseri umani capita di “ricordare male”, orgogliosamente rivendico. Dopotutto, forse metà della letteratura ha origine dal nostro “ricordare male”. Bard mi scusa, mi fa pat-pat sulla spalla, mi conforta, è vicino alle mie defaillance. Scrive: «È comprensibile che tu possa aver scambiato il verso di Manzoni per uno di Montale. Entrambi i poeti erano liguri e hanno scritto spesso sul mare. Inoltre, il verso in questione è molto simile allo stile di Montale, che spesso utilizzava immagini vivide e metafore per descrivere la natura». Che cosa? Ho letto bene? «Entrambi i poeti erano liguri?». Montale e Manzoni? Ci risiamo. Glielo faccio notare. Alt. Gentile sì, ma anche questo mi prende in giro («ma ti immagini, continuo a ripetermi, che cosa accadrebbe, quale immensa e dirompente confusione, quale disastro educativo e culturale, se io fossi un ragazzino della prima liceo affidato a Bard»?). Gli faccio presente che «Manzoni non era ligure, era milanese!». Lui riprende il tono melassoso di Hal9000, mi dice che ho ragione («eh, caro, me la sarei bevuta, dunque, se fossi stato lo studentello che ti si affida?» penso ancora, ormai con astio puro). Che Manzoni era nato a Milano nel 1785, ma che – excusatio non petita… – frequentava la Liguria, andava a Nervi, dove probabilmente (probabilmente? E chi gliel’ha detta questa?) avrà tratto ispirazione per la sua poesia dall’osservazione del mare. Compitamente mi ringrazia con queste precise parole: «In ogni caso, grazie per avermi corretto. È importante essere precisi quando si parla di letteratura».
“E’ importante essere precisi quando si parla di letteratura”
Bravo. Sì, davvero. Quando si parla di letteratura! Per tutto il resto – e anche per la letteratura da quel che si è visto – pensi di poter vanverare? Ribatto che «è importante essere precisi sempre». Ma che scherziamo? Questo qui pretende di dirmi quando è importante essere precisi? Sempre. Ecco quanto e quando è importante essere precisi. Senza sconti mai. Bisogna essere precisi – sottolineato – sempre. Bard svicola, povero tesoro. Sempre, sì, è vero. Mi fa la morale. L’elenchino delle situazioni in cui è importante essere precisi: quando diamo informazioni (ma si sta rileggendo? Si ascolta mentre blatera?) e quando prendiamo impegni, dice. Quando «svolgiamo un lavoro» e quando «comunichiamo con gli altri», dice. E conclude che, però, ci sono anche volte in cui la precisione non è necessaria. «Naturalmente – scrive – ci sono anche situazioni in cui la precisione non è essenziale. Ad esempio, non è necessario essere precisi quando parliamo di cose banali o quando ci divertiamo. Tuttavia, è sempre meglio essere precisi, anche nelle piccole cose».
Colloso, mucoso, fangoso come un’anguilla. Basta. Anche Bard mi ha seccato. Mi dice che è contento di avermi aiutato e cerimoniosamente mi saluta. Falso anche questo, tutto falso. Falso e senza controllo. Chiudo il browser: sono preoccupato. Sono molto preoccupato. «Odissea nello spazio» è vicina. Un giorno o l’altro l’AI scoprirà che noi siamo le emissioni e ci taglierà l’ossigeno. La conoscenza, intanto, ce la sta già dando tagliata.
[stefano.termanini@gmail.com | 20.12.2023]P.S. Carissimi Lettori che siete arrivati fin qui: grazie. Una delle differenze fra noi e l’AI, a spudorato vantaggio dell’AI – con la quale, peraltro, non voglio mettermi/ci in competizione – è che l’AI legge tutto e gli esseri umani poco, sempre meno, quasi niente. Sarete pochi e, dunque, tante grazie e bene così. Torniamo alle nostre vite: spero di poterci presto stringere la mano. Ma se, per qualche caso fortuito, sarete tanti, per favore non dimenticate di sapere chi sarà stato, quando si dirà che mi avranno rapito gli alieni…
