Ci sarebbero migliaia di cose da dire sull’AI, a partire dal suo impatto ecologico, ai prospetti per l’occupazione (inutile sottolinearlo: sono negativi) passando per le considerazioni di natura etica. Ma in questo breve spazio non parlerò di questi aspetti, soprattutto perché le discussioni riguardo l’AI sono l’hot topic ormai da un bel pezzo, e voci ben più competenti e eleganti della mia ne hanno già affrontato le infinite sfaccettature. Vorrei invece concentrarmi su qualcosa di ben più personale: la mia rabbia nello scoprire l’ultima tendenza, che contagia anche gli autori amatoriali. Si tratta di un’idea tanto banale quanto abominevole: dare in pasto a un’intelligenza artificiale i propri scritti, in modo da creare un “agente personalizzato” capace di mimare, in tutto e per tutto, stile e tematiche dell’aspirante. Una scaletta e poi un racconto, o un romanzo intero, in pochi minuti! E, ciliegina sulla torta, un secondo agente AI addestrato in tal modo potrà essere editor del testo appena prodotto dal sacro algoritmo, in modo da poter raggiungere un livello di perfezione formale ineguagliabile.

Ora, reputo quest’iniziativa come prodotto di una visione un po’ scomposta dell’attività autoriale: non più una forma di relazione tra autore, lettore e (per i più fortunati) editor, ma banale industria, per testi da produrre e consumare velocemente. Potremmo discutere ore della necessità degli autori di produrre per stare al passo con il mercato, delle difficoltà estreme che deve affrontare chi vorrebbe vivere di scrittura, ma anche questi sono argomenti già ampiamente affrontati da autori ben più competenti di me, e non voglio dilungarmici su. Ma non posso fare a meno di interrogarmi. Magari quel senso di rabbia cui accennavo poco sopra è una mia resistenza al nuovo, un pizzico di spirito reazionario? Forse è colpa mia. O forse no: tentando di mettere a fuoco il mio fastidio ho capito che quest’uso proposto delle intelligenze artificiali è davvero un insulto alla mia idea di umanità. Per un paio di ragioni.

# Un’eterna adolescenza permalink

Nel mio piccolo, credo che siamo tutti qui per sperimentare, imparare qualcosa di nuovo, cambiare. Ce ne parlano i corpi: le percezioni di un uomo di vent’anni sono molto diverse da quelle di un’ottantenne, ma entrambe – pur nelle loro radicali differenze – possono darci uno scorcio di qualcosa di più grande, l’esperienza umana nel suo complesso. Penso che artisti e scrittori abbiano, tra gli altri, il compito di catturare sé stessi, i propri pensieri e ciò che li circonda con precisione: e dopotutto non è un compito un granché difficile, perché anche nel caso di scritti di pura fantasia è impossibile per qualsiasi autore non lasciar filtrare qualcosa di sé nelle proprie opere, che siano gioie, problemi oppure ossessioni. Dato che l’attività artistica è per i più qualcosa che li accompagnerà per tutta la vita, anche la scrittura cambierà (o il disegno, la pittura: metteteci dentro qualsiasi cosa vogliate, perché vale per ogni forma d’espressione). Le mie preoccupazioni non sono le stesse di quando avevo diciott’anni: allora mi lasciavo trasportare con ardore dalle grandi passioni politiche, mi infiammavo per le grandi ingiustizie, ero assolutamente cieca e inflessibile rispetto alle ragioni altrui. Certo, pecco ancora di una certa inflessibilità; eppure oggi le cose che mi danno noia sono anche altre, dagli estenuanti cavilli notarili all’instabilità lavorativa, passando per minuzie ridicole ma significative, come il male alle ginocchia che inizia a farsi sempre più frequente. Questi cambiamenti si riflettono anche nella mia scrittura: stile e tematiche sono cambiate, ho scoperto che esistono diversi tipi di compassione, percezioni radicalmente differenti dalla mia, e tante altre cose. D’altronde è naturale: da donna sulla trentina scrivo di tematiche molto diverse dalla bambina sugli otto-nove anni che si cimentava nei primi tentativi di narrativa. Come è ovvio che sia, anche il mio stile si è evoluto e sarebbe stato strano il contrario.

Se io dovessi dare in pasto al mio agente AI personalizzato tutti i testi che ho scritto fino a oggi, domandandogli di creare qualcosa con il mio stile e le mie tematiche, lo farebbe. E anche bene, ne sono certa. La macchinetta magica è perfettamente in grado di fare una media delle mie parole e delle mie posizioni e proporre un risultato credibile: e con ogni certezza replicherebbe certi miei vizi linguistici anche meglio di me. Ma vale la pena considerare che l’AI non può avere mal di testa, né può essere costretta a interrompere una frase a metà perché le cipolle sul fornello hanno iniziato a carbonizzarsi, né essere terrorizzata da una news internazionale. Non prova sentimenti né emozioni: è legata solo alle immutabili probabilità che si verifichi un determinato schema, non contempla né l’errore né l’imperfezione, e men che meno la crescita, le idee e le prospettive che per forza di cose cambiano con il tempo. Siamo proprio sicuri che essere sempre identici a sé stessi , negare ogni margine di crescita, sia davvero una buona idea? Se la scrittura è un rapporto tra autore e lettore, tra l’autore e il sé futuro, e se non la consideriamo un fine ma bensì un percorso, l’essere sempre uguali, perfetti, diventa la morte. O addirittura qualcosa di peggio, perché nemmeno i morti sono condannati all’incorruttibilità. Preferisco avere la possibilità di leggermi tra uno, dieci o vent’anni, e domandarmi cosa diavolo avessi in testa in quel momento, e criticarmi per uno stile imperfetto, pedante, noioso, o per contenuti cretini e ripetitivi. Non vedo l’ora: perché quell’imbarazzo significa cambiamento, significa vita.

# Scelte: ma chi sceglie, davvero? permalink

Chiariamo: trovo la tecnologia interessante, perfino eccitante. Una macchina che pensa, o che quantomeno è in qualche modo capace di identificare schemi ricorrenti, semplificare le comunicazioni aziendali, aiutarci a vedere le ripetizioni nascoste in una lunga pagina di codice, nella struttura di una proteina, o magari di semplificare un po’ concetti complessi per gli studenti in avvicinamento a una qualche misteriosa disciplina scientifica: è incredibile, no? Anche io, con un tocco d’ipocrisia, ho usato abbondantemente l’AI all’inizio, per creare illustrazioni per alcuni racconti che ho pubblicato sul mio Substack. Le immagini oniriche, tutte sbagliate e chiaramente generative, sono per me davvero affascinanti: e non avendo alcun budget per un vero illustratore (anche perché si parla di racconti del tutto mediocri, e comunque fruibili gratuitamente) al tempo rappresentavano una soluzione sciocca, ma graziosa, per dare un po’ di colore ai miei muri di testo.

Il mio astio si concentra sull’utilizzo di contenuti AI nei settori con chiaro intento artistico, e più specificamente letterario: gli esempi non mancano, a partire dalla decisione di Harper Collins di utilizzare questi sistemi nella traduzione (ahia!) e la scelta di alcuni autori e formatori di impiegare, in forma diretta o minimamente sottoposta a content curation, contenuti generati con tecniche di prompting più o meno sofisticate. Naturalmente il tutto è a scopo di lucro e punta, di conseguenza, alla massima diffusione.

Mi domando: ma c’è coscienza di cosa siano le AI commerciali, oggi? Il chiacchiericcio comune le identifica come grandi aggregatori di testi: macchine che mangiano miliardi di parole, identificano schemi ricorrenti, e restituiscono testi che replicano tali pattern.

Vuoi un testo estremamente formale, banale ai limiti del disgusto? Basterà un prompt che oltre a definire tono e tematiche, richieda anche una “temperatura” bassa. Vuoi un testo ricco di associazioni improbabili? Allora “temperatura” alta. Con temperatura si definisce un vincolo su cui l’utente può agire liberamente: valori bassi porteranno i modelli a scegliere forme trite e ritrite, calcolate come massimamente probabili; mentre valori più alti daranno spazio a forme calcolate come statisticamente meno probabili, e perciò (agli occhi del lettore) più creative, più lontane dall’orizzonte dell’ordinario.

Però, vorrei sottolineare un fatto non trascurabile. Da un lato sappiamo che i modelli vengono addestrati con ogni genere di testo, dalla letteratura “alta” al blog di quartiere, tramite selezioni operate spesso a cura di trainer usa e getta e sottopagati (ma questo è tutt’altro discorso). Ed è del tutto possibile gestire, conoscendo lo strumento, gli output, ottenendo risultati variegati tanto quanto le fonti. Ma è altrettanto vero che i risultati di questa tecnologia, ossia gli output dei modelli, sono pesantemente filtrati e ritoccati a seconda delle visioni dei proprietari di tali servizi, o board societarie. Visioni che, naturalmente, mirano a massimizzare i profitti per le società stesse: basta una brevissima riflessione sui più recenti avvenimenti mondiali, incluse le polemiche riguardo Grok e la generazione di immagini pedopornografiche (a cui non è stato posto un limite, almeno al momento della stesura di questo articolo) per intuire che questi interessi non sono quasi mai a favore dell’umanità intesa in senso generale, anzi.

Dovrebbe ormai essere fatto noto che per introdurre un cosiddetto bias basta veramente poco. Le parole e le immagini sono strumenti potenti: e recuperando i proverbi nostrani, penso sia bene ricordare che la goccia scava la pietra o, in termini pavloviani, che la ripetizione è l’essenza dell’apprendimento. L’utente che proclama che la sua “opera generata” sia in realtà un prodotto del suo intelletto in virtù della sua selezione, delle sue scelte… sbaglia. Perché in quel testo sta introducendo (e forse inconsapevolmente!) strutture che non gli appartengono affatto: non solo perché plagiate, ma anche perché definite, già all’origine, da individui con precisi interessi economici e politici. Output linguistici all’apparenza banali e innocui potrebbero, a forza d’insistere, trasformarsi in altro, e la storia dovrebbe avercelo insegnato già da un pezzo. Muoversi all’interno di una cornice in cui la lingua è già arma impiegata per asservire interessi specifici di cui non abbiamo contezza: abbiamo il coraggio di chiamarle scelte? O è qualcosa d’altro, magari solo un’apparenza di libertà che trasforma l’utilizzatore in un attore ignaro di una grottesca messinscena?

La vita reale pone tutti noi, irrimediabilmente, di fronte all’impossibilità di scegliere. Chiunque ha vincoli che sono o sembrano insormontabili; e a consolarci spesso e volentieri interviene il marketing, il consumo: è ormai chiaro da decenni.

Scegli d’indossare l’ultimo modello di orologio subacqueo: farà di te un vincente, un uomo risoluto, una persona in grado di prendere decisioni! Scegli il colore della cucina, rossa per i creativi, grigio chiaro per uno stile minimal all’ultimo grido!

Apparenze: anche qui si tratta di spazi in cui la libera scelta è qualcosa d’irreale.

Ma esiste ancora uno spazio in cui possiamo definirci veramente, radicalmente liberi. L’immaginazione. Per creare romanzi e storie capaci di cambiare la vita delle persone, per sfidare l’impossibile creando razzi capaci di raggiungere la Luna, per provare a immaginare cosa succederebbe se abbandonassimo il petrolio, se fossimo in grado di curare ogni genere di malattia, di esplorare le profondità del mare, o qualsiasi altra cosa possa venire in mente. Mi perdonerete questa parentesi di melenso romanticismo, ma è grazie alla sfrenata immaginazione di milioni di visionari che abbiamo raggiunto, come umanità, traguardi difficili da credere ancora oggi. Sicuramente, non grazie a formule predeterminate, né grazie a limiti posti da altri, né piegandosi a interessi non propri. Siamo proprio sicuri di voler cedere questo potentissimo, forse ultimo, vero spazio di libertà a un branco di individui che farebbero (e fanno) di tutto pur di accumulare sempre più soldi e potere? Io dico di no: e se il prezzo di questa libertà è un manoscritto brutto, o una storia che non sta in piedi, lo pagherò con piacere.