Spiacente ma, in questo browser, la lettura a voce non funziona.«Questo testo è stato scritto da un’Intelligenza Artificiale!»
I caratteri apparvero lapidari sul grande schermo dell’aula A06 del TIDA, il Tribunale Internazionale per i Diritti d’Autore. I presenti lessero l’esito della perizia con morbosa curiosità e si produssero in un chiacchiericcio sommesso di opinioni contrapposte.
«Lo sapevo!» commentò soddisfatto un giovanotto ben vestito alla fidanzata cibernetica. «Era troppo perfetto per essere l’opera di un ragazzo di appena ventun anni! E dove avrebbe appreso Cheshire a scrivere così?» La ginoide accanto a lui l’osservò e programmò l’espressione del viso per comunicare compiaciuta condiscendenza.
«Ma come?» era invece il parere opposto di un’acida anziana in fondo alla sala che aveva assistito a quel processo con un’amica. Le due erano insegnanti di lettere ora in pensione ma avevano sempre trascurato l’impatto dell’I.A. nella società, convinte com’erano dell’inarrivabile superiorità della creatività umana. «Il testo è pieno di errori e strafalcioni!» sottolineò all’amica la prova che sostanziava la propria accalorata difesa dell’imputato nelle ultime settimane. Era convinta che Cheshire non avesse usato un’Intelligenza Artificiale ma l’avrebbe bacchettato implacabilmente, se fosse stato un suo alunno!
Il giudice Wiz percosse ripetutamente la scrivania col martelletto. «Signori, silenzio, per favore!» esclamò stanco. Quello era stato un caso snervante che aveva malauguratamente destato la morbosa attenzione della stampa: decisamente troppo per un uomo con lo sguardo ormai fisso sull’agognato pensionamento.
Il vociare si placò lentamente e Wiz tolse gli occhiali, vezzo demodé di un uomo in là con gli anni. Il più temuto esito della perizia, non del tutto inatteso, gli aveva fatto schizzare la pressione. Si sentiva accalorato, il sudore gli aveva imperlato la fronte stempiata e appannato la vista. Tanto, troppo dipendeva dal suo buon giudizio. Era una crudeltà che gli toccasse quel caso ora che non aveva più la lucidità, le forze, la voglia di far carriera che l’avevano distinto anni prima.
Lapidario, troppo lapidario l’esito della perizia, pensò tra sé e sé. Nemmeno le prove del DNA sono così nette, rifletté, e così offrì una via d’uscita all’imputato.
«La difesa ha qualcosa da obiettare?» chiese con un tono chiaramente retorico. “Coraggio!” pensò. “Questa è alla portata di un pivello del primo anno!” In fondo, il diritto degli imputati alla miglior difesa possibile non era decaduto.
«Ci rimettiamo alla clemenza della Corte!» si pronunciò la difesa, e l’anziano magistrato subì quelle parole come se l’imputato fosse stato suo figlio.
Disgustato, schifato all’inverosimile, con conati di vomito e la propria dignità che gli urlava di sospendere l’udienza per inettitudine della difesa, sapeva di rappresentare la legge e tutte le procedure delle quali andava imposta l’osservanza. Si limitò a comminare la minima pena possibile mentre l’imputato veniva trascinato fuori a viva forza, disperato e piangente: neanche in una vita di lavori forzati avrebbe potuto scontare il debito che le nuove, severissime leggi sul Diritto d’Autore imponevano.
Il pubblico esplose in urla di giubilo e di contestazione, dividendosi ferocemente tra coloro che avrebbero lapidato il reo e quelli che denunciavano un nuovo fascismo. Forme di dileggio e di disprezzo, nessuna improntata al rispetto della libertà del prossimo di avere la propria sacrosanta opinione, nessuna degna di un’aula di tribunale, furono scambiate tra i sostenitori dell’innocenza e della colpevolezza; tutte badavano miopemente a una cosa sola: l’uso dell’Intelligenza Artificiale in ambito artistico implicava la fine della creatività umana? O era quello solo un ennesimo strumento che avrebbe dato opportunità di libera espressione a chi non avrebbe potuto goderne altrimenti? Era l’Intelligenza Artificiale assimilabile al pennello, allo scalpello, alla macchina fotografica, a quella da scrivere? Ed erano state tutte quelle innovazioni accolte dalla stessa diffidenza, dallo stesso sdegno, nel passato?
Wiz chiamò il servizio d’ordine a placare la confusione e si ritirò nel proprio ufficio. Per lui il problema era ben diverso.
Sudava freddo mentre, a grandi passi, percorreva col faldone del caso appena chiuso gli echeggianti corridoi del tribunale. Era assorto nei propri angosciati pensieri di un’umanità che non era certamente prigioniera della creatività di un’Intelligenza Artificiale, stupidi idioti egocentrici che non erano altro!
Dovevano poter dire la loro, gli “artisti”, qualunque corbelleria gli saltasse per la testa! Poco importava che si trattasse di farsi un trip di acidi e scattare a raffica fotografie di una tazza di cesso! Era arte, quella? Si vendeva! I fessi altolocati che l’avrebbero comprata c’erano sempre stati, desiderosi di farsi belli mostrando ai loro pari-casta l’ultimo fortunato acquisto dell’ultima trovata dell’avanguardia!
Ma ora l’AI aveva rotto il giocattolo: chiunque avrebbe potuto dirsi “artista” solo chiedendo a un programma di realizzare i propri vaneggiamenti e gli “artisti”, quelli “veri”, non ci potevano stare. Quante ore costava loro al tornio, al forno, sul pentagramma, col pennello o il punzone, con la stilografica o l’editor di testo, rendere reale la propria immaginazione? E ora avrebbero dovuto sgomitare con chi avrebbe battuto due righe su una tastiera per chiamare “arte” qualunque cosa l’AI avesse vomitato?
Stupidi, idioti egocentrici, ecco cos’erano! “Arte”… Avevano fatto diventare l’Arte “arte di scandalizzare i benpensanti”, tra i quali non avevano alcuna vergogna di lasciarsi annoverare molti sedicenti “artisti”. Ma non era nata così, non era nata così! Crederlo era bestemmiare le Muse!
L’immagine del ragazzo che veniva trascinato fuori dalla propria aula di tribunale lo raggiunse di nuovo mentre chiudeva la porta dell’ufficio dietro di sé e gli fece provare panico: l’umanità era davvero già finita e non se n’era ancora accorta. Gettò il pesante faldone sulla propria scrivania e si appoggiò con le braccia tese sul bordo di quella, respirando affannosamente. Allentò il colletto della toga, strinse i pugni e i denti, pianse e singhiozzò d’impotenza.
“Maledetti! Maledetti bastardi!” disse dentro di sé. Doveva esserci una via d’uscita in quel perfetto, pulito muro di norme, ma lui non riusciva a vederla.
Chiamò il terminale frenetico. «Roger, voglio rileggere il caso!»
«Certo, Vostro Onore!» rispose asciutta la macchina.
Aveva chiamato Roger il proprio assistente informatico per una forma di dileggio nei confronti della macchina: nel secolo precedente “Roger” era stato il messaggio gergale degli aviatori per rispondere “ricevuto”, e quel programma diceva sempre di aver capito, di aver capito… e non capiva mai niente.
Mentre il terminale preparava lo schermo, Wiz snocciolò domande come parlando tra sé e sé.
«Dove abbiamo sbagliato, Roger? Che abbiamo fatto a quel ragazzo? Come abbiamo permesso che la giustizia venisse sovvertita in maniera così spregevole?»
«La procedura è stata seguita alla lettera, Vostro Onore!» La voce senz’anima insultò ancora una volta il magistrato. «La difesa ha eseguito un algoritmo di costi/benefici e ha deciso di contenere al minimo il danno per la propria parte. La miglior difesa possibile è stata assicurata all’imputato».
«La miglior difesa possibile?» Wiz urlò fuori di sé. «Qual è la probabilità sulla quale la perizia ha stabilito la propria opinione?»
«Un momento, consulto i documenti, Vostro Onore…» La macchina tacque mentre il magistrato si portava dietro alla propria scrivania e, respirando affannosamente, si accasciava esausto nella poltrona. L’aria tra la spugna e la pelle della seduta fu soffiata rumorosamente dal suo peso.
«La perizia ha valutato che c’è una probabilità dell’ottantasette virgola trentadue percento che l’opera incriminata sia stata realizzata da un’Intelligenza Artificiale. Ciò è al di sopra della soglia dell’ottanta percento stabilito come “ragionevole dubbio” dalla Commissione Internazionale per il Diritto d’Autore», enunciò secco il terminale.
«L’ottantasette virgola…» commentò Wiz. «E che mi dici di quel tredici percento? La colpevolezza di un imputato va provata oltre ogni ragionevole dubbio! La difesa ha lasciato condannare un ragazzo senza opporre nemmeno la più basilare delle considerazioni!»
«Ottantasette virgola trentadue, Vostro Onore!» reiterò pedante il terminale. «Il che riduce la probabilità della sua innocenza a un dodici virgola sessantotto percento, trascurando ulteriori cifre significative. Ma lei sa bene quanto me che la formula dell’“oltre ogni ragionevole dubbio” è stata sostituita da considerazioni statistiche nel duemilaquarantuno, il che rende le sue valutazioni del tutto irrilevanti, Vostro Onore».
C’era una certa malizia nel modo in cui il terminale si rivolgeva al magistrato. Quel “Vostro Onore” reiterato come a richiamarlo continuamente ai propri doveri, a tornare nella sua ruota da criceto, nel ruolo di ingranaggio della grande, perfetta, incorruttibile macchina della Giustizia. Giudice: l’ultima traccia di umanità in un artilugio dove non c’era più posto per le persone, ridotto a un ruolo di rappresentanza, di comparsa: umani leggevano le sentenze affinché non si pensasse che la Giustizia era diventata un freddo tritacarne gestito in tutto e per tutto da macchine, ma la procedura aveva privato i giudici di ogni rilevanza, ridotto il loro potere a picchiettare ridicolmente un martelletto per le udienze per richiamare all’ordine aule sull’orlo del disordine sociale.
«Caso O’Hara contro Virgin!» ordinò Wiz.
La macchina eseguì l'accesso alla documentazione richiesta, la consultò, fece un’analisi delle similitudini tra il caso appena concluso e quello appena richiesto. Emise la propria pedante valutazione: «Il caso non è del tutto applicabile perché discusso prima del duemilaquarantuno».
«Io non ti ho chiesto perché il caso non è del tutto applicabile, il che significa comunque che esso È in qualche misura applicabile», osservò il magistrato. Uno a zero per lui e palla al centro, ora voleva la goleada. «Voglio piuttosto sapere come fece O’Hara a dimostrare che non ci fu plagio. Mi sembra che quello fu l’elemento risolutivo della causa».
Il terminale scorse nuovamente tutto l’incartamento e lo sottopose a una nuova ricerca, privilegiando ora nuove parole chiave e applicando nuovi algoritmi.
«Si dimostrò che O’Hara non aveva i mezzi per essere a conoscenza della produzione degli artisti protetti da Virgin. Si dimostrò che, nonostante la somiglianza tra le proprie opere e quelle dei querelanti, ciò che aveva realizzato era frutto della sola propria immaginazione. Si dimostrò che non era in mala fede quando propose le proprie creazioni. Si dimostrò altresì che non ottenne un ritorno economico dalla propria produzione e che non ne aveva mai cercato uno, dal momento che tutto ciò che aveva realizzato era stato reso pubblico in forma gratuita». Le parole erano state pronunciate attraverso gli altoparlanti del terminale e contemporaneamente erano apparse sullo schermo. Un cursore lampeggiante, in attesa, chiudeva il lungo paragrafo.
«Quali di queste condizioni sono comuni al caso che abbiamo giudicato oggi?» chiese Wiz.
«L’imputato conosceva certamente la produzione degli artisti ai quali si rifà l’opera contestata; era in mala fede quando ha proposto la propria opera perché sapeva di usare lo stile di artisti acclarati; non ha cercato un ritorno economico ma di immagine, perché ha dichiarato che la propria opera doveva far parlare di lui. In cambio, ciò che ha realizzato è certamente frutto della sua sola propria immaginazione perché i temi dell’opera sono del tutto alieni allo stile dei querelanti», snocciolò il terminale.
«Sembra che per te questo conti poco…» commentò sarcastico il magistrato. Aveva segnato un’altra rete ma non aveva ancora vinto la partita. «Ma questo non ha a che vedere con l’accusa, che è di aver usato un’Intelligenza Artificiale per realizzare la sua opera. Eppure, già così hai appena ammesso che quella maledetta opera è sua: molto più sua di qualunque copia della Gioconda realizzata da qualunque imbrattatele alle prime armi. Quell’opera l’ha pensata lui e solo lui. Ora, dimmi, conosci come si realizza un’opera mediante un’Intelligenza Artificiale?»
«Certamente, Vostro Onore!» e subito il terminale cominciò a sciorinare una serie di dati, nomi e schemi. Lo schermo si riempì di sigle evidenziate, di richiami, di informazioni, della storia dei sistemi esperti, delle reti neurali, degli algoritmi antagonisti, delle GAN, dell’accesso a quantità di dati esponenzialmente più vaste… Sembrava che la macchina si pavoneggiasse nel mostrare tutta la propria inarrivabile complessità a un profano che, per formazione, non avrebbe dovuto essere capace di afferrare i sottili legami tra i diversi elementi di quello sproloquio tecnologico.
Ma Wiz era a caccia: trovare nessi per quanto labili era il suo mestiere, affinato in decenni di onorata carriera. Nella sua mente cominciarono a isolarsi, a lampeggiare concetti chiave, cominciò a vedere la trama del tutto.
«Bene, basta così!» ordinò. Il terminale sospese il proprio monologo e si pose in attesa.
«Che accadrebbe, dunque, se io chiedessi a un’Intelligenza Artificiale di realizzare l’opera già realizzata dall’imputato? Bada, intendo proprio “realizzare”, non “riprodurre” o “copiare”. Che risultato otterrei se conoscessi alla virgola il codice che lui avrebbe usato per realizzare l’opera e lo facessi eseguire?» chiese provocatoriamente Wiz.
Il terminale rispose quasi immediatamente: «Senza conoscere l’opera condannata, la GAN proporrebbe un’opera quasi in tutto simile a essa. Infatti la GAN evita il plagio, oltre a fare in modo che l’opera non sembri realizzata da un’Intelligenza Artificiale. Andrebbe però conosciuto il seme aleatorio, in genere un numero a caso tra quattro miliardi. Infine…»
«Stai affermando che se l’opera condannata fosse stata realizzata da un’Intelligenza Artificiale, essa non potrebbe essere simile a nessun’altra già esistente? E non dovrebbe sembrare realizzata da un’IA? E come ha valutato la perizia quanto essa poteva essere stata realizzata da un’IA?» insinuò Wiz.
«Si applicano algoritmi di massima verosimiglianza e altre analisi di tipo numerico alla struttura e morfologia dell’opera. Dal momento che le opere create dalle IA hanno come base di partenza l’enorme catalogo dello scibile umano, la possibilità di ripetizioni è pressoché infinitesima. Piccolissima ma non nulla per algoritmi di analisi, che queste ripetizioni cercano, individuano e valutano numericamente», spiegò Roger come se conversasse con un collega astronauta.
«Quindi l’opera condannata avrebbe dentro di sé numerose piccole parti di tutte le opere umane sapientemente miscelate, e nient’altro?» insinuò ancora il magistrato.
«Nient’altro!» ripeté il terminale. «L’intelligenza Artificiale non è capace di creatività. O meglio, non è capace di una creatività che abbia intrinsecamente senso: la sua è la creatività del caso, è del tutto aleatoria. Potrebbe casualmente creare qualcosa alla quale un umano potrebbe attribuire un senso, ma non perché l’IA lo abbia attribuito: l’opera creata è principalmente il frutto di ciò che l’operatore desidera creare». La voce di Roger era stranamente sommessa, mentre enunciava queste considerazioni.
«Quindi per stabilire l’originalità dell’opera basterebbe chiedere al condannato cos’è che ha voluto realizzare e vedere se un’IA sarebbe capace di fare altrettanto?» chiese provocatoriamente Wiz.
«In principio, dovrebbe essere possibile», rispose il terminale.
La sentenza non fu mai resa definitiva. Cheshire fu messo a confronto con un’IA che, senza l’ispirazione umana, non produsse nulla di comparabile a ciò che quello sbarbatello aveva scritto. In cambio, appena il ragazzo dettò due vocaboli tra le chiavi, si produsse tutto un profluvio di testi che seguivano la falsa riga dell’opera condannata. Wiz ce l’aveva fatta, aveva salvato un innocente da un’ingiusta condanna.
La settimana seguente il giudice si trovò a dirimere un altro caso, apparentemente assai simile a quello appena concluso. La tanto temuta frase “Quest’opera è stata realizzata da un’Intelligenza Artificiale!” comparve di nuovo sul grande schermo dell’Aula A06 del TIDA.
Il magistrato non ne poteva più. Avrebbe voluto prendere tutte quelle macchine e farne un solo, grande falò puzzolente e scoppiettante, ma si rese conto che anche in quel caso non sarebbero servite ad altro che a inquinare il pianeta. Si tolse di nuovo gli occhiali, questa volta con meditata impazienza, e li appoggiò lentamente sulla scrivania. Si era passato il segno.
«La difesa ha qualcosa da obiettare?» chiese con un’inequivocabile nota di rimprovero nella voce.
La difesa non percepì naturalmente lo stress, ma andò a spulciare gli innumerevoli precedenti casi simili e trovò: «Cheshire contro il Diritto d’Autore, Vostro Onore! Chiediamo che l’imputato venga sottoposto alla prova dell’Immaginazione, come codificato da… Voi stesso, Vostro Onore!»
Più tardi, tornato ancora una volta nel proprio ufficio, il giudice Wiz sprofondò nella propria poltrona con l’animo assai più leggero di quanto non si fosse sentito solo pochi giorni prima. Roger era stato stranamente accondiscendente, ultimamente. Il suo tono di voce, normalmente squillante e borioso, si era come abbassato di una buona ottava, o forse era solo un’impressione del magistrato.
«Come si sente oggi, Vostro Onore?» chiese la macchina.
«Stanco, Roger, ma soddisfatto», rispose l’anziano.
«Eppure oggi non è riuscito a salvare quella ragazza dalla condanna!» commentò il terminale come se lo rimproverasse.
«È questo che credevi, Roger? Credevi che abbia salvato Cheshire per prendermi una rivincita contro le macchine? Per dimostrare al mondo che noi umani siamo superiori a voi macchine e che perciò non avete il diritto di giudicarci?» meditò Wiz. «Non ti dirò che non ci fosse anche questo, nella mia testa, sarebbe una menzogna, ma ero mosso da autentica voglia di stabilire il giusto, in quel caso. Di fatto, ho corso un grosso rischio».
«Un rischio, signore?» Roger dimostrò quasi stupore. «Ma se la prova da lei codificata ha dimostrato inoppugnabilmente che l’Immaginazione non può essere replicata dalle macchine!»
«Ah, certo!» sbuffò il magistrato. «Un’osservazione ovvia dopo che ne abbiamo fatto l’esperienza! Ma cosa sarebbe accaduto se al posto di Cheshire avessi sottoposto alla prova la signorina che abbiamo giudicato oggi?»
«La prova sarebbe fallita», analizzò freddamente il terminale, «il risultato avrebbe fatto registrare l’inutilità della prova; voi umani non avreste più avuto alcun mezzo per proteggervi da un’accusa di Violazione del Diritto d’Autore facendo ricorso all’Intelligenza Artificiale!»
«Ecco, ci sei arrivato», commentò sollevato Wiz. «Uno di questi giorni potrei cambiarti nome, sai?»
«Non capisco», lamentò Roger. «Qual è la differenza? Si celebra un processo, si applicano le procedure, si verifica il rispetto delle leggi, si stabilisce la colpevolezza o l’innocenza. Perché lei ha voluto manipolare uno dei nodi di questo schema? Noi macchine stavamo eseguendo un programma errato?»
Faceva quasi tenerezza, il terminale, mentre s’interrogava sull’eventualità della propria, pur involontaria, fallibilità. L’anziano lo percepì chiaramente.
«Ciò che mi rattrista è che nessuno pagherà per le tante sentenze sbagliate emesse fin qui», rispose Wiz. «No, non dico che voi macchine siate colpevoli di qualcosa: è chiaro come il sole che avete solo eseguito il programma che vi è stato dato! No, io parlo dei tecnici, di quelli che hanno voluto disumanizzare la Giustizia, di quelli che lo hanno fatto senza pensare a tutte le conseguenze. Roger, conosci la storia del ventesimo secolo?»
«Per sommi capi, Vostro Onore», rispose la macchina, spiazzata dal cambio di argomento.
«Allora dovresti sapere cosa rispondevano i gerarchi nazisti durante il processo di Norimberga», suggerì il magistrato.
«“Noi stavamo solo eseguendo gli ordini”, sì, conosco la frase. Non valse loro l’assoluzione». La macchina parve rabbuiarsi ulteriormente.
«Ma quelli erano esseri umani, Roger, non macchine! Erano persone che sapevano cosa vuol dire amare, gioire, avere dei figli e dei genitori, e sapevano anche cosa vuol dire soffrire, penare, subire mortificazioni e privazioni. Se io ti togliessi la spina ora, Roger, e ti spegnessi, soffriresti?»
«No, Vostro Onore. Se percepissi astio nella vostra voce il mio programma potrebbe a seconda delle circostanze simulare un tono contrito, ma sarebbe tutto qui: una simulazione», spiegò il terminale».
«I gerarchi nazisti, invece, non erano macchine, non simulavano, sapevano perfettamente cosa stavano facendo ad altri esseri umani, perciò non potevano essere considerati innocenti dei crimini commessi. Ma voi macchine non avete esperienza di gioia e dolore, perciò quando amministrate Giustizia non lo fate pensando al vantaggio o al danno dell’imputato. Siete la macchina perfetta per questo lavoro!» concluse Wiz, rilassandosi sulla poltrona.
«Ma possiamo sbagliare, evidentemente», osservò Roger. «Mi disturba considerare che la mia programmazione potrebbe causare un danno immotivato a qualcuno».
«Ma l’errore non è in te, mio caro Roger». L’anziano sentì quasi affetto per quella macchina rosa dal dubbio come un ragazzo che con l’adolescenza si affaccia a scelte importanti. «L’errore è nelle leggi, nelle procedure, non in te. Io non ho guidato una crociata contro le macchine, ho solo fatto in modo che la vostra programmazione ricevesse un ritocco nel punto giusto. Non avreste dovuto ricevere un compito così importante come giudicare le nostre vite, ma l’umanità sta perdendo la propria dignità, sta abdicando alle proprie prerogative, sta rinunciando alle proprie responsabilità, e ora è disposta a lasciare alle macchine il proprio destino».
Il silenzio invase lo studio di Wiz, appena ritmicamente interrotto dal leggero cicalìo che accompagnava il lampeggiare del cursore sullo schermo. Poi Roger domandò: «Vostro Onore, come mai ha scelto di far carriera nel TIDA? Le sue idee sarebbero molto utili anche fuori di qui, anche in altri campi! Lei invece ha scelto qualcosa di apparentemente marginale!»
«Scherzi?» l’anziano quasi saltò sulla sedia. «Questa è l’ultima barricata! Qui si fa la differenza tra uomini e macchine! E finché io sarò dietro questa scrivania, non ci avrete mai! Non voglio che a qualche politico fanatico o a qualche rozzo cibernetico signore degli anelli venga in testa di brevettare l’immaginazione, con tanto di diritto di riproduzione e di marchio di fabbrica! Tanto, già so perché lo farebbero…»
«Per denaro, Vostro Onore?» Roger tentò l’inferenza senza realmente afferrarne la portata.
«Certo, per denaro, e potere!» rispose Wiz. «Perché l’immaginazione è l’ultimo ricetto di ogni libertà dell’uomo. Se io posso immaginare, anche nel carcere più buio posso immaginare di essere libero, e lì nella mia immaginazione nessuno può davvero imprigionarmi! Capisci ora che quello che i potenti userebbero “solo” per diventare ancora più potenti significherebbe la schiavitù di tutta l’umanità? Io non posso accettarlo».
«Ma signore», osservò il terminale, «noi macchine non siamo capaci di autentica immaginazione! Come potrebbero brevettare qualcosa che non esiste?»
«Oh, lo fanno sempre!» l’anziano scrollò le spalle. «Trovano un politico compiacente e gli fanno scrivere una legge. Lo fanno sempre! E una volta che la legge è scritta, voi macchine della Giustizia non potete non applicarla».
Il cursore restò a lampeggiare a lungo, molto a lungo.
Racconti alla Luce della Luna
