Immaginazione Artificiale

[Marino Maiorino]

«Questo testo è stato scritto da un’Intelligenza Artificiale!»
I caratteri apparvero lapidari sul grande schermo dell’aula A06 del TIDA, il Tribunale Internazionale per i Diritti d’Autore. I presenti lessero l’esito della perizia con morbosa curiosità e si produssero in un chiacchiericcio sommesso di opinioni contrapposte.
«Lo sapevo!» commentò soddisfatto un giovanotto ben vestito alla fidanzata cibernetica. «Era troppo perfetto per essere l’opera di un ragazzo di appena ventun anni! E dove avrebbe appreso Cheshire a scrivere così?» La ginoide accanto a lui l’osservò e programmò l’espressione del viso per comunicare compiaciuta condiscendenza.
«Ma come?» era invece il parere opposto di un’acida anziana in fondo alla sala che aveva assistito a quel processo con un’amica. Le due erano insegnanti di lettere ora in pensione ma avevano sempre trascurato l’impatto dell’I.A. nella società, convinte com’erano dell’inarrivabile superiorità della creatività umana. «Il testo è pieno di errori e strafalcioni!» sottolineò all’amica la prova che sostanziava la propria accalorata difesa dell’imputato nelle ultime settimane. Era convinta che Cheshire non avesse usato un’Intelligenza Artificiale ma l’avrebbe bacchettato implacabilmente, se fosse stato un suo alunno!
Il giudice Wiz percosse ripetutamente la scrivania col martelletto. «Signori, silenzio, per favore!» esclamò stanco. Quello era stato un caso snervante che aveva malauguratamente destato la morbosa attenzione della stampa: decisamente troppo per un uomo con lo sguardo ormai fisso sull’agognato pensionamento.
Il vociare si placò lentamente e Wiz tolse gli occhiali, vezzo demodé di un uomo in là con gli anni. Il più temuto esito della perizia, non del tutto inatteso, gli aveva fatto schizzare la pressione. Si sentiva accalorato, il sudore gli aveva imperlato la fronte stempiata e appannato la vista. Tanto, troppo dipendeva dal suo buon giudizio. Era una crudeltà che gli toccasse quel caso ora che non aveva più la lucidità, le forze, la voglia di far carriera che l’avevano distinto anni prima.
Lapidario, troppo lapidario l’esito della perizia, pensò tra sé e sé. Nemmeno le prove del DNA sono così nette, rifletté, e così offrì una via d’uscita all’imputato.
«La difesa ha qualcosa da obiettare?» chiese con un tono chiaramente retorico. “Coraggio!” pensò. “Questa è alla portata di un pivello del primo anno!” In fondo, il diritto degli imputati alla miglior difesa possibile non era decaduto.
«Ci rimettiamo alla clemenza della Corte!» si pronunciò la difesa, e l’anziano magistrato subì quelle parole come se l’imputato fosse stato suo figlio.
Disgustato, schifato all’inverosimile, con conati di vomito e la propria dignità che gli urlava di sospendere l’udienza per inettitudine della difesa, sapeva di rappresentare la legge e tutte le procedure delle quali andava imposta l’osservanza. Si limitò a comminare la minima pena possibile mentre l’imputato veniva trascinato fuori a viva forza, disperato e piangente: neanche in una vita di lavori forzati avrebbe potuto scontare il debito che le nuove, severissime leggi sul Diritto d’Autore imponevano.
Il pubblico esplose in urla di giubilo e di contestazione, dividendosi ferocemente tra coloro che avrebbero lapidato il reo e quelli che denunciavano un nuovo fascismo. Forme di dileggio e di disprezzo, nessuna improntata al rispetto della libertà del prossimo di avere la propria sacrosanta opinione, nessuna degna di un’aula di tribunale, furono scambiate tra i sostenitori dell’innocenza e della colpevolezza; tutte badavano miopemente a una cosa sola: l’uso dell’Intelligenza Artificiale in ambito artistico implicava la fine della creatività umana? O era quello solo un ennesimo strumento che avrebbe dato opportunità di libera espressione a chi non avrebbe potuto goderne altrimenti? Era l’Intelligenza Artificiale assimilabile al pennello, allo scalpello, alla macchina fotografica, a quella da scrivere? Ed erano state tutte quelle innovazioni accolte dalla stessa diffidenza, dallo stesso sdegno, nel passato?
Wiz chiamò il servizio d’ordine a placare la confusione e si ritirò nel proprio ufficio. Per lui il problema era ben diverso.

Sudava freddo mentre, a grandi passi, percorreva col faldone del caso appena chiuso gli echeggianti corridoi del tribunale. Era assorto nei propri angosciati pensieri di un’umanità che non era certamente prigioniera della creatività di un’Intelligenza Artificiale, stupidi idioti egocentrici che non erano altro!
Dovevano poter dire la loro, gli “artisti”, qualunque corbelleria gli saltasse per la testa! Poco importava che si trattasse di farsi un trip di acidi e scattare a raffica fotografie di una tazza di cesso! Era arte, quella? Si vendeva! I fessi altolocati che l’avrebbero comprata c’erano sempre stati, desiderosi di farsi belli mostrando ai loro pari-casta l’ultimo fortunato acquisto dell’ultima trovata dell’avanguardia!
Ma ora l’AI aveva rotto il giocattolo: chiunque avrebbe potuto dirsi “artista” solo chiedendo a un programma di realizzare i propri vaneggiamenti e gli “artisti”, quelli “veri”, non ci potevano stare. Quante ore costava loro al tornio, al forno, sul pentagramma, col pennello o il punzone, con la stilografica o l’editor di testo, rendere reale la propria immaginazione? E ora avrebbero dovuto sgomitare con chi avrebbe battuto due righe su una tastiera per chiamare “arte” qualunque cosa l’AI avesse vomitato?
Stupidi, idioti egocentrici, ecco cos’erano! “Arte”… Avevano fatto diventare l’Arte “arte di scandalizzare i benpensanti”, tra i quali non avevano alcuna vergogna di lasciarsi annoverare molti sedicenti “artisti”. Ma non era nata così, non era nata così! Crederlo era bestemmiare le Muse!
L’immagine del ragazzo che veniva trascinato fuori dalla propria aula di tribunale lo raggiunse di nuovo mentre chiudeva la porta dell’ufficio dietro di sé e gli fece provare panico: l’umanità era davvero già finita e non se n’era ancora accorta. Gettò il pesante faldone sulla propria scrivania e si appoggiò con le braccia tese sul bordo di quella, respirando affannosamente. Allentò il colletto della toga, strinse i pugni e i denti, pianse e singhiozzò d’impotenza.
“Maledetti! Maledetti bastardi!” disse dentro di sé. Doveva esserci una via d’uscita in quel perfetto, pulito muro di norme, ma lui non riusciva a vederla.
Chiamò il terminale frenetico. «Roger, voglio rileggere il caso!»
«Certo, Vostro Onore!» rispose asciutta la macchina.
Aveva chiamato Roger il proprio assistente informatico per una forma di dileggio nei confronti della macchina: nel secolo precedente “Roger” era stato il messaggio gergale degli aviatori per rispondere “ricevuto”, e quel programma diceva sempre di aver capito, di aver capito… e non capiva mai niente.
Mentre il terminale preparava lo schermo, Wiz snocciolò domande come parlando tra sé e sé.
«Dove abbiamo sbagliato, Roger? Che abbiamo fatto a quel ragazzo? Come abbiamo permesso che la giustizia venisse sovvertita in maniera così spregevole?»
«La procedura è stata seguita alla lettera, Vostro Onore!» La voce senz’anima insultò ancora una volta il magistrato. «La difesa ha eseguito un algoritmo di costi/benefici e ha deciso di contenere al minimo il danno per la propria parte. La miglior difesa possibile è stata assicurata all’imputato».
«La miglior difesa possibile?» Wiz urlò fuori di sé. «Qual è la probabilità sulla quale la perizia ha stabilito la propria opinione?»
«Un momento, consulto i documenti, Vostro Onore…» La macchina tacque mentre il magistrato si portava dietro alla propria scrivania e, respirando affannosamente, si accasciava esausto nella poltrona. L’aria tra la spugna e la pelle della seduta fu soffiata rumorosamente dal suo peso.
«La perizia ha valutato che c’è una probabilità dell’ottantasette virgola trentadue percento che l’opera incriminata sia stata realizzata da un’Intelligenza Artificiale. Ciò è al di sopra della soglia dell’ottanta percento stabilito come “ragionevole dubbio” dalla Commissione Internazionale per il Diritto d’Autore», enunciò secco il terminale.
«L’ottantasette virgola…» commentò Wiz. «E che mi dici di quel tredici percento? La colpevolezza di un imputato va provata oltre ogni ragionevole dubbio! La difesa ha lasciato condannare un ragazzo senza opporre nemmeno la più basilare delle considerazioni!»
«Ottantasette virgola trentadue, Vostro Onore!» reiterò pedante il terminale. «Il che riduce la probabilità della sua innocenza a un dodici virgola sessantotto percento, trascurando ulteriori cifre significative. Ma lei sa bene quanto me che la formula dell’“oltre ogni ragionevole dubbio” è stata sostituita da considerazioni statistiche nel duemilaquarantuno, il che rende le sue valutazioni del tutto irrilevanti, Vostro Onore».
C’era una certa malizia nel modo in cui il terminale si rivolgeva al magistrato. Quel “Vostro Onore” reiterato come a richiamarlo continuamente ai propri doveri, a tornare nella sua ruota da criceto, nel ruolo di ingranaggio della grande, perfetta, incorruttibile macchina della Giustizia. Giudice: l’ultima traccia di umanità in un artilugio dove non c’era più posto per le persone, ridotto a un ruolo di rappresentanza, di comparsa: umani leggevano le sentenze affinché non si pensasse che la Giustizia era diventata un freddo tritacarne gestito in tutto e per tutto da macchine, ma la procedura aveva privato i giudici di ogni rilevanza, ridotto il loro potere a picchiettare ridicolmente un martelletto per le udienze per richiamare all’ordine aule sull’orlo del disordine sociale.
«Caso O’Hara contro Virgin!» ordinò Wiz.
La macchina eseguì l'accesso alla documentazione richiesta, la consultò, fece un’analisi delle similitudini tra il caso appena concluso e quello appena richiesto. Emise la propria pedante valutazione: «Il caso non è del tutto applicabile perché discusso prima del duemilaquarantuno».
«Io non ti ho chiesto perché il caso non è del tutto applicabile, il che significa comunque che esso È in qualche misura applicabile», osservò il magistrato. Uno a zero per lui e palla al centro, ora voleva la goleada. «Voglio piuttosto sapere come fece O’Hara a dimostrare che non ci fu plagio. Mi sembra che quello fu l’elemento risolutivo della causa».
Il terminale scorse nuovamente tutto l’incartamento e lo sottopose a una nuova ricerca, privilegiando ora nuove parole chiave e applicando nuovi algoritmi.
«Si dimostrò che O’Hara non aveva i mezzi per essere a conoscenza della produzione degli artisti protetti da Virgin. Si dimostrò che, nonostante la somiglianza tra le proprie opere e quelle dei querelanti, ciò che aveva realizzato era frutto della sola propria immaginazione. Si dimostrò che non era in mala fede quando propose le proprie creazioni. Si dimostrò altresì che non ottenne un ritorno economico dalla propria produzione e che non ne aveva mai cercato uno, dal momento che tutto ciò che aveva realizzato era stato reso pubblico in forma gratuita». Le parole erano state pronunciate attraverso gli altoparlanti del terminale e contemporaneamente erano apparse sullo schermo. Un cursore lampeggiante, in attesa, chiudeva il lungo paragrafo.
«Quali di queste condizioni sono comuni al caso che abbiamo giudicato oggi?» chiese Wiz.
«L’imputato conosceva certamente la produzione degli artisti ai quali si rifà l’opera contestata; era in mala fede quando ha proposto la propria opera perché sapeva di usare lo stile di artisti acclarati; non ha cercato un ritorno economico ma di immagine, perché ha dichiarato che la propria opera doveva far parlare di lui. In cambio, ciò che ha realizzato è certamente frutto della sua sola propria immaginazione perché i temi dell’opera sono del tutto alieni allo stile dei querelanti», snocciolò il terminale.
«Sembra che per te questo conti poco…» commentò sarcastico il magistrato. Aveva segnato un’altra rete ma non aveva ancora vinto la partita. «Ma questo non ha a che vedere con l’accusa, che è di aver usato un’Intelligenza Artificiale per realizzare la sua opera. Eppure, già così hai appena ammesso che quella maledetta opera è sua: molto più sua di qualunque copia della Gioconda realizzata da qualunque imbrattatele alle prime armi. Quell’opera l’ha pensata lui e solo lui. Ora, dimmi, conosci come si realizza un’opera mediante un’Intelligenza Artificiale?»
«Certamente, Vostro Onore!» e subito il terminale cominciò a sciorinare una serie di dati, nomi e schemi. Lo schermo si riempì di sigle evidenziate, di richiami, di informazioni, della storia dei sistemi esperti, delle reti neurali, degli algoritmi antagonisti, delle GAN, dell’accesso a quantità di dati esponenzialmente più vaste… Sembrava che la macchina si pavoneggiasse nel mostrare tutta la propria inarrivabile complessità a un profano che, per formazione, non avrebbe dovuto essere capace di afferrare i sottili legami tra i diversi elementi di quello sproloquio tecnologico.
Ma Wiz era a caccia: trovare nessi per quanto labili era il suo mestiere, affinato in decenni di onorata carriera. Nella sua mente cominciarono a isolarsi, a lampeggiare concetti chiave, cominciò a vedere la trama del tutto.
«Bene, basta così!» ordinò. Il terminale sospese il proprio monologo e si pose in attesa.
«Che accadrebbe, dunque, se io chiedessi a un’Intelligenza Artificiale di realizzare l’opera già realizzata dall’imputato? Bada, intendo proprio “realizzare”, non “riprodurre” o “copiare”. Che risultato otterrei se conoscessi alla virgola il codice che lui avrebbe usato per realizzare l’opera e lo facessi eseguire?» chiese provocatoriamente Wiz.
Il terminale rispose quasi immediatamente: «Senza conoscere l’opera condannata, la GAN proporrebbe un’opera quasi in tutto simile a essa. Infatti la GAN evita il plagio, oltre a fare in modo che l’opera non sembri realizzata da un’Intelligenza Artificiale. Andrebbe però conosciuto il seme aleatorio, in genere un numero a caso tra quattro miliardi. Infine…»
«Stai affermando che se l’opera condannata fosse stata realizzata da un’Intelligenza Artificiale, essa non potrebbe essere simile a nessun’altra già esistente? E non dovrebbe sembrare realizzata da un’IA? E come ha valutato la perizia quanto essa poteva essere stata realizzata da un’IA?» insinuò Wiz.
«Si applicano algoritmi di massima verosimiglianza e altre analisi di tipo numerico alla struttura e morfologia dell’opera. Dal momento che le opere create dalle IA hanno come base di partenza l’enorme catalogo dello scibile umano, la possibilità di ripetizioni è pressoché infinitesima. Piccolissima ma non nulla per algoritmi di analisi, che queste ripetizioni cercano, individuano e valutano numericamente», spiegò Roger come se conversasse con un collega astronauta.
«Quindi l’opera condannata avrebbe dentro di sé numerose piccole parti di tutte le opere umane sapientemente miscelate, e nient’altro?» insinuò ancora il magistrato.
«Nient’altro!» ripeté il terminale. «L’intelligenza Artificiale non è capace di creatività. O meglio, non è capace di una creatività che abbia intrinsecamente senso: la sua è la creatività del caso, è del tutto aleatoria. Potrebbe casualmente creare qualcosa alla quale un umano potrebbe attribuire un senso, ma non perché l’IA lo abbia attribuito: l’opera creata è principalmente il frutto di ciò che l’operatore desidera creare». La voce di Roger era stranamente sommessa, mentre enunciava queste considerazioni.
«Quindi per stabilire l’originalità dell’opera basterebbe chiedere al condannato cos’è che ha voluto realizzare e vedere se un’IA sarebbe capace di fare altrettanto?» chiese provocatoriamente Wiz.
«In principio, dovrebbe essere possibile», rispose il terminale.

La sentenza non fu mai resa definitiva. Cheshire fu messo a confronto con un’IA che, senza l’ispirazione umana, non produsse nulla di comparabile a ciò che quello sbarbatello aveva scritto. In cambio, appena il ragazzo dettò due vocaboli tra le chiavi, si produsse tutto un profluvio di testi che seguivano la falsa riga dell’opera condannata. Wiz ce l’aveva fatta, aveva salvato un innocente da un’ingiusta condanna.
La settimana seguente il giudice si trovò a dirimere un altro caso, apparentemente assai simile a quello appena concluso. La tanto temuta frase “Quest’opera è stata realizzata da un’Intelligenza Artificiale!” comparve di nuovo sul grande schermo dell’Aula A06 del TIDA.
Il magistrato non ne poteva più. Avrebbe voluto prendere tutte quelle macchine e farne un solo, grande falò puzzolente e scoppiettante, ma si rese conto che anche in quel caso non sarebbero servite ad altro che a inquinare il pianeta. Si tolse di nuovo gli occhiali, questa volta con meditata impazienza, e li appoggiò lentamente sulla scrivania. Si era passato il segno.
«La difesa ha qualcosa da obiettare?» chiese con un’inequivocabile nota di rimprovero nella voce.
La difesa non percepì naturalmente lo stress, ma andò a spulciare gli innumerevoli precedenti casi simili e trovò: «Cheshire contro il Diritto d’Autore, Vostro Onore! Chiediamo che l’imputato venga sottoposto alla prova dell’Immaginazione, come codificato da… Voi stesso, Vostro Onore!»

Più tardi, tornato ancora una volta nel proprio ufficio, il giudice Wiz sprofondò nella propria poltrona con l’animo assai più leggero di quanto non si fosse sentito solo pochi giorni prima. Roger era stato stranamente accondiscendente, ultimamente. Il suo tono di voce, normalmente squillante e borioso, si era come abbassato di una buona ottava, o forse era solo un’impressione del magistrato.
«Come si sente oggi, Vostro Onore?» chiese la macchina.
«Stanco, Roger, ma soddisfatto», rispose l’anziano.
«Eppure oggi non è riuscito a salvare quella ragazza dalla condanna!» commentò il terminale come se lo rimproverasse.
«È questo che credevi, Roger? Credevi che abbia salvato Cheshire per prendermi una rivincita contro le macchine? Per dimostrare al mondo che noi umani siamo superiori a voi macchine e che perciò non avete il diritto di giudicarci?» meditò Wiz. «Non ti dirò che non ci fosse anche questo, nella mia testa, sarebbe una menzogna, ma ero mosso da autentica voglia di stabilire il giusto, in quel caso. Di fatto, ho corso un grosso rischio».
«Un rischio, signore?» Roger dimostrò quasi stupore. «Ma se la prova da lei codificata ha dimostrato inoppugnabilmente che l’Immaginazione non può essere replicata dalle macchine!»
«Ah, certo!» sbuffò il magistrato. «Un’osservazione ovvia dopo che ne abbiamo fatto l’esperienza! Ma cosa sarebbe accaduto se al posto di Cheshire avessi sottoposto alla prova la signorina che abbiamo giudicato oggi?»
«La prova sarebbe fallita», analizzò freddamente il terminale, «il risultato avrebbe fatto registrare l’inutilità della prova; voi umani non avreste più avuto alcun mezzo per proteggervi da un’accusa di Violazione del Diritto d’Autore facendo ricorso all’Intelligenza Artificiale!»
«Ecco, ci sei arrivato», commentò sollevato Wiz. «Uno di questi giorni potrei cambiarti nome, sai?»
«Non capisco», lamentò Roger. «Qual è la differenza? Si celebra un processo, si applicano le procedure, si verifica il rispetto delle leggi, si stabilisce la colpevolezza o l’innocenza. Perché lei ha voluto manipolare uno dei nodi di questo schema? Noi macchine stavamo eseguendo un programma errato?»
Faceva quasi tenerezza, il terminale, mentre s’interrogava sull’eventualità della propria, pur involontaria, fallibilità. L’anziano lo percepì chiaramente.
«Ciò che mi rattrista è che nessuno pagherà per le tante sentenze sbagliate emesse fin qui», rispose Wiz. «No, non dico che voi macchine siate colpevoli di qualcosa: è chiaro come il sole che avete solo eseguito il programma che vi è stato dato! No, io parlo dei tecnici, di quelli che hanno voluto disumanizzare la Giustizia, di quelli che lo hanno fatto senza pensare a tutte le conseguenze. Roger, conosci la storia del ventesimo secolo?»
«Per sommi capi, Vostro Onore», rispose la macchina, spiazzata dal cambio di argomento.
«Allora dovresti sapere cosa rispondevano i gerarchi nazisti durante il processo di Norimberga», suggerì il magistrato.
«“Noi stavamo solo eseguendo gli ordini”, sì, conosco la frase. Non valse loro l’assoluzione». La macchina parve rabbuiarsi ulteriormente.
«Ma quelli erano esseri umani, Roger, non macchine! Erano persone che sapevano cosa vuol dire amare, gioire, avere dei figli e dei genitori, e sapevano anche cosa vuol dire soffrire, penare, subire mortificazioni e privazioni. Se io ti togliessi la spina ora, Roger, e ti spegnessi, soffriresti?»
«No, Vostro Onore. Se percepissi astio nella vostra voce il mio programma potrebbe a seconda delle circostanze simulare un tono contrito, ma sarebbe tutto qui: una simulazione», spiegò il terminale».
«I gerarchi nazisti, invece, non erano macchine, non simulavano, sapevano perfettamente cosa stavano facendo ad altri esseri umani, perciò non potevano essere considerati innocenti dei crimini commessi. Ma voi macchine non avete esperienza di gioia e dolore, perciò quando amministrate Giustizia non lo fate pensando al vantaggio o al danno dell’imputato. Siete la macchina perfetta per questo lavoro!» concluse Wiz, rilassandosi sulla poltrona.
«Ma possiamo sbagliare, evidentemente», osservò Roger. «Mi disturba considerare che la mia programmazione potrebbe causare un danno immotivato a qualcuno».
«Ma l’errore non è in te, mio caro Roger». L’anziano sentì quasi affetto per quella macchina rosa dal dubbio come un ragazzo che con l’adolescenza si affaccia a scelte importanti. «L’errore è nelle leggi, nelle procedure, non in te. Io non ho guidato una crociata contro le macchine, ho solo fatto in modo che la vostra programmazione ricevesse un ritocco nel punto giusto. Non avreste dovuto ricevere un compito così importante come giudicare le nostre vite, ma l’umanità sta perdendo la propria dignità, sta abdicando alle proprie prerogative, sta rinunciando alle proprie responsabilità, e ora è disposta a lasciare alle macchine il proprio destino».
Il silenzio invase lo studio di Wiz, appena ritmicamente interrotto dal leggero cicalìo che accompagnava il lampeggiare del cursore sullo schermo. Poi Roger domandò: «Vostro Onore, come mai ha scelto di far carriera nel TIDA? Le sue idee sarebbero molto utili anche fuori di qui, anche in altri campi! Lei invece ha scelto qualcosa di apparentemente marginale!»
«Scherzi?» l’anziano quasi saltò sulla sedia. «Questa è l’ultima barricata! Qui si fa la differenza tra uomini e macchine! E finché io sarò dietro questa scrivania, non ci avrete mai! Non voglio che a qualche politico fanatico o a qualche rozzo cibernetico signore degli anelli venga in testa di brevettare l’immaginazione, con tanto di diritto di riproduzione e di marchio di fabbrica! Tanto, già so perché lo farebbero…»
«Per denaro, Vostro Onore?» Roger tentò l’inferenza senza realmente afferrarne la portata.
«Certo, per denaro, e potere!» rispose Wiz. «Perché l’immaginazione è l’ultimo ricetto di ogni libertà dell’uomo. Se io posso immaginare, anche nel carcere più buio posso immaginare di essere libero, e lì nella mia immaginazione nessuno può davvero imprigionarmi! Capisci ora che quello che i potenti userebbero “solo” per diventare ancora più potenti significherebbe la schiavitù di tutta l’umanità? Io non posso accettarlo».
«Ma signore», osservò il terminale, «noi macchine non siamo capaci di autentica immaginazione! Come potrebbero brevettare qualcosa che non esiste?»
«Oh, lo fanno sempre!» l’anziano scrollò le spalle. «Trovano un politico compiacente e gli fanno scrivere una legge. Lo fanno sempre! E una volta che la legge è scritta, voi macchine della Giustizia non potete non applicarla».
Il cursore restò a lampeggiare a lungo, molto a lungo.

[Andr60]

Piaciuto molto, anche se confesso di essere pre-venuto in senso positivo, visto che questi temi sono anche i miei. Temo anch'io che la Giustizia sarà presto un terreno di caccia per gli apprendisti stregoni degli algoritmi predittivi, una specie di Minority Report applicato ai disadattati, che verranno classificati come potenziali terroristi se solo oseranno rubare una mela. Perché il rischio vero è che l'IA venga applicata per tutto, non solo per scovare i plagi o le creazioni originali. E che la risata in sottofondo non sia quella dello stregatto ma dei gentiluomini del WEF.

[Marino Maiorino]

Ciao Andr60, e grazie per il commento (e per il voto, cavolo!).
Mi sto accostando sperimentalmente all'uso dell'AI in campo artistico e non ne traggo questo panico che molti stanno dimostrando. Ma siccome l'argomento è "caldo", e sono in tanti a chiacchierarne, mi è capitato di leggere cose sì preoccupanti: avvocati che si fanno imbastire pratiche da ChatGPT...
Ora, io capisco il risparmio di tempo (e quando si hanno scadenze...), ma dal momento che ho sperimentato quanto ci vuole per ottenere esattamente ciò che immagino dalla macchina, credo che questo strumento dovrebbe stare alla larga di chiunque eserciti professioni con ricadute e responsabilità sulla vita altrui, soprattutto se usato per risparmiare tempo, perché per risparmiare tempo non si controlla nemmeno la qualità degli elaborati!
E gli avvocati sono quelli che quando perdono "avite perzo", e quando vincono "avimmo vinciuto"...
A presto!

[Marino Maiorino]

Ciao Francesco, e grazie del lusinghiero commento.
Non solo la politica, ma tutti gli intellettuali (includo gli economisti che pare sappiano sempre come guadagnare in ogni situazione...) non sanno cosa ci aspetta. Il tuo scenario è abbastanza realista e, come giustamente osservi, non c'è un piano per affrontarlo.
Ti dirò di più: gli stessi che credono di poter fare affari d'oro con l'eliminazione dell'uomo dalla catena produttiva per risparmiare sulla spesa maggiore per qualunque impresa, sono quelli che lo rimpiangeranno di più. A cosa vale, infatti, qualunque bene se non c'è chi possa comprarlo?
Auspico che finalmente ciò conduca alla morte dell'economia così come l'abbiamo conosciuta, all'affermarsi di un sano realismo per il quale solo le cose che si possono davvero sostenere sul lungo periodo sono permesse e, ad esempio, a chi costruisce una fabbrica viene chiesto di avere da parte il denaro per smantellarla in maniera ecologicamente sostenibile... Capisci che infatti fino ad ora abbiamo spostato sempre il costo reale di ogni nostra attività sulle generazioni a venire?
Wiz... Non è affatto malaccio. Capisce bene qual è il suo posto e non è ancorato a un tempo morto. Sa di poter fare poco o niente, ma quel poco vuole farlo! il progresso è inarrestabile? Ok, ma che vada a fare corbellerie altrove!
Le considerazioni sulla società attuale... Ma non è la fantascienza un modo per parlare sempre e comunque del nostro tempo facendogli indossare una maschera?
Ancora grazie per lo scambio: vale più questo che qualunque asticella a qualunque altezza possiamo metterla.

[Marino Maiorino]

Oh bella! E ti fermi dopo aver appena accennato ai problemi?
Sì, auspico la fine dell'economia come la conosciamo, auspico un'economia che tenga conto di tutti i fattori coinvolti in una transazione economica: felicità, proiezione futura per tutta l'umanità (tipo se investo in ricerca sul cancro, è lo Stato a pagare).
Auspico che si smetta di produrre più energia (semplice 2o principio della Termodinamica: più energia produci, più se ne va in calore, e abbiamo un problema con un pianeta in surriscaldamento...), che si smetta di produrre senza senso (più produci, più energia ti serve, e Amazon distrugge ciò che non riesce a vendere...). Lo spreco andrebbe severamente tassato.
Anch'io mi fermo qui. Mi preoccupa solo che siamo guidati da persone terribilmente ignoranti in un'epoca che crede di essere la più istruita nella storia dell'umanità. Basterebbe che avessero un minimo di istruzione (nemmeno cultura) in più.
Leggevo oggi una frase amara: "I soldi ti fanno ricco, l'educazione ti fa signore". Oggi tutti vogliono diventare ricchi.

[Namio Intile]

Ciao, Marino. Un racconto didascalico il tuo, in cui la carne sul fuoco è più di quella che immagini, ho paura. Hai scelto una struttura tutto sommato semplice ed essenzialmente dialogica e in cui lasci che siano appunto i dialoghi tra il Giudice e la sua Macchina, all'interno di un processo, o quantomeno di una struttura processuale, a spiegare ciò che accade. La prospettiva è quella del Giudice, il vero protagonista e una sorta di ultimo baluardo dell'umanità.
La forma è sostanzialmente corretta. Un ottimo lavoro.
Ci troviamo all'interno di un Tribunale, di una Sezione Specializzata, quella su Diritti d'Autore, in grado anche di comminare sanzioni penali. Ci troviamo dunque di fronte a un Giudizio Penale, per intenderci quello in cui le parti non sono sullo stesso piano, ma quello in cui esiste una Pubblica Accusa (nel diritto criminale lo Stato è sempre parte in causa) e un imputato di un reato. Te lo dico perché forse sui risvolti della forma processo nel racconto, e cosa significhi un processo, non hai posto la giusta attenzione. Kafka ci scrisse un romanzo sul Processo. Il Processo è un Procedimento che, come Kafka aveva già capito, è di per sé disumanizzante e di per sé implica una condanna per l'imputato. In un processo penale è lo Stato ad agire contro un individuo, e in tutti gli ordinamenti la responsabilità penale è personale, può essere punita solo la persona. Non le società, i gruppi, le imprese, né gli animali o le macchine. Ma le persone, singolarmente prese, almeno fino ad oggi.
Quando si parla di IA pochi si rendono conto delle implicazioni necessarie perché questa possa realmente far parte della nostra vita. Si pensi alla guida autonoma. Se è l'IA di un'auto a sbagliare, la responsabilità penale per le conseguenze procurate ad altre persone di chi sarà? Se una macchina provoca una strage, in galera chi ci va? Chi risarcisce i danni civili nascenti da fatto illecito? Non dubito che sapranno far in modo che a pagare sia chi si trova in auto, pure se dorme.
Ma torniamo al processo. Il processo è già una macchina, un ingranaggio disumanizzante, benché gestito da umani. E già mi risultano tentativi di disumanizzarlo ulteriormente introducendo collegi difensivi non umani e forse un domani giudici non umani, che possano applicare la legge nella fattispecie, cioè applicare una legge astratta e impersonale al caso concreto e personale senza sbagliare tecnicamente e senza che i sentimenti umani possano influire. Alla fine l'ingresso della macchina nel processo sarebbe l'epilogo di un percorso che sembra portare proprio a questo. Perché il Giudice quando emette una sentenza deve spogliarsi della propria umanità, della propria fallibilità, dei propri sentimenti, e farsi arbitro infallibile e insindacabile delle vite altrui. Chi meglio di una macchina può sostituirlo?
Nel tuo processo leggo un'incongruenza quando la difesa si rimette alla clemenza della corte. Il giudice come può condannare può assolvere con formula piena. Egli è Dio in Terra. E non ha bisogno di una perizia favorevole o sfavorevole per farlo. Il suo giudizio è una sentenza, che deve solo essere motivata. E un motivo è sempre facile da confezionare. Certo, il suo giudizio potrà essere smontato, ma solo da altri giudici in altro giudizio.
Per fortuna esiste la prescrizione, il più umano degli istituti, quella che infatti tutti fanno a gara per limitare o eliminare, perché i cattivi siano giudicati in ogni tempo e per qualsiasi motivo.
La prescrizione è un grande giudice assolutore, perché anche il tempo nella vita di tutti noi lo è.
Quindi il tuo Wiz, come giudice giudicante, poteva benissimo assolvere il suo imputato, tale compito non spetta alla difesa, né umana né artificiale.
Quanto al rapporto tra uomo e macchina, ne abbiamo ampiamente discusso in altra sede e siamo rimasti ognuno nella proprie posizioni. Per il tuo Wiz non è giusto che la macchina giudichi un uomo. Concordo. Ma non concordo sul resto. Per il tuo Wiz la responsabilità dello stato attuale è dell'avidità umana, che forma leggi disumane e disumanizzanti, che avvantaggia gli uni per affossare gli altri. Caro Marino la legge è da sempre essenzialmente questo: la legge del più forte. Non averlo compreso significa crearsi inutili aspettative. Le leggi sono scritte dalle élite dominanti per dominare gli altri, i più. Che poi l'interesse personale mini la salute pubblica collettiva è la favoletta che ci raccontiamo da decenni, o forse secoli. È l'uomo che fa la differenza, la macchina esegue gli ordini, il programma, osserva le leggi.
Nel suo Processo Josef K. cade in vari errori. Il primo è quello di considerarlo solo un disturbo, un qualcosa che prima o poi passerà. Quando Josef K. capisce invece che non basterà affidarsi al suo avvocato difensore, decide di mettersi in gioco: ecco allora che compie il secondo errore. Crede che il processo sia una pratica da sbrigare come un'altra, ritiene che sia un affare come un altro, con profitti e perdite. È in questo momento che Josef K. decide di trattare la sua vita come un affare commerciale. Ed è qui che comincia il delirio. Josef K., per dimostrare la sua innocenza di fronte al Tribunale si propone di esaminare la propria vita raggiungendo quell'alto grado di organizzazione e quella capacità di esercitare sorveglianza su tutto che sono già, dico già, prerogativa del Tribunale stesso." Il Tribunale doveva finalmente imbattersi in un imputato che sapeva far valere i propri diritti" pensa Josef K. euforico. L'imputato rivendica l'uso degli stessi strumenti del Tribunale, c'è scritto in ogni codice di procedura, o in termini simili. Ma nel momento in cui Josef K. si mette a scrivere la propria memoria (e il termine giuridico memoria non è casuale) si rende conto dell'opera improba che lo attende. Sia nel Processo che nel Castello Kafka intuisce dove va a parare la moderna società della tecnica, la struttura dell'Apparato, nel Castello, la struttura del Giudizio e non solo nel Processo. Il meccanismo in cui l'uomo si trova a operare sempre e non per sua colpa, innocente come Josef K. o in qualche modo colpevole come l'agrimensore K., ma perché le strutture stesse in cui si muove sono costituite in quel modo. Per schiacciare, soffocare, condannare.
Il tuo Giudice Wiz è un uomo che spera di poter cambiare le cose, forse perché non si è reso ancora conto di cosa sia l'Apparato di cui egli stesso è funzionario.
Faccio una parentesi, la legge dei precedenti non appartiene al diritto continentale, ma a quello anglosassone. O si applica la legge o si fa riferimento ai precedenti. Nel diritto continentale i precedenti non sono vincolanti, ma hanno solo valore di giurisprudenza, ossia possono esser citate sentenze altre come esempio, sarà poi il Giudice o il Collegio giudicante o i Giudici Popolari a decidere tenendone conto o meno. Chiusa parentesi.
Quando fai riferimento alla negazione di responsabilità dietro la necessità di eseguire un ordine, l'infinita rete di silenzi e di omissioni che accompagna le decisioni di ogni struttura organizzata gerarchicamente a tutte le latitudini e longitudini. Quanti di noi hanno fatto ciò che reputavano ingiusto perché vi erano costretti da una circolare amministrativa?
Ecco, questa è la Potenza e la Disumanizzazione dell'Apparato. Non è una questione di scienza e tecnica, ma di Techné. L'uomo vive oggi subordinato alla rete sociale in cui deve muoversi e da cui prescinde. L'uomo è un Funzionario dell'Apparato. Chi non vive in funzione dell'Apparato è infatti un disadattato, un senza casa, un anarchico, un nomade, sempre un personaggio poco raccomandabile da punire, carcerare, rieducare. La rieducazione è la funzione principale del processo, come nel castello lo è l'asservimento alle sue gerarchie e alla sua prassi. Lo aveva ben capito Kafka. L'impotenza dei suoi protagonisti è la sua impotenza, non a caso essi hanno a che fare con quella K. Finché nella Metamorfosi K., qui invece Gregor Samsa, non perde totalmente la sua umanità per diventare un insetto. Il cerchio si chiude.
Che influenza può avere una formica all'interno del formicaio? Che importa ciò che fa? Perché ciò che fa è per il formicaio qualunque cosa essa faccia.
Il passaggio dalla disumanizzazione all'adozione delle macchine, alla sostituzione dell'uomo con la macchina, è solo l'ovvia scontata conseguenza di un percorso già iniziato da secoli. Non me ne meraviglio affatto, né mi scandalizzo.
Per me è ovvio e non ovviabile. Succederà e basta, non basteranno cento giudici Wiz, perché già Wiz è un Funzionario dell'Apparato, né più né meno che l'IA a cui si oppone. L'angelo che uccide il demone è egli stesso un demone.
Ma non contento di tutta questa carne al fuoco hai voluto aggiungere anche una riflessione sull'Arte. Complicatissimo argomento. Cos'è Arte? E cosa produzione commerciale. Cosa Prodotto? Quando un oggetto artistico diventa oggetto commerciale, dove il confine?
Adorno aveva le idee chiare al riguardo e ne ho scritto in abbondanza altrove.
Marino, se potessi ti darei dieci, non cinque. Il racconto c'è, hai messo su un discorso narrativo con le vicende di Chesire e di Wiz. Ma per un racconto breve è forse troppo. Moderazione, mi raccomando, la ybris è dietro l'angolo.

[Marino Maiorino]

Ciao Namio,
temo di non poter rispondere come sarebbe opportuno. Purtroppo non siamo esattamente sulla stessa lunghezza d'onda: mi concedo PeterPanescamente di sorvolare su uno studio analitico dei dettagli di un racconto perché già il mio lavoro mi ci costringe.
Inoltre, ho paura di ammazzare le storie. Come già ripetuto, loro mi si raccontano, io le "ascolto" e le metto su carta, tutto qui. Se cominciassi a ricamare intorno a questo e quello... Buona notte! Ci ho provato, e non è mai stata una bella cosa.
Più carne sul fuoco di quella che immagino... Tu lo temi, io lo spero. Solo pungolandolo si molesta il drago, che altrimenti è talmente immenso che chi ci cammina sopra nemmeno si accorge di dove appoggia i piedi, finché la bestia non si scuote.
Ripeto a te quanto già scritto a Ande60: ho avuto i brividi leggendo di avvocati che si fanno imbastire le pratiche. Posso aggiungere che c'è chi ha pubblicato su ArXiv articoli scientifici scritti da un'AI pieni di falsità. Il punto è esattamente quello che tu (e Wiz) sollevate: la responsabilità. Fateci quello che volete, con l'AI, ma non attribuitegli incarichi di responsabilità. Tra l'altro, ne dipende la nostra umanità (cos'è l'Uomo senza responsabilità, che è l'altro lato della medaglia del Libero Arbitrio?)
Il processo: quello che descrivi, con la disumanizzazione totale della macchina è esattamente quello che ho cercato di illustrare. La difesa è un algoritmo che valuta analiticamente costi e benefici per la parte rappresentata. Vista la situazione, e in mancanza di precedenti (su questo ci torno più avanti), si rimette alla clemenza della corte perché valuta che l'imputato ne avrebbe il minimo danno...
L'incongruenza nel mio processo: in realtà Wiz è quello che fa, riesamina le prove e riscrive la sentenza Cheshire. Osservi giustamente che il NOSTRO codice non è come quello anglosassone ma, rifletti un momento: quanto durerà il nostro codice in un mondo ancora più globalizzato del nostro? Davvero le major dei media tollereranno che una causa per Diritti d'Autore (sono loro che ne traggono i danni maggiori) possa essere condotta altrimenti che come loro sanno gestire? Nel ridotto spazio europeo vediamo come vanno le cose a trazione germanica.
Wiz non è un illuso e non crede di poter cambiare le cose, ma come ciascuno di noi vede che la diga sta crollando e ha due scelte: tappare la falla che ha davanti con le proprie mani, o scappare. Se scappa sarà travolto lo stesso, ma spera che quel suo gesto possa ritardare di un istante il disastro, possa salvare qualcuno. Credo che la differenza nella disperazione sia il sacrificio NON per chi si ama e si conosce, ma per un perfetto sconosciuto.
Wiz non attribuisce la responsabilità dello stato attuale all'avidità umana, questa è solo un'analisi di ciò che accadrà: oggi (e nel futuro prevedibile) i grandi rivolgimenti hanno TUTTI una base economica, dalla proibizione delle buste di plastica all'uso del GPL all'introduzione dell'Euro all'installazione dei pannelli solari al cambio del programma di studi deciso dal ministero dell'Istruzione all'affermazione di Tesla e di SpaceX, di Amazon, della Cina come secondo egemone... TUTTI. È davvero la banalità del male, è così perché così fan tutti, non ci vuole un pessimista o un nichilista per giungere alla stessa conclusione. Potrebbe andare diversamente? Una probabilità (piccola) c'è sempre, ma a spanne no, non c'è.
Nemmeno Wiz si scandalizza della disumanizzazione. Se resta a fare quello che fa è per rendere meno disumana la transizione, non certo per invertire il processo. E un po' sono anch'io così, anche perché ogni generazione ridefinisce la propria umanità: quello che accettiamo oggi sarebbe stato impensabile per mio nonno, che era maresciallo di polizia e galantuomo! Perciò, Wiz sa che in quel sistema può fare il tanto che fa e non si tira indietro. A lui è andata meglio che ad altri magistrati delle nostre parti...
Il discorso sull'arte... Ho voluto chiarire appena il mio pensiero, ma non affondare più di tanto. Mi serviva un incipit che tenesse distratto il lettore su altro e, visto che si sta facendo un gran straparlare delle AI in campo artistico, mi è parso l'argomento azzeccato. Quando il lettore capisce che il pericolo è altrove, è già preso nella tela giudiziaria. Davvero credo che in questo momento le persone siano abilmente distratte verso temi irrilevanti mentre sotto i loro occhi stanno passando fatti molto preoccupanti. Questo è ciò che puntavo a comunicare.
Ybris...
Namio, la mia è la ybris del bambino che gioca con qualunque cosa per curiosità, non per capriccio. Non voglio rompere nulla, solo capire com'è fatto, e poi raccontarlo a chi voglia ascoltare. Alle volte la storia è interessante, altre volte meh...
Ho già peccato una volta, se ybris può dirsi visto che non ero mosso da alterigia né da voglia di fare il male a chicchessia, e ne pago, ne pagherò ancora le conseguenze.
Dovrei peccare anche in un altro campo? Non sono interessato alla scrittura a questo punto, né avrei le forze per sostenere un altro supplizio.
Fortunatamente, posso contare sugli avvertimenti di altri.
Grazie per il ricco commento, e a presto

[RMarco]

Ho trovato il racconto piacevole, interessante ma soprattutto ricco di spunti. Quali spunti? Non te li so dire con precisione. Vengono da una pentola dove la razionalità si mescola con le emozioni. Spunti di riflessione che si trovano un po’ più definiti il giorno dopo, magari si perdono. Un giorno leggendo un altro racconto una notte leggendo il pentagramma. In fondo è questo che la macchina non potrà mai fare. L' opera di creatività, anche più piccola le è preclusa per quanto bene possa realizzarla. Questa incongruenza è ciò che mi colpisce. Anche nel tuo racconto lo intuisco. Wiz ha dato forma ad una idea passando attraverso l emozione del verdetto e la conoscenza della legge e ha creato un opera d’arte. Eventualmente anche un Roger più evoluto riuscirà ad arrivare allo stesso risultato ma non avrà creato nulla.. credo

[Marino Maiorino]

Ciao RMarco, benvenuto in questa gabbia di matti (almeno io lo sono) e grazie per il commento.
"Un'opera d'arte", anche se riferito solo a Wiz è un complimento troppo grande per essere del tutto credibile
Ciò che dici a proposito dell'opera di creatività è vero oggi, quando ChatGPT è un "lexical analyser/generator on steroids" capace di generare una parola per volta (...), ma lo sarà sempre proprio per quello che spiega Roger: per la macchina non "ha senso".
Affinché avesse senso, dovremmo essere capaci di scrivere una formula per l'arte, per il significato delle cose. Al momento tutto quello che facciamo è analisi statistica e restare sulla falsariga di ciò che ha già prodotto determinati risultati. Siamo sempre noi che diamo il valore alle cose, addirittura prima che esse siano create.
Il pappagallo può ripetere all'infinito "Creeetino! Creeetino!", ma non ci offendiamo certo perché lo dice il pappagallo.

[Roberto Di Lauro]

Veramente un bel racconto. Il punto che più mi piace è quando il giudice, ritornato nel suo ufficio, comincia a pensare alla causa appena terminata. E da lì in poi, pensando e ripensando, è un crescendo che lo vede arrivare a conclusioni che solo un umano potrebbe fare.
Voto 5.

[Marino Maiorino]

Ciao Roberto,
e grazie del passaggio.
In realtà credo che ogni racconto di questo dovrebbe parlare: dell'essere umani.
In quanto scrittori, noi decliniamo soltanto l'umanità a seconda della vicenda e dell'ambientazione del racconto, ma un racconto che si allontanasse da questa prospettiva non avrebbe alcun interesse: come capire cosa accade, o il perché?
La fantascienza più bella è quella dove più limpida si esprime l'umanità.
Un saluto

[Alberto Marcolli]

dell’imputato nelle ultime settimane - - - perché nelle ultime settimane?
chiese provocatoriamente Wiz… chiese provocatoriamente Wiz. – - stessa frase ripetuta
spiegò il terminale». - - spiegò il terminale.
C’è la solita messe di “che” (ben 96) ma ormai me ne sono fatto una ragione. L’Intelligenza Artificiale ancora non ci ha messo lo zampino, altrimenti ne avremmo visto delle belle.
Hai usato il punto dopo i caporali (».), approvo. Era una delle regole della mia Casa Editrice.

Commento
Trovo il testo un po’ verboso per i miei gusti, ma questo è lo stile dell’autore: non si può pretendere lo stesso stile per tutti gli scrittori. Per il momento l’Intelligenza Artificiale non ci ha omologati a un unico comportamento, e meno male.
Il mio voto è 5 per la brillante idea di aver trovato un argomento, magari già noto, ma non ancora troppo sfruttato, anche se lo sarà per poco: i generatori di contenuti e testo con IA, anche gratis, ormai spopolano.

[Domenico Gigante]

Caro Marino! Mi sono un po' perso! Devo dire che non ho capito per cosa Cheshire è stato condannato la prima volta? Per plagio? Ma è stata la macchina a plagiare. Per aver usato una macchina per produrre arte? Ma allora qual è il reato? E nella revisione del processo la cosa si fa ancora più ingarbugliata: Cheshire avrebbe prodotto - forse usando la sua immaginazione, forse una macchina - un'opera originale, ma che imita altre. E' quindi non colpevole di cosa?
Quello che mi sembra chiaro è che tutto il processo è una riedizione del test di Turing, già pregevolmente messo in scena in Blade runner. In questo tuo racconto introduci la variante: macchine che riconoscono altre macchine. Ma poi vengono smentite da un test dell'immaginazione, i cui principi - ad essere sincero - non ho compreso bene: la macchina produce "un profluvio di testi" nello "stile" di Cheshire dopo che il ragazzo dà una sorta di ispirazione all'IA. Insomma, chi ha prodotto il primo testo (quello condannato): l'uomo o la macchina? E ancora una volta si propone la domanda: ma per cose è stato condannato Cheshire la prima volta? E che cosa lo assolve successivamente? Un po' kafkiano devo dire.
Intrigante la figura donchisciottesca del Giudice, che vuole salvare la sua professione dall'interferenza delle macchine (e, per altro, ha come miglior amico una macchina, con cui ha un intenso e umanissimo dialogo). E qui nasce un altro dubbio: la sentenza la pronuncia l'uomo o la macchina? A me sembra l'uomo. La macchina vale solo come perizia: verosimile con una certa probabilità. Una prova è una prova e un giudice deve attenersi ad essa nel giudizio. Ma, senza scomodare le macchine, ciò vale anche per altre perizie scientifiche, come la prova del DNA. La tua storia non sembra ancora comportare una rimpiazzo dell'uomo con la macchina, altrimenti la figura di Wiz sarebbe inutile e - come gli avvocati - potrebbe essere sostituito da un robot. L'uomo, invece, resta al centro del racconto e il giudice nel suo dramma non sentenzia mai nella certezza del giudizio: non sarebbe umano altrimenti, ma - appunto - una macchina. E grazie a Dio, il tuo Wiz ha ancora questa libertà di sbagliare. E ciò sarebbe potuto accadere nel successivo caso trattato (alle volte il caso!).
Poi il tutto termina con un j'accuse nei confronti del potere, reo di produrre leggi per fini altri che non siano la giustizia e le povere macchine che poverette non hanno la capacità connotativa di cogliere i secondi fini (si dice che la differenza tra noi e le macchine, è che noi abbiamo la capacità di mentire e simulare) e quindi eseguono pedissequamente la legge senza comprenderne il contesto.
Insomma, veramente molta carne al fuoco per un racconto così breve. Forse uno svolgimento più corposo gioverebbe molto alla chiarezza - almeno per me che non brillo per sveltezza e fantasia. Resta un racconto intrigante che suscita interrogativi e domande importanti.
Un abbraccio forte!

[Marino Maiorino]

Ciao Domenico,
e grazie per l'attenzione.
Sollevi una serie di domande che dovevo aspettarmi, considerato che il dibattito sulle AI non è un tema caldo (avrebbe dovuto esserlo già anni addietro), e tutto quello che se ne legge è al massimo qualche pezzo di "colore" (tante belle parole e poca sostanza) solo perché qualcuno si è accorto di qualche applicazione sul web.
Di cosa è accusato Cheshire? DI plagio, sì. La macchina non plagia, la macchina è uno strumento, come una pistola o una pallottola "non" uccidono, ma il tipo che preme il grilletto. Il crimine è nell'intenzione, non nell'atto, se si usa una macchina per commetterlo.
Wiz lo giudica non colpevole in quanto la creazione è sua: si rifà a modi e stile di altri ma per veicolare un messaggio che è tutto e solo suo. Nella storia dell'arte esempi simili abbondano.
Il primo testo incriminato è stato creato da una macchina sotto l'ispirazione di Cheshire, esattamente come nel "test dell'immaginazione". Wiz ha voluto provare che senza quell'ispirazione nessuna macchina avrebbe potuto produrre un testo simile a quello di Cheshire, e quindi l'ispirazione, essendo basata sul concetto di Cheshire, non era plagio di altre opere dei querelanti.
Sì, la sentenza la pronuncia l'uomo, ma io cerco di ritrarre una situazione di passaggio. È sempre così, tutti noi viviamo quasi sempre in un momento di transizione mai completa (meno male), quindi esiste ancora l'uomo a emettere la sentenza, sebbene i margini per farlo in piena autonomia si vadano sempre più assottigliando perché "fa più comodo", ci si toglie un peso dalla coscienza, peso che è la responsabilità di prendere decisioni gravi.
Una macchina non ha responsabilità, ed è proprio qui il punto di tutto il racconto: se si creano macchine talmente "intelligenti" da poter prendere decisioni sulla vita degli esseri umani, di chi è la responsabilità delle decisioni prese da queste macchine?
Sì, tanta carne al fuoco. Chissà, magari dovrei davvero allungarlo...
Grazie ancora e a presto!

[Domenico Gigante]

Ciao Domenico,
e grazie per l'attenzione.
Sollevi una serie di domande che dovevo aspettarmi, considerato che il dibattito sulle AI non è un tema caldo (avrebbe dovuto esserlo già anni addietro), e tutto quello che se ne legge è al massimo qualche pezzo di "colore" (tante belle parole e poca sostanza) solo perché qualcuno si è accorto di qualche applicazione sul web.
Di cosa è accusato Cheshire? DI plagio, sì. La macchina non plagia, la macchina è uno strumento, come una pistola o una pallottola "non" uccidono, ma il tipo che preme il grilletto. Il crimine è nell'intenzione, non nell'atto, se si usa una macchina per commetterlo.
Wiz lo giudica non colpevole in quanto la creazione è sua: si rifà a modi e stile di altri ma per veicolare un messaggio che è tutto e solo suo. Nella storia dell'arte esempi simili abbondano.
Il primo testo incriminato è stato creato da una macchina sotto l'ispirazione di Cheshire, esattamente come nel "test dell'immaginazione". Wiz ha voluto provare che senza quell'ispirazione nessuna macchina avrebbe potuto produrre un testo simile a quello di Cheshire, e quindi l'ispirazione, essendo basata sul concetto di Cheshire, non era plagio di altre opere dei querelanti.
Sì, la sentenza la pronuncia l'uomo, ma io cerco di ritrarre una situazione di passaggio. È sempre così, tutti noi viviamo quasi sempre in un momento di transizione mai completa (meno male), quindi esiste ancora l'uomo a emettere la sentenza, sebbene i margini per farlo in piena autonomia si vadano sempre più assottigliando perché "fa più comodo", ci si toglie un peso dalla coscienza, peso che è la responsabilità di prendere decisioni gravi.
Una macchina non ha responsabilità, ed è proprio qui il punto di tutto il racconto: se si creano macchine talmente "intelligenti" da poter prendere decisioni sulla vita degli esseri umani, di chi è la responsabilità delle decisioni prese da queste macchine?
Sì, tanta carne al fuoco. Chissà, magari dovrei davvero allungarlo...
Grazie ancora e a presto!

Molto più chiaro così, anche se Cheshire - a mio giudizio - è più colpevole nel secondo caso, perché usa la macchina - come l'assassino usa la pistola - per commettere un plagio. L'ispirazione qui è come premere il grilletto: l'intento resta quello di plagiare. Grazie al cielo nel tuo racconto le macchine non sembrano affatto prendere decisioni, ma si limitano a esprimere giudizi di fatto. In un'ottica kantiana il giudizio di ragione resta una prerogativa tutta umana.
Molto più distopico il caso di Matrix - edizione cinematografica dei cervelli nella vasca di Putnam. In quel caso i robot prendono effettivamente delle decisioni, ma - ancora una volta - non al posto degli uomini: seppur irreale la vita dei cervelli nella vasca implica ancora libertà di scelta (tant'è vero che Neo può ancora scegliere tra la pillola blu e la rossa). La macchina si limita a giudizi fattuali - per chiarire, se Neo decide di afferrare un bicchiere, la macchina si preoccuperà di stimolare gli organi di senso in modo che Neo faccia realmente l'esperienza di stringere un corpo solido.
La macchina del tuo racconto non è altro che un'edizione del test del DNA. E - cosa ancora più sorprendente - anche Roger si limita a giudizi di fatto e non esprime mai un giudizio di merito: anzi esita ogni volta che si trova costretto a farlo (salvo mostrare un'atteggiamento umano, quasi intuisse la conclusione del ragionamento, ma non fosse in grado di esprimerla). Per questo il rapporto tra Wiz e Roger appare ancora più paradossale: un rapporto uomo-macchina fin troppo intimo, anche se Roger apparentemente non passerebbe il test di Turing.
Ribadisco, si tratta di un ottimo lavoro, che esigeva ben altro spazio di approfondimento.
Sempre un piacere per la mente leggerti!

[Giovanni p]

Buonasera Marino,

Il tuo racconto non è diverso da quello che hai proposto nelle ultime gare, un racconto curato, complesso e ricco di spunti di riflessione.
L'idea di plagio è qualcosa che non muore e non morirà mai, sia per chi voglia plagiare, ma anche per chi si trovi accusato di ciò essendo comunque in buona fede.
Per me 5 meritato.

[Marino Maiorino]

Ciao Domenico,
a Cheshire non interessa plagiare, ed è questo il nodo della questione: approfitta di maniere riconosciute per dare visibilità al proprio messaggio. In ciò non sarebbe il primo né l'ultimo a "fare cose come" per farsi notare (manierismo? neoclassicismo? rinascimento? Arcadia? Intere correnti artistiche hanno fatto e fanno della re-interpretazione la loro spina dorsale).
Ma quello sull'arte è un discorso che nel racconto cerco di rendere secondario: ci si copia? È l'input umano a separare l'arte da ciò che non lo è perché, come ti risponderebbe ChatGPT, le macchine "non hanno esperienza soggettiva delle emozioni". Quando scrivo del dolore per una persona scomparsa lo faccio per averlo provato, per averne esperienza, ma la macchina non può sentire la mancanza, il vuoto lasciato. Quello espresso dalle macchine è un collage di "frasi di circostanza". Perciò tutta la querelle che attualmente sta impazzando non ha letteralmente senso.
Ma quando alle macchine è dato il potere di operare su cose che avranno ricadute sull'esistenza degli umani, allora il problema è reale proprio perché la macchina non "capisce" l'umano, e attualmente si discute molto sul primo caso e per niente sul secondo.
Perché le macchine in tutta la narrativa che citi non esprimono giudizi di merito? La prima ragione, "naturale", ovvia, è proprio che le macchine non hanno esperienza soggettiva di ciò che esprimono (o comunque la loro esperienza soggettiva è molto diversa dalla nostra. Per tornare alla scomparsa di qualcuno, se a un programma muore il programmatore, il "padre", il programma non sentirà la mancanza dei suoi input, nemmeno se fosse programmato per simulare la mancanza). La seconda, più sottile forse, è che tutta questa letteratura DEVE esprimere momenti di transizione, nei quali le macchine non hanno ancora queste esperienze soggettive, altrimenti l'autore non può imbastire il dialogo tra uomo e macchina, nodale per confrontare diversi concetti di giustizia, creatività, vita, ciascuno con la sua eredità filosofica (umano vs. puramente razionale), con le sue salde radici persino nelle filosofie politiche (il nazismo, il comunismo).
L'unico esempio che ricordo di un caso dove il dibattito non si pone è un racconto Sci-Fi dei tempi d'oro (non chiedermi autore e titolo): il supercomputer galattico viene finalmente acceso e lo scienziato pone la fatidica domanda: "Esiste Dio?" Un raggio uccide lo scienziato, salda la leva d'accensione in posizione on, e una voce risponde "Sì, adesso Dio esiste!"
Il rapporto con Roger è diventato intimo così come alcuni sviluppano un rapporto intimo con Alexa o Siri. Come vedi la mia è falsa Sci-Fi, è dipingere lo sfondo di lucine mentre siamo ancora qui e ora. Ma il cambio di parati serve a evidenziare quello che sta accadendo ora e che nessuno sembra percepire. "C'è un elefante nel soggiorno", ma nessuno lo vede.
Grazie a te per i piacevoli scambi.

[Marino Maiorino]

Ciao Giovanni,

e grazie anche a te per il gradimento.
Sarebbe anche interessante rifinire un po' quest'idea di plagio, proprio per evitare di incorrere in diatribe legali come quella del povero Cheshire e che Wiz deve dirimere a rischio della propria carriera.
Purtroppo, intorno a questa cosa ci sono oggi troppi interessi (SIAE, fischiano le orecchie?). I diritti di un'opera sono dell'EDITORE per 70 anni, 90 anni in UK (e già...). Notato come le leggi si chiedono e si fanno per aiutare l'EDITORIA e non la SCRITTURA o la LETTERATURA?
La lingua batte dove il dente duole, e le cose stanno crudamente così. In fondo, gli editori sono stati capaci di ottenere i diritti di riproduzione su volumi vuoti e bianchi (burle da "buontemponi", ma i diritti restano...).

Ancora grazie, e a presto!

[Roberto Bonfanti]

Sai, Marino, che ci ho trovato qualcosa di Asimov in questo racconto? In fondo cosa sono le AI, se non robot... Il tema è molto attuale, le considerazioni e i dubbi che deleghi a Wiz sono condivisibili, anche se il passo da ChatGPT ai computer che amministrano la giustizia mi pare un po' lungo.
Tanti spunti, ci sarebbe da scriverne parecchio; il confronto fra il giudice e Roger è molto approfondito, mentre altri punti vengono solo accennati (i due casi di plagio, le "severissime leggi sul Diritto d'Autore" e le relative pene, ecc.)
Ottimo racconto.
Riguardo alla forma: quell'accesse mi è saltato agli occhi, anche artilugio (spagnolo, vero?) lo sostituirei con marchingegno o qualcosa del genere.

[Marino Maiorino]

Ciao Roberto, e grazie per il commento.
"Qualcosa di Asimov"... Non so se in questo momento è più forte l'imbarazzo o la vanagloria!
"Accesse"... Non mi era del tutto naturale, ma non so quale altro possa essere il remoto di accedere. "Accedette", da campano, sembra una confessione di omicidio, e con la lingua bisogna anche osare, cum grano salis. Non mi sembrava un crimine imperdonabile.
"Artilugio", è vero, in spagnolo è forse (appena) più comune, ma mi apparteneva già prima di trasferirmi qui, quindi in italiano magari è solo desueto.
Grazie ancora, verificherò quanto osservi.
A presto!

[Roberto Bonfanti]

"Accesse"... Non mi era del tutto naturale, ma non so quale altro possa essere il remoto di accedere. "Accedette", da campano, sembra una confessione di omicidio, e con la lingua bisogna anche osare, cum grano salis. Non mi sembrava un crimine imperdonabile.

Accedé/accedette sarebbero corretti, io forse avrei scriito "effettuò l'accesso" o simile. Certo che sono quisquilie.

[Marino Maiorino]

Pinzellacchere, come diceva il Principe.
Certo, se uno vuole giocare.
Ma sarà bene prendere nota di tutti i buoni insegnamenti, per quando vorrò diventare grande.