#1×04 – Se McEwan scrivesse Black Mirror

Isaac Asimov, padre della narrativa fantascientifica, nel 1942 formulò tre leggi di base per il comportamento dei robot nei confronti dell’essere umano. Forse non tutti sanno che anni dopo aggiunse una quarta legge, più importante delle altre tre, la legge zero: 

Un robot non può recar danno all’umanità e non può permettere che, a causa di un suo mancato intervento, l’umanità riceva danno

Quella di McEwan, però, è tutta un’altra storia.

Dopo i brividi che ci ha regalato Federica nella scorsa puntata, Veronica come una fenice è risorta dalle ceneri della tesi di master e il brodo primordiale di Fika è qui per allietarvi con una nuova puntata. Ma andiamo subito al punto: il libro di oggi è uscito a settembre per Einaudi ed è probabilmente il più recente che abbiamo mai portato in una delle nostre puntate: stiamo parlando di Macchine come me, scritto da McEwan

Figlio della Seconda Guerra Mondiale, Ian McEwan, nato nel 1948 vive ad Oxford. Nella sua carriera ha scritto due raccolte di racconti e oltre dieci romanzi, in Italia tutti presso la casa editrice Einaudi. 

Quello che per molti è considerato il suo primo capolavoro è L’amore fatale. Un racconto su una persona affetta dalla sindrome di de Clerambault.

Ma il mondo lo conosce principalmente per Espiazione. Libro del 2001 e il film, ciao James, del 2007. 

Nota di colore, Ian McEwan è al centro anche di una vicenda familiare che potrebbe essere facilmente materiale per un film o uno di quei programmi dove vai a recuperare le radici dei tuoi antenati. Nel 2002 scopre che la madre, Rose Wort, ha avuto un figlio dal primo marito, morto durante la Seconda Guerra Mondiale. MA nello stesso periodo intratteneva una relazione extra coniugale con McEwan senior. Alla morte del marito, Rose si ricongiunge all’amante col quale avrà un figlio, Ian. I due fratelli si sono incontrati solo nel 2002, passando gran parte della vita senza sapere l’esistenza l’uno dell altro. 

Ma ora passiamo al nostro libro. 

In una linea temporale alternativa, in cui il Regno Unito ha perso la guerra nelle Falkland, Alan Turing è ancora vivo e grazie alle sue ricerche sull’intelligenza artificiale, sono stati creati 25 esemplari di robot umanoidi in grado di simulare la vita umana nella sua interezza, persino nelle emozioni. Charlie, il protagonista, in questo 1982, decide di dilapidare la sua eredità per accaparrarsi uno di questi esemplari: Adam. 

Sarà lui stesso, insieme a Miranda, a dare una personalità ad Adam, spuntando, casella per casella, tutte le caratteristiche che vanno a comporre un essere umano.

Ben presto Adam diventa molto più che un aiuto in casa e si trasforma in un avversario sentimentale per il cuore di Miranda, la vicina di casa. 

Quindi, la domanda che McEwan ci pone è:  Qual è la differenza tra macchine e umani? 

Partendo quindi da questa storia, ecco le riflessioni che vogliamo proporvi oggi: Giulia, attraverso dei celebri esempi cinematografici si interroga sulle differenze tra uomini e macchine. Io poi, quanto è strano presentare sé stessi voi non ne avete idea, cercando di non scandalizzare chiunque sia più esperto di me, ossia, realmente, chiunque, rifletterò su quanto l’uomo abbia già imparato e possa imparare dai robot. Veronica, infine, ci parlerà dell’impatto delle macchine all’interno della società e del mondo del lavoro.


Macchina o uomo?

di Giulia Carniglia

Leggendo questo romanzo mi sono posta un quesito….quanto c’è di umano in una macchina come Adam? 

Leggendo la sinossi sappiamo che sono Charlie e Miranda a comporre la personalità di Adam. Quindi, possiamo assumere che Adam sia solo un riflesso dei desideri, comportamenti dei suoi “genitori”? 

Per non spoilerare il libro, apprezzate il mio impegno, cerco di rispondere a questi dubbi portandovi altri esempi di film con protagonista un essere meccanico. Un robot. 

Il primo che mi viene in mente è L’uomo bicentenario, film del 1999 di Chris Columbus sul romanzo omonimo di Isaac Asimov. Con la frase “Uno è lieto di poter servire” possiamo ben capire l’utilizzo primario di questo robot all’interno della famiglia. Un aiuto meccanico per le faccende di casa e per le commissioni. Per ora abbiamo la netta distinzione tra macchina e umano. lo vediamo. Una macchina ha un cervello con un sistema operativo in grado di arrivare a tutti i documenti presenti nel mondo digitale, un umano no. Un umano è in grado di provare empatia, di emozionarsi, un Robot no. Non sono programmati per questo. 

Ora, se il film fosse tutto così non starei qui a parlarvene. Il discorso comincia a prendere una piega differente quando il robot ha un difetto di progettazione. E’ quello il momento in cui il “padrone” comincia a insegnargli delle cose, pratiche ma anche temi personali. Emotivi. Sentimenti. Ora, non vi dico come va a finire perchè non è questa la sede ma capite dove voglio arrivare. Nel momento in cui il “padrone” inizia ad insegnare nozioni che vanno al di là di un programma, il robot cosa diventa. E’ più umano? E’ una proiezioni dell’umano? E se è una proiezione allora ha anche gli stessi istinti. 

Mettiamo in pausa un attimo queste domande e andiamo a vedere il secondo esempio. A.I – Intelligenza artificiale di Steven Spielberg, basato su un progetto di Stanley Kubrick. Qui cosa abbiamo una coppia, il cui figlio naturale è stato ibernato, e viene dato uno dei primi modelli di robot bambino “David”. La madre, Monica, triste per la mancanza del figlio, vede in David la possibilità di riscatto del suo ruolo e attiva il protocollo di imprinting. Un meccanismo che permette, tramite la ripetizioni, di parole e concetti, di insegnare al robot sentimenti e nozioni nuove. 

Anche qui, non vi dico come va a finire, cosa differenzia David dall’essere un robot a essere un bambino che identifica, in questa storia, Monica come la sua vera madre. Lei ha creato una specie di surrogato del figlio ibernato. Allora David cosa è diventato. Questo upgrade che lei ha inserito come lo ha trasformato? 

Questi esempi mi servono per farvi capire il mio punto di vista. Se ad un Robot viene insegnato qualcosa di effimero come i sentimenti e le emozioni, cosa diventa la macchina? E’ ancora solo un insieme di programmi, sinapsi elettroniche e cavi? O forse diventa qualcosa di diverso? Certo, secondo le leggi della robotica, un robot non può nuocere ad un essere umano. Forse questa è la sostanziale differenza.

Il mio dubbio rimane….cosa sono? Ancora macchine o una visione diversa di come potrebbe essere l’uomo. 

Tornando al libro, sempre nella sinossi, sappiamo che si crea un triangolo amoroso tra i tre protagonisti e qui sorge l’altra domanda, che poi è un corollario della prima. Se Adam è il riflesso dei suoi creatori, allora avrà le stesse pulsioni sessuali. Se Charlie e Miranda hanno plasmato la sua componente emotiva e caratteriale, Adam sarà il riflesso anche delle loro pulsioni e attrazioni sessuali. 

Non sono una psicologa e non riuscirò, credo, a trovare una soluzione univoca ma vorrei che rifletteste insieme a me. Sapreste veramente distinguere con certezza e chiarezza che Adam è solo una macchina e non sarà mai un essere, simile all’uomo, che prova sentimenti? 

FONTI: 

https://it.wikipedia.org/wiki/A.I._-_Intelligenza_artificiale

https://it.wikipedia.org/wiki/L%27uomo_bicentenario_(film)


Fatti (non) foste a viver come robot

di Camilla Magnani

La motivazione principale per cui studio gli androidi è che voglio conoscere l’uomo.

Questo rivela in un’intervista Kohei Ogawa, ricercatore e docente di robotica e intelligenza artificiale all’Università di Nagoya.

La mia prima reazione è stata “Scusa Kohei, nche zenzo?”. Però poi ho iniziato a pensare che forse potesse avere senso. Conoscere l’originale attraverso lo studio della replica. Una cosa che giusto noi umani possiamo fare. Un po’ da sbruffoni in effetti.

Come diceva prima Giulia, che cosa rende diversi gli umani dai robot è un tema piuttosto complicato e che apre moltissime domande. Anche se, ripeto, non sono un’esperta, mi piacerebbe affrontare con voi la faccenda in maniera un pochino più tecnica. Che cosa può imparare l’uomo da una macchina? Quanto siamo simili e quanto siamo diversi?

Isaac Asimov sosteneva che entro il 2035 l’uomo avrebbe trovato il modo di clonare il proprio cervello e di inserirlo in un robot. Un cervello positronico (scusate, era una vita che sognavo di usare questa parola in una frase e finalmente quel giorno è arrivato) capace potenzialmente di sconfiggere il suo creatore. Sembra un po’ una situazione da Ulisse alle Colonne d’Ercole.

Fatti non foste a viver come robot. Ma quindi a meno di vent’anni dalla preoccupante previsione di Asimov, io mi chiedo: tutto il male viene per nuocere?

Facendo riferimento al libro di McEwan, ciò che ho trovato interessante è lo stato di disagio che Charlie, il protagonista, talvolta prova nel sentirsi preoccupato per Adam, il suo robot. Charlie sa di possedere Adam, sa che Adam gli sarà obbediente (anche se poi, a ben vedere, non sempre) ma vuole umanizzarlo e disumanizzarlo allo stesso tempo. Gli dà dei vestiti, lo porta in giro con sé, lo presenta ad altre persone come un essere umano, ma allo stesso tempo non riesce a non immaginare tutti i meccanismi in grado di farlo reagire come un essere umano, ponendo particolare enfasi sul loro funzionamento. Ad esempio, riflette sul fatto che gli occhi di Adam in realtà non vedano, ma che fosse perfettamente in grado di dare l’idea di osservare, di avere un’espressività.

Convive quindi questo dualismo, come probabilmente in tutti noi, l’accettazione e la diffidenza. Ma d’altra parte è qualcosa che facciamo continuamente, no? Ci lamentiamo dei servizi di geolocalizzazione e poi ci incazziamo se Google non trova un bancomat vicino a noi. Inoltre, c’è da dire che in generale siamo tutti un po’ portati all’animismo: l’attribuzione di caratteristiche, comportamenti e atteggiamenti umani (o perché no, a volte soprannaturali) agli oggetti. Ci sentiamo meglio a pensare che qualcosa in grado di pensare ci somigli, abbia le nostre reazioni. E se volete ridere, c’è un gruppo Facebook, che mi è stato consigliato dalla mia amica Gin, per tutti quelli che come me

Bisogna chiedersi, le macchine sono umanizzate perché sentiamo il bisogno di umanizzarle per accettarle o sono davvero in grado di pensare come noi? Di sentire come noi?

Alan Turing se lo è chiesto. Partendo dal gioco dell’imitazione. Ve la faccio breve: ce stanno tre componenti: A, B, C. A e B sono un uomo e una donna e stanno nella stessa stanza a parlare. C, è separato dai primi due e tramite una serie di domande deve cercare di capire quale sia l’uomo e quale sia la donna dal contenuto della conversazione. A, tuttavia, ha il compito di cercare di ingannare C e B dovrà aiutarlo. Turing quindi propone un ulteriore passaggio: ma se A fosse una macchina? Come conclusione di questo discorso Turing pensa che in fondo, per essere sicuri che qualcuno o qualcosa pensi, è essere quel qualcuno o quel qualcosa e sentire che si stia pensando.

Insomma, il contrario dei CAPTCHA che sono quei test con le letterine e i numerini tutti svolazzanti che servono a verificare che tu non sia un robot.

Tornando all’intervista di cui parlavo all’inizio, articolando la sua risposta l’esperto suggerisce una cosa parecchio interessante: dice di aver lavorato parecchio su dei chatbot e avere provato ad insegnare ad uno di essi a dire “Ti amo”. Viene fuori che sì, la macchina può dire “Ti amo” a comando, ma non è in grado di inserirlo in una frase o usarlo come risposta. Ma perché? Ogawa dice “La mia idea è quindi quella di capire il concetto di amore, comprendere come poterlo insegnare al robot o all’assistente virtuale.”

Forse è questa la chiave di lettura di questo discorso: imparare a conoscere l’originale attraverso lo studio della replica.

Nel momento in cui entrano in ballo concetti e sentimenti c’è da chiedersi, cosa è più importante? Comunicare o conoscere? Forse è qui che risiede la differenza tra la macchina e l’uomo.

Sono abbastanza convinta che, nonostante tutta l’ansia che ci mettono certe storie e certi film, i robot non sostituiranno mai completamente l’uomo.

Potranno essere utilizzati come potenziamento delle capacità dell’uomo, ma non riusciranno mai a eguagliarlo, e questo è un fatto.

Anche perché come possiamo parlare di etica delle macchine quando l’etica è solo nostra e non potrà mai essere insegnata a un robot?

E forse sì, forse alcuni lavori non esisteranno più, ma ne nasceranno altri. Pensiamo a tutti quei mestieri di oggi che forse avremmo considerato assurdi dieci anni fa.

Sono troppo ottimista? Forse. Mi piace troppo la fantascienza per essere arrabbiata con i robot? Assolutamente sì.

Però direi che, in fondo, se pure il nostro amico Kohei Ogawa tiene a sottolineare che, nonostante esistano robot in grado di simulare la presenza dell’uomo anche a distanza, i cosiddetti Teleoperated, il robot potrà solo chiamare sua moglie, di certo non potrà abbracciarla.

Hai sentito, McEwan?

FONTI:

https://www.ilfoglio.it/tecnologia/2017/05/15/news/perche-i-robot-non-avranno-il-sopravvento-sugli-esseri-umani-134534/

https://www.bioecogeo.com/lidentita-letica-delle-macchine/

https://www.linkiesta.it/it/blog-post/2019/11/13/allalba-del-mondo-umanoide-vivere-con-gli-androidi-intervista-allo-sci/28507/


It’s a machines’ world

di Veronica Pallavera

McEwan – per ragioni che ancora mi sfuggono – ha deciso di ambientare questo romanzo in un 1982 alternativo, in cui il Regno Unito ha perso la guerra nelle Falkland, Margaret Thatcher è messa alla gogna come fallita e nemica della nazione, Alan Turing ha preferito il carcere alla castrazione chimica e Kennedy non è morto a Dallas. Eppure tutte queste strade alternative nella storia sembrano aver portato il mondo ad essere molto simile a come lo conosciamo oggi, solo con 30 anni di anticipo. 

L’economia è al tracollo, il sistema del Welfare sta cedendo, c’è rabbia sia a destra che a sinistra dell’elettorato, il Regno Unito vuole uscire dall’UE. Vi è familiare? Già. Inoltre, le macchine stanno sostituendo la forza lavoro degli esseri umani. 

Dal testo: “una nuova fabbrica di auto che aveva aperto i battenti nei pressi di Newcastle produceva il triplo delle vetture dello stabilimento che aveva sostituito con un terzo della forza lavoro. […] Non era soltanto la classe operaia a prendere posti per l’introduzione delle macchine. Succedeva ai commercialisti, personale medico, addetti al marketing, alla logistica, alle risorse umane, alla pianificazione. […] Fra non molto la gran parte di noi si sarebbe dovuta domandare a che cosa dedicarsi nella vita. […] Ma a quel punto avremmo tutti avuto bisogno di una rendita.” 

Pensate alle casse automatiche al supermercato.

E ancora: “Dire che il domani avrebbe inventato lavori di cui non si era mai sentito parlare era un luogo comune, oltre che una bugia. Se la maggioranza era senza lavoro e senza un soldo, il collasso sociale era garantito. Ma con il generoso sussidio statale noi, le masse, avremmo affrontato il lussuoso problema che per secoli aveva afflitto i facoltosi: come occupare il tempo.”

Charlie sembra sostenitore del Reddito di cittadinanza, quindi. 

Scherzi a parte, quello che McEwan racconta è una condizione di disagio sociale paragonabile a quello conosciuto nella storia solo durante la Rivoluzione Industriale. E oggi. Ora come allora, delle macchine si sono sostituite nello svolgimento di alcuni mestieri che, a quanto pare, diventeranno sempre di più. Che fare, quindi, per affrontare il mondo che cambia? 

Nel mese di agosto, a Pittsburg, Pensylvania, Uber (la nota compagnia di noleggio auto con conducente) in collaborazione con Volvo ha lanciato la prima flotta di taxi a guida autonoma. Nella prima fase di sperimentazione, al posto di guida siederà un autista di emergenza, coadiuvato da un co-pilota al posto del passeggero, che registrerà tutto ciò che accade durante il tragitto. Ma presto non ci sarà più bisogno di loro. È il futuro che avanza, implacabile. 

Facciamo un passo indietro, alla Rivoluzione Industriale: come ci è stato insegnato a scuola, la liberazione della forza lavoro dalla manifattura ha permesso la fioritura del settore terziario. Una semplificazione elementare, ma così siamo stati formati, proprio alle scuole elementari. Quando studiavamo geografia, la maestra ci faceva notare come nel nord del mondo, nell’occidente, in Europa o comunque dove noi e tanti altri bambini potevano crescere in pace e prosperità, le automazioni agricole e industriali fossero più avanzate, così da permettere a noi e ai nostri genitori di non zappare più la terra a mano, ma di guidare trattori sofisticati, oppure di diventare medici, ingegneri, filosofi, poeti, astronauti. Alla fine degli anni ‘90 sembrava tutto sotto controllo. 

Cos’è cambiato nel frattempo? Quando l’euforia del futuro si è trasformata in paura? 

In un recente intervento a Bookcity sul tema dell’equlibrio tra la vita online e offline, Aldo Cazzullo (giornalista del Corriere della Sera) ha fatto una considerazione interessante: oggi, nel pieno della crisi del mondo editoriale e giornalistico, gli articoli sono molto più letti rispetto a trent’anni fa. E tutto questo grazie alla rete. Poi ha aggiunto: “sì, ma da tutte queste views, chi ci guadagna?”

In un mondo in cui l’informazione circola libera (e pirata), molte professioni non stanno del tutto smettendo di esistere, ma di essere redditizie come un tempo. Nel mondo della comunicazione, che sembra la terra promessa dei “mestieri del futuro”, non c’è mai budget. 

E quindi, che fare? Siamo al collasso e hanno ragione i boomers che incolpano le nuove generazioni “che non sanno cosa vuol dire tirare un calcio al pallone”?

Come sempre, io ho tante domande e poche risposte. Più che altro speranze. La mia impressione è che, in alcuni punti della storia, il progresso viaggia più veloce dell’uomo e le nostre capacità di adattamento richiedono più tempo di quanto vorremmo. Dopo una decade di streaming indiscriminato, la stragrande maggioranza di noi ha deciso di pagare un abbonamento Netflix. Ora anche le piattaforme di streaming stanno per entrare in una nuova fase di cui è difficile immaginare un esito…insomma, è tutto un ciclo in continuo divenire. 

Siamo pur sempre il frutto dell’evoluzione e, darwinianamente, sopravvive chi meglio si adatta al cambio delle condizioni ambientali. Fermare il progresso non è una strada percorribile, abbattere le macchine sarebbe uno spreco di energie e possibilità. La cosa migliore che possiamo fare è imparare i passi e ballare con loro. 


Lo consigliamo? Per Giulia è un sì, ma con delle precauzioni. E’ stato scritto molto bene, interessante ma secondo lei ci sono troppe parti di argomenti che non hanno nulla a che vedere con la storia dei protagonisti. E’ da leggere perché è di McEwan.

Veronica, invece, non può non ammettere che di voler proprio bene a Ian però la verità è che siamo lontani dai grandi sfarzi di prosa. Manca l’intimità, la psicologia dei personaggi scavata fino in fondo. Francamente le riflessioni che sono scaturite non sono strabilianti, niente di eccezionale. Non capisce bene la ragione dietro alla scelta di un 1982 alternativo. E non comprende l’incidenza delle sue modifiche sulla storia dei protagonisti. Forse, ammette, sarebbe stata meglio una soluzione alla Black Mirror, che avrebbe tolto tutti questi spiegoni.

Camilla fa coming out: non aveva mai letto niente di McEwan. Si dichiara d’accordo con Giulia e Veronica nel parere su questo libro, restando con una gran voglia di leggere i suoi libri. McEwan è bravo, non si può negare. Tuttavia, trovato questo romanzo è un po’ lento. La struttura alterna contesto storico e narrazione principale, lasciandoti con un effetto altalena continuo. Ancora una volta, McEwan è bravissimo e la lettura risulta scorrevole, tuttavia, il contesto storico si sarebbe dovuto mimetizzare meglio all’interno della trattazione principale. 

E per concludere, come di consueto, le citazioni che ci hanno colpito di più:

Quanto scompiglio per un pomeriggio feriale. Un nuovo tipo di creatura, seduta al mio tavolo, la donna che avevo da poco scoperto di amare a circa due metri sopra la mia testa e il paese, anacronisticamente, in guerra. Io però ero abbastanza disciplinato e mi ero ripromesso di lavorare sette ore al giorno.

Litigare con la persona che ami è un particolare tormento auto inflitto. L’Io si divide, l’Eros entra in lotta con il suo opposto Freudiano, e se a vincere è Thanatos, a chi importa? A te, cosa che ti fa andare in bestia e ti rende ancora più incauto.

Come diceva Schopenhauer a proposito del libero arbitrio, possiamo scegliere tutto ciò che desideriamo, ma non siamo liberi di scegliere che cosa desiderare.


Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...