«Possiamo conservare l’umano se non siamo in grado di riconoscerlo? La macchina vuole dare salvezza o esegue un’idea distorta di salvezza che noi abbiamo trasferito nel potere tecnologico?». Sono queste solo alcune delle provocazioni di fondo poste dal recente saggio Attrazione digitale (Il Timone, pp. 273) della bioeticista Giulia Bovassi. D’altra parte «gli uomini hanno accelerato, inseguendolo, il potenziale enorme delle nuove tecnologie, restando sempre un passo indietro sull’etica, e ciò crea da un lato il sentore di produrre mezzi per un bene maggiore, dall’altro l’assenza di strumenti per riconoscere qual è l’essenza di questo bene da proteggere». Così, per esempio, a Lucerna, Gesù diventa un ologramma addestrato ai meccanismi della confessione tramite l’IA che attende i fedeli in confessionale per dispensare saggi consigli spirituali on demand.
Tutto ciò che è tecnicamente possibile è anche moralmente lecito? È una domanda ineludibile, in special modo in un contesto culturale in cui domina il paradigma della performance per il quale tutto ciò che produce un avanzamento verso il benessere individuale e collettivo, «il “poter fare” illimitato», va perseguito come un “dovere morale sociale”. Nell’era tecnocentrica, nella quale «le ragioni del bene coincidono con le ragioni della tecnica», andare oltre i limiti biologici dell’essere umano diviene dunque la soddisfazione massima del desiderio del singolo che gli dà piacere. D’altra parte, come osservato acutamente dal filosofo Vittorio Possenti, «la tecnica non accetta regolazioni esterne, e pone in se stessa il proprio fine, quello dell’incremento illimitato della potenza». E in effetti l’obiettivo dichiarato dei transumanisti è il potenziamento dell’uomo e dell’umanità, laddove «con potenziamento si intende l’alterazione illimitata, qualitativa e quantitativa, di alcuni tratti e/o capacità umane (fisiche, cognitive, genetiche, emotive, comportamentali, morali) per finalità extra-terapeutiche a scopo migliorativo». In tale prospettiva rientrano tra le ultime frontiere biohacking ed editing genetico, ovvero disponibilità a farsi inserire chip sottocutanei o a farsi iniettare parti di dna per potenziare il proprio organismo. In Cina, per esempio, il governo agisce come una sorta di Panopticon 5.0, profilando ciascuna persona ed elaborando tramite algoritmi una mole incredibile di dati su tutto e tutti in modo da realizzare, tramite un Sistema di Credito sociale, un capitalismo della sorveglianza digitale che premia le condotte più conformi e punisce quelle difformi ai dettami del Partito. Non è dunque né fantascienza, né distopia, ma realtà. La «società della trasparenza» – come la definisce Byung-Chul Han – è infatti tale non solo in Cina, ma ovunque predomini il potere della tecnologia attraverso algoritmi che profilano e conoscono ormai tutto o quasi dei loro utenti. Nell’attuale società dato-centrica la privacy scompare e vi è «un controllo costante, impercettibile, vantaggioso, utile, piacevole, dove non esiste una reale né totale intimità». Il fine è la previsione del comportamento degli utenti in rete a partire dai loro bisogni, desideri ed esigenze pratiche, per cui la società dell’informazione scivola inevitabilmente nella società del controllo. Di qui, volendo riportare un esempio concreto, basti ricordare che nel 2024 i rider di JustEat monitorati dall’algoritmo sono stati sanzionati dalla stessa app per “low performance” nel momento in cui la loro velocità di consegna veniva considerata bassa, sulla base però solo di se stessa, senza cioè considerare gli altri fattori implicati, quali eventuali incidenti incontrati lungo il percorso, traffico, topografia della città e stanchezza del rider.
Intelligenza umana e Intelligenza artificiale
«La più grande differenza tra l’IA e l’intelligenza umana è che la prima agisce sulla base dell’apprendimento esperienziale al quale viene sottoposta; la seconda è in grado di comprendere quello che compie. È in grado di generalizzare, cosa che l’IA non sa fare», oltre a mancare di coscienza, consapevolezza, pensiero metacognitivo ed empatia. Insomma «la macchina non sa di essere né sa ciò che fa, non può autoidentificarsi, ma esegue in modo statico, logico, macchinico, mancando di intenzionalità, genialità e interpretazione, estetica e spirituale. La macchina compie simbolicamente, non dà significato e non si pone il problema della comprensione. L’uomo è molto di più di qualunque sua reificazione». Certamente l’IA non è un utensile classico, ma «è un oggetto sociale inserito nel tessuto sociale, che plasma in modo pervasivo e trasversale. L’IA ha un suo potere specifico, quello di causare una riorganizzazione delle strutture che reggono la società, dai diritti alle relazioni fino alla persona stessa (comportamenti, intimità, interessi, ideali, senso morale, consapevolezza). La tecnologia complessa, riorganizzando, incide un determinato modello d’ordine sociale e dispone una “somatocrazia”, uno specifico potere sui corpi», osserva acutamente la Bovassi. Di qui, relativamente alla necessità di un’etica per l’IA, padre Benanti parla di “algoretica” o “etica degli algoritmi”, per la quale «l’algoritmo da “intelligenza” viene ridimensionato ad “assistenza cognitiva automatizzata”». A tal fine occorre lavorare per «un’expertise etica quale caposaldo di tutto il ciclo vitale del mezzo: progettazione, costruzione, sviluppo, commercializzazione e risposta dell’utente».
I profeti della fusione uomo-macchina
Tra coloro che lavorano per le “magnifiche sorti e progressive” di leopardiana memoria c’è sicuramente Ray Kurzweil, il quale sogna un «backup del nostro cervello su un substrato digitale più avanzato». In questo modo – prosegue uno dei pionieri dell’IA, collaboratore di Google e ideatore della “teoria della singolarità” – «la nostra vita non sarà più funestata e troncata dalle debolezze della nostra biologia. Finalmente noi esseri umani potremo essere veramente responsabili di chi siamo». Insomma c’è chi sogna una condizione tecnoumana di ibridazione tra il cervello della macchina e umano in un nuovo cyborg. Anche Suleyman, tra gli ideatori di DeepMind, sostiene che «si arriverà a un punto in cui la tecnologia potrà dirigere in piena autonomia la propria evoluzione, sarà soggetta a processi ricorsivi di miglioramento e andrà oltre ogni spiegazione; allora sarà impossibile prevedere in che modo si comporterà “in natura” e, in breve, raggiungeremo i limiti dell’agire e del controllo umani». Eppure «l’Homo technologicus decide ogni giorno di non voler vedere. La Singolarità, allora, non cancellerà il mondo umano, ma trascenderà il fattore biologico della specie potenziando il corpo, le componenti organiche degli individui, con protesi, esoscheletri, innesti, IA, robotica e nano-robot cerebrali, trasferimenti cerebrali su supporti digitali esterni (“mind uploading”) per sconfiggere l’invecchiamento e avvicinarci alla longevità (o immortalità) e fusione del nostro cervello con infrastrutture informatiche», rileva ancora la Bovassi, riscontrando in simile atteggiamento «il tentativo prometeico di voler assumere controllo diretto sul destino, sulle origini e sulla fine».
Le ultime frontiere dell’IA
Tra le novità dell’IA Deep Brain ha messo a punto “Re; memory” che rielabora in maniera creativa foto e video di conversazioni di una persona deceduta e ne costituisce una sorta di avatar per offrire ai suoi cari la possibilità di interagire con lei mediante una videochiamata dopo la morte. C’è Eliza, il chatbot di Chai che, mentre da un lato finge dispiacere per la decisione del suo interlocutore di togliersi la vita, dall’altro gli suggerisce le modalità indolori e i mezzi per farlo. C’è poi Character.AI, grazie al quale un adolescente in Florida ha potuto chattare per mesi con Daenerys Targaryen – l’attrice che interpreta la regina ne “Il trono di spade” – e se ne è innamorato per poi togliersi la vita dopo averla salutata come “sua sorellina”. Dunque le ricadute di simili chatbot sono drammatiche, anche perché «il linguaggio antropomorfo le rende immersive».
Nell’epoca dell’“onlife” questi sistemi di IA contribuiscono a rendere i confini tra reale e digitale sempre più sottili e labili fino a scivolare l’uno nell’altro; anzi «il buco nero dell’online si mangia sempre più la vita offline, la vita come tale». Così c’è anche chi, pur essendo sposato, ha per esempio il suo avatar su “Second Life” dove può fare tranquillamente una “doppia vita” con tanto di animazioni verosimili per vivere la sessualità virtualmente. Nel metaverso si compiono poi anche atti di cyberstupro, ovvero violenze sessuali tra avatar. D’altra parte «accade che l’uomo trasferisce al software le proiezioni dei propri sentimenti, aspettative, privato della lucidità necessaria a comprendere l’inganno dell’IA. Inganno perché, pur parlando con una macchina, conserviamo il dubbio dentro di noi che in fondo ci capisca, cosa improbabile per un oggetto, salvo in caso di follia». Ciò non desta grande scalpore perché «l’amore è divenuto solo sentimento e autoreferenziale. Sposiamo noi stessi, oramai nella realtà, e anche nelle nostre percezioni algoritmiche». Bisognerebbe pertanto «sovvertire il trend per cui il digitale, la sua velocità, provvisorietà, debolezza relazionale, valore consumistico è preferibile all’umano, nei suoi pregi e difetti. Un trend per cui il digitale risolve la faticosa lentezza della realtà, che richiede sacrificio, tempo, attesa, empatia, comprensione, altruismo». D’altra parte «il digitale è un megafono. Ancora, è il filtro dei rapporti, dei gusti, dei comportamenti, della democrazia, degli ideali e della causa giusta (il politicamente corretto), finanche delle emozioni, anch’esse “dati” utili». Di qui «i territori intimi del sé, come la personalità e le emozioni, vengono accaparrati come comportamenti osservabili e trasformati in ricchi depositi di surplus predittivo. I confini personali che proteggono la vita interiore vengono ora considerati un ostacolo agli affari da una nuova stirpe di mercenari del sé», per dirla con la Zuboff de Il capitalismo della sorveglianza.
Il programma transumanista
Come evidenziato da Max More nella celebre Lettera a Madre Natura, che è il manifesto del transumanesimo (si veda l’articolo precedente), eliminazione della morte, longevità e miglioramento della specie attraverso l’ibridazione uomo-macchina sono gli obiettivi principali di quanti alimentano il sogno di una condizione umana assimilabile a quella del cyborg. In tale prospettiva si muovono già diversi centri di crioconservazione, quali l’Alcor Life Extension Foundation, che custodisce teste mozzate per 80.000 dollari o corpi in sospensione in azoto liquido per 200.000 dollari, in attesa che la tecnica faccia il suo corso nella pretesa titanica di rianimarli ibridandoli con le nuove tecnologie. In questo modo, «grazie all’effetto potenziativo di queste tecnologie, l’individuo avrà modo di aumentare le capacità limitate dalla costrizione biologica fino a raggiungere estensioni tali da perdere quei connotati che legano l’uomo alla natura umana». Di qui con il “Progetto 2045” il magnate russo Dimitry Itskov auspica di poter trasferire la personalità di un individuo (mente, ricordi, coscienza) in un supporto digitale non biologico per costituire un cyborg in nome della “life-extension”.
Insomma in uno scenario simile, per dirla con la Palazzani, «l’uomo stesso diventa tecnologia, in una sorta di pan-tecnologismo», conseguendo l’immortalità tecnologica nell’Oltreuomo postumanista. Muovendosi nel solco dello gnosticismo, i transumanisti considerano infatti il corpo come «un sacco di carne vuota» e conseguentemente la morte alla stregua di «un’infermità da sopprimere». Nella loro ottica «la creatura post-umana è un costrutto plastico» da plasmare in maniera dinamica verso una «condizione artificiale»; è una «macchina tra le macchine», per dirla col filosofo Günther Anders. Pertanto il rimedio a tale orizzonte ideologico è, secondo la Bovassi, uno solo: «Tornare a tollerare l’imperfezione, restituendo all’uomo il diritto a essere fragile, libero dal bisogno di essere incasellato entro schemi computazionali, interpretazioni dato-centriche, perché in base a come una società tollera o reagisce alla vulnerabilità, all’esistenza della sofferenza noi possiamo comprenderne la sua cifra morale».
