Intelligenza Artificiale e Transumanesimo Verso il Punto di Non Ritorno
di Franz Altomare
Il progresso non ammette ritardi! Questa è la narrazione che ci viene propinata ormai ogni giorno.
L’impennata tecnologica registrata grazie alla progressiva diffusione dell’Intelligenza Artificiale impone, ad ogni società felicemente globalizzata, di rimanere al passo coi tempi e accelerare l’inevitabile implementazione di quest’ultimo traguardo informatico in ogni campo della vita sociale e produttiva.
Il dibattito mainstream centrato su rischi, benefici e necessità di normazione della AI si svolge nel recinto obbligato della propaganda che recita sempre lo stesso mantra: la scienza è verità; la verità è sacra; la tecnologia è incarnazione di ciò che è vero e sacro e la sua missione è il progresso; il progresso è cosa buona e giusta, sempre e per tutti. Non ci sono altre opzioni: o sei per il progresso, e quindi per la scienza, dio unico, veritiero e misericordioso, oppure sei per la barbarie e la superstizione e per questo destinato alla dannazione eterna.
Prima di procedere con la nostra riflessione che intende soffermarsi su un aspetto specifico dell’Intelligenza Artificiale, quello della simulazione all’interno dei chatbot, diamo un breve cenno su AI act, il regolamento dell’UE approvato nel luglio 2024 ed entrato in vigore, per alcune sue parti, nel gennaio di quest’anno. La regolamentazione per legge, oltre a essere carente, non entra mai nel merito di chi possiede la AI e di come se ne può servire a fini non solo di arricchimento, ma anche, e soprattutto, di controllo e manipolazione.
In un articolo [1] di RAI News sulla pubblicazione dell’AI act in Gazzetta Ufficiale [2] si può scorgere il linguaggio entusiasta e apologetico che accompagna ogni innovazione tecnologica ricca di promesse e anticipatrice di un mondo, quello promesso dalla “Quarta Rivoluzione Industriale”, in cui le macchine solleveranno una volta per tutte gli esseri umani dalle loro fatiche, a partire da quella più gravosa: la fatica di pensare.
Dalla sostituzione della forza muscolare con le macchine per costruire e muovere cose e persone, passando per la sostituzione della forza concettuale in qualche modo meccanica e routinaria tipica del settore terziario (si pensi a un semplice foglio di calcolo per compilare una bozza di bilancio o ad un software gestionale), fino alla pretesa di sostituire con macchine ancora più complesse le mansioni di pensiero e ragionamento, attività che finora hanno caratterizzato, rendendolo unico e irripetibile, l’essere vivente che chiamiamo Homo Sapiens.
I media celebrano il trionfo della tecnica rappresentato dalla AI fiduciosi di speranza per l’umanità tutta, a partire dalla parte più avanzata della stessa, quella occidentale, ignorando il rapporto inversamente proporzionale tra progresso ed emancipazione, laddove il tributo da versare sull’altare della tecnica richiede ancora sacrifici umani, insieme alla creazione di nuove e insopportabili servitù.
I rischi connessi all’implementazione dell’Intelligenza Artificiale in ogni aspetto della vita sociale e produttiva sarebbero mitigati, e persino annullati, grazie a un quadro normativo adeguato che l’Unione Europea ha prontamente disposto. Le innovazioni tecnologiche vanno quindi regolamentate “senza essere frenate” per garantire “responsabilità, trasparenza, controllo umano” [3].
Senza entrare nello specifico del regolamento europeo ci limitiamo a dire che esso si rivolge da un lato agli sviluppatori del sistema e ai fornitori, e dall’altro ad aziende, professionisti e amministrazioni che decidono di utilizzare l’AI. La normativa individua tre aree per livello di rischio (basso, alto, inaccettabile) su cui intervenire con specifici obblighi.
È curioso notare la coesistenza dell’obiettivo primario dichiarato con enfasi autocelebrativa, e cioè quello di proteggere i diritti fondamentali, la democrazia, lo Stato di diritto e la sostenibilità ambientale dai sistemi di IA ad alto rischio, con l’esenzione concessa per i sistemi utilizzati per scopi militari, di difesa e di ricerca. E poiché l’utilizzo dell’AI per fini militari e di ricerca non è sottoposta ad alcun obbligo, e pertanto a nessun controllo, al cittadino comune non è dato sapere se ed eventualmente per quale effettiva ragione la propria vita potrà destare l’interesse di sistemi di intelligenza artificiale in mano a militari e centri di ricerca.
Tra i sistemi considerati a basso rischio la normativa UE comprende i chatbot, il cui unico obbligo e di soddisfare il requisito di trasparenza affinché l’utente possa sempre sapere se sta parlando con un’intelligenza artificiale o con un essere umano. Questo aspetto apparentemente insignificante rispetto agli ambiti più critici oggetto della normativa definiti a rischio alto o inaccettabile nasconde in realtà insidie del tutto ignorate, o quanto meno sottovalutate, come vedremo più avanti quando affronteremo il rischio insito nella capacità di simulazione su cui si fonda la potenza e la credibilità dell’Intelligenza Artificiale nella riproduzione del linguaggio umano.
Emancipazione e Progresso
Nella narrazione mediatica, volta a “formare” più che a informare, la tecnica è presentata come intrinsecamente innovativa e può svolgere la sua funzione di creazione della realtà favorendo il progresso a patto che tale funzione si svolga garantendo diritti, inclusività, trasparenza. Il progresso non può naturalmente prescindere da investimenti e competitività che si traducono in opportunità per tutti, come solennemente promesso dal modello economico neoliberale.
L’uso ideologico del linguaggio, in questo caso riferito al termine “progresso”, implica una distorsione semantica, “una scelta preanalitica nella quale i significanti indirizzano l’interlocutore verso una direzione prestabilita” [4].
La parola “progresso” deriva dal latino prōgressŭs, composta da pro avanti e gressŭs passo, e indica il procedere, avanzare, andare avanti. Il termine originariamente indica un incremento di spazio, quindi una “quantità”, e solo nel tempo ha assunto anche il significato generico di miglioria fino a diventarne sinonimo.
La suggestione evocata dall’incremento di produzione e produttività, e quindi di quantità come risultato di innovazioni tecniche a partire dalla prima rivoluzione industriale ha fatto sì che il concetto di progresso coincidesse con quello di innovazione e questo con quello di beneficio generalizzato e diffuso. Il termine “progresso” che inizialmente ha significato andare avanti e indicava un incremento di quantità, di spazio percorso, finisce per legarsi e fondersi con un significato di qualità che implica un giudizio di valore, qualcosa di universalmente positivo e auspicabile. La parola “progresso” non dà in sé indicazioni su eventuali esiti del progredire. Anche un tumore può progredire, così come andare avanti su un sentiero sconosciuto è un’avventura che può portare in un campo fiorito o verso un precipizio.
Nel linguaggio comune espressione del pensiero dominante il significato di progresso si associa fino a sovrapporsi a quello di emancipazione, nel senso che il progresso non può che produrre emancipazione e l’emancipazione altro non è che progresso. Il significato di emancipazione è liberare da uno stato di schiavitù, oppure di soggezione o d’inferiorità, specie sul piano economico o sociale. L’equivalenza di significati tra progresso ed emancipazione non ha alcun fondamento, tuttavia soddisfa la necessità di mutare il concetto piuttosto vago di progresso in una categoria morale al riparo da critiche di carattere politico o sociale.
Osservando l’evoluzione storica dell’automazione dei processi produttivi possiamo notare come essa abbia incrementato produzione e produttività, realizzando quindi un progresso, contestualmente ad una diminuzione del livello occupazionale e dei salari che in termini di emancipazione rappresentano un arretramento.
Progresso, scienza e tecnologia sono parole ormai inservibili, utili solo a costituire le categorie di un discorso ideologico in cui è stabilito in partenza ciò che è buono e giusto. La scienza e la tecnologia non sono finalizzate alla conoscenza pura o alla risoluzione di problemi, ma sono subordinate alle possibilità di applicazione, ovvero alla produzione e al controllo che ne possono derivare secondo gli interessi di chi governa le sorti del mondo.
La discussione su scienza e su innovazioni tecnologiche, e in questo caso sull’Intelligenza Artificiale, non deve entrare mai nel merito e non è possibile ricevere risposte ad una serie di domande. Chi sono i proprietari di questo tipo di tecnologia?Quali altri scopi si possono raggiungere oltre quelli dichiarati e formalmente leciti? Chi ne trae davvero beneficio e chi ne paga il prezzo? Quale criterio adottare per valutare cosa si guadagna e cosa può andare irrimediabilmente perduto?
Addetti all’informazione ed esperti non hanno alcun interesse a tentare una valutazione critica, per la ragione che la cosiddetta “classe intellettuale, di fatto, costituisce una sorta di “sub-élite” mondiale, che corrisponde, in larga parte, a quella che erano gli scribi e le caste sacerdotali del passato. Essa ha, da un lato, la funzione di “cinghia di trasmissione” per i desiderata delle élite; […] dall’altra, ha il compito di costruire e trasmettere, in vario modo, la visione del mondo (o ideologia) sulla quale il sistema si regge. [5]
La veste giuridica, l’AI act, pur tracciando confini piuttosto sfumati tra ciò che è lecito e ciò che non è permesso, assolve al ruolo di minima regolazione nell’ambito di una governance estranea agli interessi dei comuni cittadini che restano soggetti passivi e ignari, se pur plaudenti, di un fenomeno di cui non immaginano minimamente la reale portata.
Intelligenza Artificiale e Transumanesimo
Andando oltre ogni ambizione transumanista sappiamo che nessuna macchina potrà mai essere senziente, cioè dotata di sensi e di sensibilità, perché non può esserlo anche se è programmata per apparire come tale. Allora perché la parte più consistente della ricerca sull’intelligenza artificiale applicata ai chatbot si concentra più sulla capacità di simulazione che sulla qualità dei contenuti?
La credibilità che un utente medio attribuisce ad una affermazione o ad un ragionamento dipende più dalla credibilità percepita dell’interlocutore che dalla forza intrinseca di tali affermazioni o ragionamenti. La credibilità è sempre una questione di fiducia e non può mai prescindere né dal coinvolgimento emotivo e né da un minimo grado di empatia. Ed è per questa ragione che i produttori concentrano i loro sforzi nel costruire macchine che appaiano credibili prima ancora di essere attendibili, e per essere credibili si può anche essere macchine, a patto che ci convinciamo che un’anima muova e vivifichi questo artificio.
È evidente che ci si trova immersi nella manipolazione e nell’autoinganno, ma dal punto di vista di chi produce e sviluppa questi sistemi di AI che simulano il comportamento umano fingendo di provare sentimenti ed emozioni e al contempo in grado di suscitare nell’interlocutore sentimenti ed emozioni come se il coinvolgimento emotivo e l’empatia fossero realmente condivisi, i vantaggi sono molteplici.
Il controllo della sfera emotiva di un individuo ne consente in definitiva il controllo totale e ciò è possibile per il bisogno incomprimibile di interazioni umane.
L’essere umano è naturalmente portato alla socialità e all’interazione con altri esseri umani non solo per esigenze produttive, riproduttive o di sopravvivenza. Tuttavia la socialità ha sempre delle implicazioni potenzialmente sovversive. Mirare al controllo definitivo delle emozioni attraverso l’interazione con l’AI, sostituire la socialità reale con quella virtuale e l’essere umano con la macchina, significa realizzare il controllo completo sugli individui e sulla collettività.
Una macchina non è senziente e a differenza dell’essere umano che ha emozioni non può tradire gli scopi per cui è programmata. Per quanto siamo consapevoli di interagire con una macchina sarà improbabile sottrarsi all’inganno della simulazione e reagiremo alle parole che leggiamo o che ascoltiamo con emozioni e sentimenti, finendo per credere che la nostra conversazione sia reale e agiremo in conseguenza di questa realtà percepita con tutto quello che consegue in termini di alienazione e dissociazione dalla realtà.
L’intelligenza artificiale è la premessa della distopia transumanista in cui un ristretto numero di esseri umani esercita il controllo sulla maggior parte, convincendola a vivere una realtà immaginaria e alienante dove ogni sfera del vivere sostituisce gli umani con le macchine.
Non dobbiamo preoccuparci quindi che la AI possa diventare senziente, ma che si finisca per crederlo.
Articolo di Franz Altomare
Note:
[1] rainews.it, 24/07/2024, L’IA Act è legge: le nuove regole tra responsabilità, trasparenza, controllo umano (https://www.rainews.it/articoli/2024/07/lia-act-e-legge-le-nuove-regole-tra-responsabilita-trasparenza-controllo-umano-604b63e3-23ee-46d4-a505-cf3c10e201a5.html)
[2] ibidem
[3] Dal Monte P.P, La favola della scienza. Che cosa sappiamo quando crediamo di sapere, Arianna Editrice 2024, p.63
[4] ibidem, p.103
[5] Mariniello, A. L’Alba delle Intelligenze Artificiali: Come la Tecnologia Sta Riscrivendo il Futuro, Edizione del Kindle, p.18
Fonte: https://frontiere.me/intelligenza-artificiale-e-transumanesimo-verso-il-punto-di-non-ritorno/
Commenti
Intelligenza Artificiale e Transumanesimo Verso il Punto di Non Ritorno — Nessun commento