Fantascienza

Ho sempre considerato certe tipologie di fantascienza come esercizi di immaginazione organizzativa. La AI e la robotica, che hanno costituito uno dei temi più battuti dalla fantascienza, non sono più un tema del futuro ma fanno ormai parte della nostra quotidianità. Oggi si tratta quindi di immaginare la loro evoluzione e i loro possibili attriti con il genere umano, alla luce di quello che vediamo accadere giorno dopo giorno, mentre consultiamo le AI generative disponibili e leggiamo le notizie delle novità della robotica.

Così, mentre alcuni racconti sono diventati molto attuali, altri presentano situazioni che presuppongono uno sviluppo ulteriore in questi campi, il momento in cui potremo considerare delle macchine "autocoscienti".

Il racconto "Reset", scritto nel vicino ma lontano 2016, affronta una situazione che oggi preoccupa molto: la sostituzione del lavoro umano da parte delle AI, soprattutto per massimizzare i profitti delle imprese, ma si sofferma maggiormente sulla perdita del controllo conseguente. Le AI, promosse sistemi operativi remoti, diventano una nicchia in cui l'umanità non ha ancora la capacità di adattarsi. Non c'è più ridondanza, non c'è più una attenzione al know-how, non c'è più strategia della sicurezza perché affidarsi alle AI è più comodo e più economico. È quella che si chiama "trappola evolutiva": una specie che crea una situazione che va oltre le sue possibilità di adattarsi ad essa. L'evoluzione biologica è "cieca" e non c'è nessuno che possa fare analisi e stabilire delle traiettorie per affrontare il futuro; quando in quella culturale e tecnologica la lungimiranza si scontra con le esigenze di budget e con la ricerca esagerata del profitto, si ha lo stesso risultato cieco.

Se molti immaginano un conflitto aperto tra uomini e AI, la mia prospettiva si allontana molto da situazioni alla Terminator. La conflittualità e il bisogno di controllo tipici delle nostre società sono caratteristiche umane che vengono dalla nostra storia, fotografano dei nostri bisogni all'interno di un piccolo gruppo. Conferire gli stessi vincoli a delle AI autocoscienti mi è sempre sembrata una forzatura antropo-normativa, che trasforma la nostra organizzazione sociale, contingente e strettamente interconnessa alla nostra biologia e alla nostra storia sociale, in una ricetta universale.