Così, se nel 1945 perfino un visionario come Vannevar Bush, precursore della nozione di ipertesto, poteva scrivere che «pensiero creativo e ripetitivo sono cose molto diverse», e argomentare che solo per quest'ultimo ci possono essere «potenti aiuti meccanici», oggi tutto è cambiato. Come racconta il volume di Steiner, infatti, sono gli algoritmi a decidere quali canzoni saranno le prossime hit radiofoniche o a valutare il successo al botteghino di un film prima ancora che venga realizzato. Anzi, subordinandone la realizzazione alle stime di incasso computerizzate. Non solo: in alcuni casi l'algoritmo diventa l'artista. Un artista che non soffre di blocchi compositivi, non invecchia. E non teme rivali. Già nel 1987 Emmy, ideato dal professore emerito alla University of California di Santa Cruz, David Cope, è stato in grado di creare 5 mila composizioni sulla falsariga di Johann Sebastian Bach in una pausa pranzo. Dieci anni più tardi, le sue opere erano talmente credibili da indurre un uditorio di esperti a considerarle umane - passando così una sorta di test di Turing musicale. Alcuni si sono chiesti: lo spartito era di Cope o di Emmy?
Ma anche questa domanda sarà presto consegnata alla storia, dato che il nuovo algoritmo di Cope, Annie, «impara a imparare». Certo, Steiner ammette che c'è ancora un dominio dell'umano dove l'automazione arranca. Il poker, per esempio: regno dell'infingimento, del bluff, dell'irrazionale che si rivela tutt'altro che irrazionale. Ma se sono righe di codice a studiare la personalità dei clienti così da fornire a ciascuno l'interlocutore telefonico adatto (grazie ai suggerimenti del software, i call center risolvono il doppio dei problemi nella metà del tempo), e se gli indici di influenza online iniziano a determinare le nostre chance di successo nell'ottenere un posto di lavoro, si comprende come quel dominio sia destinato a restringersi ulteriormente.
«Il nostro futuro sarà pieno di bot che ci giudicheranno, indirizzeranno e misureranno», scrive l'autore, sostenendo che «l'abilità di creare algoritmi che imitino, migliorino, e da ultimo rimpiazzino gli esseri umani è l'abilità di primaria importanza dei prossimi cento anni». E che, di conseguenza, gli studenti dovrebbero puntare sulla programmazione: «Questi posti di lavoro non scompariranno».
Se creare algoritmi serve a combattere la crisi, giova ricordare come questi ultimi siano anche sul banco degli imputati. Il tema è materia di dibattito, ma non manca chi fa notare che se oggi il mercato azionario statunitense è controllato per il 60% da algoritmi senza alcuna supervisione umana, e se il mercato fallisce, è impossibile considerare l'automazione del tutto innocente.
In un'epoca in cui si investono milioni e milioni di dollari e si squarcia il terreno per posare connessioni in fibra ottica che consentano un vantaggio competitivo di pochi millisecondi, il panico finanziario è questione di istanti. Come per il cosiddetto «flash crash» del 2010, quando pochi minuti sono bastati per far perdere, e poi altrettanto misteriosamente riguadagnare, circa 1.000 punti (il 9%) all'indice Dow Jones. All'epoca cinque secondi di stop alle transazioni furono sufficienti per fermare la spirale distruttiva, ma il problema è che - a distanza di due anni - non c'è ancora chiarezza su cosa sia realmente successo. È un aspetto imprevisto della dittatura dell'automatico: non necessariamente coincide con una perfetta conoscenza e prevedibilità delle sue conseguenze. Anzi, «stiamo scrivendo cose che non riusciamo più a leggere», ammoniva il consulente e imprenditore tecnologico Kevin Slavin a luglio 2011 durante una conferenza Ted in cui parlava dell'intrusione degli algoritmi nella creatività come della «fisica della cultura».
E se interagire con altri esseri umani dovesse diventare un problema da risolvere attraverso un numero finito, e prestabilito, di passi? La domanda non è peregrina, dato che la scuola, l'ospedale e perfino la politica, secondo Steiner, sono i prossimi territori di conquista dell'automazione. Non c'è il rischio di spersonalizzare i rapporti sociali? «Sarà una sfida», risponde l'autore alla «Lettura», immaginando il futuro: «Credo che finiremo per avere una società segregata non solo secondo fattori classici quali reddito e razza, ma anche secondo il crinale che separerà chi cercherà attivamente interazioni umane da chi non lo farà».
Comunque vada, il rischio è che l'offerta di prodotti culturali, alla mercé del giudizio di un codice, sia sempre più omogeneizzata. Steiner concorda. Perché, da un lato, è vero che «le nostre classifiche di musica pop traboccano già di musica assolutamente generica, a volte straziante». Ma, dall'altro, «dobbiamo chiederci: un algoritmo troverebbe i Nirvana?». Difficile, dato che parte della grandezza della band di Kurt Cobain è stata proprio portare alle masse ciò che prima si riteneva di nicchia. Più in generale, pensando alla quantità di funzioni svolte dagli algoritmi - dai motori di ricerca alla crittografia, dal riconoscimento facciale all'e-commerce - parrebbe corretto concludere, con l'imprenditore John Bates, che siano «i nuovi schiavi». Ma, all'alba di un'epoca in cui imparano ad autoregolarsi, il rovesciamento di prospettiva diventa un'ipotesi da prendere in seria considerazione. Senza necessariamente sposare l'assunto computazionalista - la mente è un calcolatore, quindi dal calcolo può nascere una mente - che aleggia in tutto il testo di Steiner. E che forse ne motiva l'unico difetto: la mancanza di approfondimenti critici.
Dopotutto, il titolo (in italiano «Automatizza questo») si presta a una lettura di segno opposto: questo, cioè una riflessione sui limiti degli algoritmi, è ancora impossibile da automatizzare." (da Fabio Chiusi, La dittatura degli algoritmi, "Corriere della sera", 25/11/2012)
