Nato come un biglietto di istruzioni e scoperta della macchina, IBM nel 1979 ha creato un manifesto di cosa il computer era in grado o meno di fare. Inutile dire quanto oggi tutto questo sia cambiato.
Nel 1995 Lou Gerstner, allora CEO di IBM, lancia un manifestio ideologico che segnò il passaggio di internete da giocattolo per accadmeici e hacker a una vera e propria infrastruttura fondamentale della società e dell’economia. Questo è l’esatto momento in cui la tecnologia smette di essere subcultura e diventa struttura.
Negli anni ’90 IBM era più che un’azienda, rappresentava l’istituzione informatica per eccellenza, soprannominata perfino Big Blue. Si occupava di gestire i grandi computer che occupavano intere stanze di banche e ministeri, i cosiddetti mainframe. All’inizio degli anni ’90 rischia però il fallimento: il mondo si stava spostando verso i PC, più piccoli e individuali. Ecco che Lou Gerstner fa la sua mossa con il manifesto sul ruolo delle macchine. Ai tempi IBM rappresentava un vero e proprio punto di riferimento e se il gigante blu diceva che internet era il futuro, allora le azione e i governi non potevano che fidarsi.
IBM trasformò internet da uno spazio di anarchia per hacker a uno strumento per il progresso globale.
Dobbiamo anche pensare che nel 1995 internet non era ovvio come lo è oggi per noi. La percezione pubblica si divideva in due direzioni: chi lo percepiva come la nuova frontiera e chi invece lo guardava con scetticismo e paura. Se alcuni ritenevano internet un posto adatto alla nascita di una democrazia radicale, uno spazio per curare l’alienazione delle città moderne, altri vedevano nel web una perdita di tempo e un wild west fatto di truffe e virus informatici.
IBM capisce la problematica e si impegna per far passare la percezione utopica a una funzionale, dove internet rappresentava un’infrastruttura per la vita quotidiana e non un cane a tre teste.
Il manifesto di IBM non parla di libertà, ma di efficienza.
Gerstner predisse che il PC non sarbbe stato il protagonista ssoluto per troppo tempo, ma capì che il valore si sarebbe spostato dal singolo computer alla rete intera. Ecco quindi uno dei punti: “I PC non sono più il centro. Il Network è il centro”.
Ma oggi come stanno le cose?
Beh, Gerstner ci ha decisamente visto lungo. Oggi usiamo smartphone o tablet tutti i giorni, ma questi sarebbero intutili senza una connessione. La potenza dei calcoli e i nostri dati non sono sul dispostivo, ma nel Cloud. “il vero potere non è in ciò che hai nella scrivania, ma a cosa sei connesso” e direi che oggi più che mai questa affermazione risuona coretta.
“L’e-business è il matrimonio tra le tecnolgoie di rete e i sistemi informativi tradizionali”. IBM voleva rassicurare le banche e le industrie dicendo che internet non avrebbe distrutto il vecchio mondo, ma lo avrebbe potenziato. Oggi possiamo affermare che è avvenuta una digitalizzazione integrale, non esiste più un processo tradizionale che non sia digitale.
“Internet deve essere un ambiente di fiducia”.
IBM insisteva che senza sicurezza non ci sarebbe stato commercio. “La fiducia è la moneta del regno digitale”. Sì, però…
Vero è che IBM pensava alla sicurezza contro gli hacker, non immaginva minimamente che la minaccia alla fiducia sarebbe arrivata dalle piattaforme stesse. Oggi non ci fidiamo del web, ma non abbiamo alternativa. La fiducia è stata sostiuita dalla sorveglianza e la moneta non è più la stessa, ma lo sono diventati i nostri dati comportamentali.
“Internet non è più una destinazone, è un modo di fare le cose”. IBM voleva rompere l’idea che internet fosse un posto dove andare, un sito da visitare ogni tanto. L’azienda puntava alla sua trasformazione in tessutto connettivo di ogni attività, dal controllo del magazino al pagamento delle tasse. Effettivamente oggi c’è quella che definiamo “ubiquità digitale”, internet ha smesso di essere uno strumento da un pezzo e possiamo affermare che la distinzione netta tra online e offline non esista più. Anche qui la previsione del Gigante Blu si è concretizzata, ma il diritto alla disconessione è stato eliminato.
Se fin qui sembra tutto un susseguirsi di predizioni alla Nosferatu, voglio spostare la vostra attenzione a un altro documento di IBM, uscito qualche anno prima nel 1979, solo di diffusione interna per i manager che dovevano imparare a gestire l’introduzione dei computer nelle aziende.
Nelle slide di presentazione di IBM, negli anni ’70, si cercava di definire il confine ontologico tra uomo e macchina.
“Un computer non può mai essere dispettoso”. Se così IBM voleva rassicurare sulla neutralità della macchina, oggi assistiamo alle decisioni anche discriminatorie degli algoritmi che finiscono per penalizzare categorie intere di persone.
“Un computer non può mai essere eccitato, libidinoso”, una semplice frase per sottolineare che le macchine non hanno bisogni biologici o desideri, non sono distratte da impulsi emotivi, il lavoro della macchina è puro, costante. Oggi invece ci troviamo nell’era della sessualizzazione dell’IA e sebbene la macchina non provi eccitazione, il mercato la progetta per stimolare quella umana. La macchina è diventata un oggetto e un soggetto di proiezione del desiderio, rompendo quella barriera di purezza asettica prevista da IBM.
“Un computer non può mai essere frustrato”, la macchina può lavorare 24 ore su 24, senza stancarsi, è il lavoratore perfetto per la società industriale.
Può fare un lavoro ripetittivo senza demotivarsi o prendersi una pausa. Sì, ma: la frustrazione è stata trasferita dal computer all’utente con la “frustrazione algoritmica”, quando l’utente deve lottare contro un software che non capisce i suoi bisogni o il rider che deve correre perchè l’app “non si stanca” e impone ritmi disumani.
E ancora: “un computer non ha coscienza”. Per IBM questa rappresentava una garanzia di obbedienza, il computer esegue gli ordini senza porsi dilemmi morali. Questo oggi ha creato dei problemi. Uno tra tanti è l’etica degli algoritmi, dato porprio dalla mancanza di coscienza della macchina. Potremmo calcolare traiettorie per un missile o per un vaccino, la macchina lo eseguirebbe senza problemi, ma porprio per la mancata coscienza si possono perpetuare ingiustizie sistemiche in modo asettico e senza rimorso.
“Un computer non può pensare, può solo elaborare”, ma oggi con l’Intelligenza Artificiale Generativa il confine tra le due azioni è sottilissimo.
IBM voleva ricordare la distinzione tra pensiero critico dell’uomo e l’elaborazione dei dati, tipica della macchina. Oggi però il monopolio umano sulla creatività e sul ragionamento logico è stato rotto. Così come oggi le macchine raggiungono obbiettivi con risultati sorprendenti o perfino inquietanti per i programmatori. “Un computer può fare solo ciò che gli viene detto di fare”, se prima era il dogma della programmazione con il totale controllo umano del codice, oggi i computer non ha bisogno di nessuna indicazione per arrivare dove devono, sfuggendo anche al controllo dei programmatori.
Ma il punto centrale del “biglietto illustrativo” è lo scambio di responsabilità tra la macchina e l’uomo.
“Un computer non può mai essere ritenuto responsabile, pertanto un computer non deve mai prendere una decisione gestionale”. Oggi invece gli algoritmi leggono i curriculum e hanno un certo peso sull’assunzione o meno di qualcuno. Ci affidiamo all’Intelligenza Artificiale per consigli medici. E se un algoritmo sbaglia ci impiegamo pochissimo tempo a dare la colpa al sistema, creando un vuoto di responsabilità.
Questo ha portato a un paradosso: deleghiamo le decisioni alle macchine, ma non abbiamo un sistema per punirle o correggerle quando sbagliano.
Questo vuoto però non è un errore tecnico, un error 404 per rimanere in tema, ma più che altro una strategia di potere. Permettere alle macchine di decidere senza che nessuno ne risponda permette alle grandi organizzazioni di esercitare un controllo immenso sulla vita delle persone riducendo però al minimo i rischi legali e le critiche sociali. Il computer non ha responsabilità e a oggi lo usiamo proprio come scudo per non far ricadere la stessa su di noi.
Il problema non è tanto nelle macchine che sono diventate effettivamente dispettose o eccitate, ma il fatto che noi abbiamo costruito una società che tratta le persone proprio come macchine.
Nel 1979 IBM affermava che la macchina era priva di bisogni con la prerogativa di non stancarsi mai, oggi il mercato del lavoro chiede agli uomini di fare altrettanto.
Il documento riletto adesso sembra più una lista in cui controllare in cosa il computer è “cresciuto”, migliorato (forse). Nato come un manifesto per tracciare un confine netto tra l’agire umano e quello meccanico, doveva servire ai manager di allora a non temere i computer, a non vederli come rivali, ma come strumenti privi di anima.
Io personalmente pagherei per vedere la faccia di Lou Gerstner la prima volta che ha letto la notizia del matrimonio tra Alicia Framis e l’ologramma IA, AiLex.
