di Vanni Sgaravatti
Non ci potevo credere, poco attento nel tener dietro al proliferare di innumerevoli movimenti e continue nascite di subculture alternative, che ancora emergesse un gruppo come quello che si autodefinisce del “paradismo”.
Un movimento che, proprio mentre il dibattito tra etica e innovazione tecnologica, tra umano e post umano, alla luce di disuguaglianze crescenti, disillusioni e bolle speculative sulle innovazioni digitali è sempre più intenso e approfondito; e dopo le valutazioni sugli impatti sociali di un certo positivismo illuminista, inneggia al paradiso in terra, per così dire, attraverso l’eliminazione della moneta e del lavoro, affidandosi ai robot.
Sinceramente, non varrebbe la pena di rifletterci sopra più di tanto, se non fosse, che un tale manifesto, così esplicitamente al di là di qualsiasi ragionevolezza, non induca a ricordare come sono nate le tecnologie digitali e della comunicazione che hanno radicalmente cambiato il nostro mondo e come sono nate, senza conoscere, in anticipo, gli effetti che avrebbero portato.
Cominciamo dalla considerazione che la pubblicità digitale è efficace quando è correlata a inserzioni che richiamano forti sentimenti, come risentimento o indignazione e facciamo un po’ di storia, comprendendo il motivo per cui la I.A. ha avuto questo successo, pur non avendo portato un grande aumento della produttività e tanto meno di quella marginale per lavoratore, abbia avuto successo. Minmin Chen, ad di Google Brain a cui You Tube si rivolse per migliorare la fidelizzazione dei propri utenti, dichiarò ufficialmente che erano riusciti a manipolare i comportamenti e non solo a suggerire video che rispondessero alle preferenze. Ad esempio: l’algoritmo selezionava video su complotti da proporre a tutti gli utenti che aprono quello sull’attentato alle torri gemelle. All’origine di queste tecnologie lavoravano sull’interazione uomo macchina, Page (Pagerank) e Engelbar e sulla possibilità di ricercare informazioni sulla base di parole che compaiono in un testo. Ma i siti e le pagine su internet erano tantissimi e occorreva trovare un modo per dare un peso e una priorità ad ogni pagina in una ricerca di informazioni. L’algoritmo inventato pesava sia il numero di click che i link che arrivavano dai siti più cliccati.
Allora non pensavano alla pubblicità e la licenza di questo software di ricerca non interessava a nessuno. Ma un certo Becktolsheim mise sul piatto 100 mila dollari per fondare Google e poi Ad words con lo scopo di fare inserzioni pubblicitarie mirate. Una questione di cui erano ben consapevoli fin dall”800, quando il problema della pubblicità era quello che la metà degli annunci andava a persone non interessate.
Da lì cominciò la rilevazione degli “ip”, cioè degli indirizzi informatici, il collegamento dei “clic” con informazioni sempre più personalizzate: localizzazione dell’utente, ecc.; migliorando così la targetizzazione della pubblicità. I primi software per rilevare informazioni sugli utenti social, attraverso l’elaborazione di metadati (da dove parla, con quali computer si collega) fallirono perché violavano la privacy e la questione era come superare questo problema. Fu assunta un’esperta, Sandberg, come direttrice, che non aveva certo l’obiettivo di sorvegliare il mondo, né di vendere le sue idee a chi voleva farlo, ma solo a rendere più efficace la pubblicità.
Condivise con Zuckenberg che, all’interno di Facebook, occorreva rafforzare la fiducia, in modo che gli utenti nei social si sentissero sé stessi e diffondessero le informazioni personali volontariamente. La prima innovazione furono i Likes. Poi approfondirono il modo di esprimere sinteticamente le proprie emozioni, così da attirare e mantenere l’attenzione per il maggior tempo possibile e nella maniera più redditizia. Tutto questo per offrire agli inserzionisti la possibilità di far arrivare la conoscenza dei prodotti e servizi a persone simili ai propri migliori clienti. Ma per intensificare la produzione di dati occorreva aumentare le interazioni e, quindi, condussero test sistematici non per manipolare direttamente le persone, ma per capire quali era la forma dei post che producevano reazioni efficaci – fin qui nessuna strizzata d’occhio ai mainstream o ai complottisti, vanno bene tutti, indifferentemente – scoprendo che provocare sentimenti di disapprovazione, rifiuto, risentimento, rabbia favoriva maggiori interazioni.
E sono i sentimenti che fanno passare più tempo sui social. Varie ricerche di psicologia sperimentale dimostrarono che più si passa tempo nei social più aumentano sentimenti di inadeguatezza e invidia, che aumentano sentimenti di disapprovazione e risentimento e, infine, più tempo nei social, in un circolo vizioso senza fine. Gli informatici, peraltro, cominciarono a migliorare gli algoritmi, senza neppure loro, pensare agli effetti negativi e senza pensare in questo modo di aumentare il potere di controllo e sorveglianza, ma semplicemente per avere maggiore successo sull’efficacia delle inserzioni pubblicitarie.
Dopo le elezioni presidenziali di Trump, Facebook provò a modificare i propri algoritmi, ma visto le ricadute negative commerciali ritornò sulle proprie decisioni, con la giustificazione che non si doveva limitare la libertà di espressione. Fb e Instagram devono continuare ad offrire un palcoscenico di un terzo dell’umanità ad ogni persona abominevole di questo pianeta. Per fini commerciali, ovviamente. I nemici di Trump passano più tempo ad ascoltare notizie di Trump o del politico italiano da smascherare che non ad ascoltare le parole del saggio politico con cui concordano.
Come già detto, non ci sono persone o mainstream che gli algoritmi favoriscono, non hanno anima, non privilegiano contenuti, ma, proprio per questo, molti sono indotti a pensare che sia la tecnologia il mostro che ruba l’anima, visto che è difficile incontrare l’uomo cattivo, con tanto di nome e cognome che pianifica il male, consapevole fin dall’inizio delle nefaste conseguenze. Solo che questo non dimostra che la tecnologia sia il diavolo e la causa di tutti i mali, solo perché non si identificano i complottatori. Inutile quindi diventare neoluddisti oppure invece fautori della tecnologia come bacchetta magica, per liberarci dal lavoro come propongono certi appartenenti al neomovimento del “paradismo” o comunque si chiami.
È sempre la nostra inadeguatezza culturale che viene sfruttata dai concreti rapporti di potere consolidati dalla crescente disuguaglianza. I singoli potenti e coloro che sono incentivati dal sistema che questi presidiano, si infilano nel sistema che trovano e che possono sfruttare per i loro emergenti interessi contingenti. Non sono diavoli pianificatori del sistema stesso presente e futuro. Ma perché la tecnologia digitale, per come è stato orientata dagli umani, ancorché non consapevoli è contingentemente antidemocratica?
Tutte le tecnologie possono influenzare in un modo o nell’altro. La Radio influenzò l’opinione degli elettori e negli anni ’30 fu utilizzata per spiegare agli americani il new deal, ma fu anche utilizzata da Charles Coughlin, detto Padre Coughlin, per contrastare la politica di Roosevelt e per propagandare l’antisemitismo.
Tant’è vero che, da ricerche successive svolte dopo la guerra, si scoprì che, nei posti dove la radio di Padre Coughlin arrivava, Roosevelt ebbe meno consensi e nacquero partiti filonazisti.
La democrazia ha bisogno di luoghi dove persone, non selezionate sulla base del livello sociale di appartenenza, si incontrano, parlano, e sono liberi di associarsi e per questo possono democraticamente influenzare la politica.
Per questo, inizialmente, lo strumento della IA sembrava qualcosa che potesse far compiere passi avanti verso quella reale, ma affidando questo processo di liberazione dallo sfruttamento del lavoro, allo strumento, indipendentemente dal sistema sociopolitico in cui è inserito, (il manifesto del “paradismo”) si rischia di fornire una fittizia giustificazione per l’adozione acritica dello stesso strumento. Uno strumento che poi viene governato da quelli in grado di utilizzarlo e comprenderlo.
I signori del domani: cambiare tutto per non cambiare nulla.
E questi tenderanno, come succede oggi per i progettisti dell’IA, a sentirsi progressisti, pur essendo i sacerdoti dei nuovi totem tecnologici.
Alle persone che continuano ad invocare le bacchette magiche, occorre a mio avviso dire che non esiste scorciatoia ad un faticoso studio e riflessione sulle dinamiche che portano al progresso e al potere: quale fu il lento processo che portò a adottare strumenti di scambio, la moneta, l’accumulo, la schiavitù, il lavoro dipendente, l’utilizzo della tecnologia non per arricchire mansioni, senza aumentare la produttività marginale e portando a quella disuguaglianza in cui sempre meno persone hanno sempre più risorse? Riflessioni che sono il frutto di faticosi studi, confronti storico-antropologici, psicologici, sociologici e ancora più faticose lotte per modificare i rapporti di potere di governance, facendo fare un salto di qualità alla democrazia.
È forse stato un manifesto di un movimento che ha convinto i più ad adottare la linea ideologica dei meno, ad accettare le catene da cui questo strano movimento “paradismo” ci vuole liberare? Chi progetta e produce il robot “salva felicità”? Chi forma e chi viene formato? Il manifesto di questo movimento è un esempio (paradossale) su cui, forse, non è necessario ragionare troppo, ma ci permette di capire dove può portare l’adozione di nuove tecnologie, senza un processo che assicuri una condivisione inclusiva delle conseguenze, magari con l’accompagnamento di narrazioni a colpi di manifesti. La vera preoccupazione è quindi quella dell’avere innescato un circolo vizioso, dove la democrazia indebolita anche dalla IA, costituisce un contesto ancora più favorevole all’adozione delle I.A.
Fino a quando non ci saranno poteri compensativi e ci sarà l’attuale modello di impresa, che massimizza le interazioni rabbiose e recriminatorie, l’Ia aumenterà la distanza, la disuguaglianza, la solitudine.
Del resto, come si fa a sapere se due più due fa quattro, se il mondo esterno esiste solo nella nostra mente e la mente è sotto il controllo di emozioni alimentate da algoritmi? E se si bombardano le persone di falsità, si rischia che poi non crediamo più a nulla e quindi, non abbiano più la motivazione per opporsi a nulla e facciano cadere nel dimenticatoio l’esperienza umana della mediazione e del compromesso con l’altro.
(14 gennaio 2024)
©gaiaitalia.com 2024 – diritti riservati, riproduzione vietata
