In un rapporto commissionato dal presidente della Repubblica Francese Giscard D’Estaing, e pubblicato nel 1979 col titolo L’informatisation de la societé, l’ingegnere Simon Nora e il sociologo Alain Minc scrissero, anticipando il futuro, che la telematica, connessione di rete telefonica e calcolatori (quel che noi oggi conosciamo come Internet) era destinata a togliere efficacia all’azione dello stato nazionale e quindi della decisione politica.
La fine della sovranità nazionale prevista in quel libro è divenuta evidente nei decenni della globalizzazione economica e dell’iper-potenza finanziaria. La cultura neo-liberale ha intenzionalmente favorito questa tendenza post-sovranista, e le corporazioni semiocapitaliste sono fiorite grazie alla deregulation che è seguita al declino del potere politico delle nazioni, e anche della democrazia.
Negli anni seguiti al collasso finanziario del 2008 poco alla volta è emersa una potente contro-tendenza, che si manifesta nell’onda di nazionalismo che sta montando in ogni parte del mondo. Il trionfo elettorale della destra reazionaria è un sintomo della rabbia delle popolazioni impoverite, ma anche il tentativo di riaffermare la forza della sovranità politica, intrinsecamente legata alla localizzazione territoriale del potere.
Il globalismo neoliberista ha tolto ogni efficacia alla volontà popolare e alla stessa azione politica, per cui solo la distruzione delle infrastrutture economiche della globalizzazione sembra poter restaurare la potenza e l’efficacia della politica e della democrazia. Possiamo credere cha questa politica neo-reazionaria restituirà potere d’acquisto alla società? Può essere restaurata la sovranità nazionale, e la democrazia può affrontare e regolare le corporazioni globali, in particolare quelle compagnie che agiscono nella sfera della semiosi (informazione, software, piattaforme di condivisione, intelligenza artificiale, automazione cognitiva e così via?) Io non lo credo.
Ciò significa forse che il potere delle grandi corporation non può essere contenuto in nessun modo?
Non esattamente. In questo testo provo a elaborare le linee di una strategia che possa affrontare le iper-corporazioni semiotiche partendo da un’esperienza di cui siamo stati informati nella primavera 2018: si tratta di un conflitto che riguarda il rapporto tra Google e il Pentagono, cioè la più grande semio-azienda e la più grande centrale militare mondiale. Partendo da questo evento proverò a rispondere alla questione più importante: può costituirsi una soggettività capace di affrontare efficacemente le iper-corporazioni?
Nella Declaration of independence of the cyberspace, pubblicata nel 1993, quando stava appena emergendo il world wide web, John Perry Barlow, dell’Electronic Frontier Foundation, scrisse:
“Governi del mondo industriale, pesanti giganti di carne e di acciaio, io vengo dal ciberspazio, la nuova dimora della mente. In nome del futuro, chiedo a voi del passato di lasciarci in pace. Non siete benvenuti tra noi. Non avete alcuna sovranità nello spazio in cui ci troviamo noi.
Non abbiamo alcun governo, né pensiamo di volerne avere alcuno, per cui io mi rivolgo a voi con la sola autorità della libertà. Dichiaro che lo spazio sociale globale che stiamo costruendo sarà naturalmente indipendente dalle tirannie che voi tentate di imporre. Non avete il diritto morale di governarci e non avete alcuna possibilità di imporci qualcosa che noi possiamo temere.”
Queste parole potevano sembrare retoriche o arroganti quando furono pronunciate, ma venti anni dopo quel proclama la nozione che il ciberspazio non può essere regolato dall’autorità dello stato nazionale è divenuta senso comune.
Le semio-corporazioni, agenzie la cui attività economica è collocata nella sfera deterritorializzata della rete, sfuggono alla regolazione politica fiscale e sociale degli attori politici territorializzati. E questo è dovuto alla strutturale asimmetria delle loro sfere di azione.
L’Unione Europea sta cercando di imporre la sua autorità fiscale e politica a compagnie come Google e Facebook. Non discuto la legittimità morale di un simile tentativo di regolazione, e non nego che qualche risultato possa essere ottenuto su questo piano. Ma alla fine l’efficacia della regolazione nazionale o sopra-nazionale è debole per ragioni strutturali. La condizione per imporre l’autorità fiscale è la territorialità dell’impresa, mentre i flussi di informazione che costituiscono il prodotto economico delle info-imprese globali sono al di fuori della portata del controllo politico territorializzato.
La filosofia libertaria orgogliosamente enunciata da Barlow si è evoluta in una sorta di nuovo totalitarismo fondato sulla pervasività illimitata del controllo info-economico. I tecno-libertari affermarono la libertà della rete dalla regola territorializzata, ma la libertà delle semio-corporation coincide tendenzialmente con l’assoggettamento e l’automazione della cognizione e quindi del comportamento sociale.
Le entità che sfuggono al controllo della legge traggono il loro potere dal controllo che esercitano sul tessuto cognitivo e sugli scambi quotidiani che rendono possibile la sopravvivenza sociale. Di conseguenza nessun attore politico può fermare il processo di implementazione dell’automa.
Raphael Behr scrive:
“La tetrarchia GAFA (Google, Amazon, Facebook, Apple) ha un’influenza sulla vita economica e sociale di centinaia di milioni di persone che non ha precedenti nella storia umana. Non soltanto la loro dimensione finanziaria fa girare la testa, ma il loro raggio di azione pervade la sfera intima. Sanno dove abiti, cosa compri, e conoscono le tue tendenze politiche e personali.”
(Raphael Behr, The tech giants’ empire must fall – but they won’t go without a fight in The Guardian online)
Il ruolo svolto dalle semio-corporation nella formazione dell’opinione pubblica (e l’influenza politica che possono esercitare) è stata recentemente oggetto dell’attenzione delle forze democratiche soprattutto nel mondo occidentale.
Debbono i governi regolamentare i flussi della rete? Debbono censurare i discorsi di odio? Debbono istituire regole e limiti alle libertà di espressione?
Si tratta di un compito che appare tanto urgente quanto impossibile, non solo perché implica la violazione della libertà di espressione, ma soprattutto a causa dell’ambiguità costitutiva del linguaggio. Regolamentare il linguaggio non è un compito semplice, soprattutto quando la circolazione dei segni è illimitata. Per fare un esempio sappiamo quanto sia difficile per i moderatori distinguere tra un messaggio razzista e un messaggio sarcastico che intende ridicolizzare i razzisti.
Mi è personalmente accaduto un episodio interessante. Un anno fa ho pubblicato nel mio profilo Facebook una bandiera europea contenente una svastica, piazzata all’ingresso di un campo di detenzione per richiedenti asilo. Per i miei amici il significato di quella svastica è chiaro: denunciare la politica europea sulla questione migrante come pericolosamente nazista. Ma dopo qualche settimana Facebook mi comunicò di aver rimosso quell’immagine perché non rispettava i codici etici dell’azienda.
Naturalmente mi sono ben guardato dal reagire, ho accettato ben volentieri la ben intenzionata censura Facebook, ma intimamente ho compreso quanto impossibile sia la decifrazione automatica dell’ambiguità del processo di significazione umana.
Inoltre la quantità di contenuto da esaminare richiede necessariamente sorveglianza algoritmica, e questo garantisce poteri straordinari ai programmatori che hanno il compito di inserire limiti morali nel software. Le autorità europee si trovano di fronte a un’alternativa del diavolo: o imporre leggi sull’enunciazione linguistica o rinunciare a ogni regolazione sulla dimensione online.
Per finire, il volume e la complessità dell’informazione online è tale che, secondo Alison Cool, proteggere la privacy e controllare la sfera connettiva è al di là delle capacità razionali e regolative.
“Nel 2017 l’anno dopo l’elaborazione di una regolazione europea della sfera online, ho intervistato scienziati, data managers, avvocati, etici e attivisti in Svezia. Ho imparato che molti scienziati e gestori di dati che sono soggetti agli effetti di quel regolamento lo trovano incomprensibile. Perciò dubitano che sia possibile adeguarsi a quelle norme.” (Alison Cool, Europe’s Data Protection Law Is a Big, Confusing Mess, New York Times, May 15 2018).
Insomma, regolamentare le potenze deterritorializzate della semio-economica appare come un compito superiore alle forze della politica e della ragione.
Un tempo le aziende appartenevano al territorio di uno stato nazionale, e quindi erano obbligate a piegarsi ad alcune regole politiche e ad alcuni obblighi fiscali. Non è più così: ora il territorio degli stati nazionali può essere amministrato solo grazie all’infrastruttura deterritorializzata la cui proprietà appartiene a Google.
Il sistema globale delle telecomunicazioni (dal sistema postale alle catene televisive) è stato risemiotizzato da Facebook, mentre le strutture economiche del mondo sono state risemiotizzate dall’indessicalizzazione operata da Google sul territorio pubblicitario, economico, operativo.
Dovremmo dunque giungere alla conclusione che l’ascesa di un sistema tecno-totalitario è inarrestabile? Per rispondere alla domanda sposto il mio punto di osservazione: non mi interessa più la decisione politica degli stati o delle istituzioni, ma mi interessa l’emergere di una soggettività possibile seppure al momento inimmaginabile. La battaglia della mente, che si svolgerà nel prossimo decennio, non sarà lo scontro tra vecchio e nuovo sistema (la stampa contro la rete, lo stato nazionale contro le corporation globali), ma si svolgerà interamente all’interno del processo globale di produzione della net-sfera.
Nella primavera del 2018 i media hanno informato su una polemica relativa a un accordo tra Google e il sistema militare americano, che ha finito per produrre una discussione interna a Google. Alcune considerazioni su questa polemica mi permettono di formulare una risposta alla questione centrale: può emergere una soggettività capace di affrontare le iper-corporation?
Negli anni scorsi Google e il Pentagono hanno discusso a lungo un contratto relativo all’uso militare della ricerca di Google nel campo dell’Intelligenza artificiale. Quando le notizie di questo contratto sono giunte alle orecchie dei lavoratori della compagnia, 4000 di loro hanno firmato una lettera contro la prospettiva che le conoscenze di Google (prodotto del lavoro di duecentomila lavoratori cognitivi che forniscono alla compagnia la loro attività produttiva) possano essere usate per i congegni di puntamento di droni letali.
Il tema è reso particolarmente urgente dal fatto che l’intelligenza artificiale, uno dei punti forti di Google giocherà probabilmente un ruolo sempre più decisivo nella guerra high tech.
In un articolo dal titolo How a Pentagon Contract Became an Identity Crisis for Google leggiamo:
“Venuta a conoscenza dell’accordo Google Pentagono, FeiFei Li, ricercatrice impiegata da Google, uno dei cervelli emergenti nel campo della ricerca in AI scrisse una mail ai suoi colleghi: <occorre evitare a tutti i costi ogni implicazione dell’AI nel militare. La militarizzazione dell’intelligenza ratificare è uno dei punti più sensibili se non il più sensibile di tutti. Questa è ciccia molto desiderabile per i media, che potrebbero trovare tutti i pretesti per danneggiare Google>.” ha scritto Li. La sua preoccupazione sulle implicazioni dei contratti militari di Google ha avviato un processo di discussione tra i lavoratori dell’azienda. La relazione della compagnia con il dipartimento di difesa per l’uso di AI capace di interpretare immagini e per migliorare la tecnica di puntamento dei dreni, ha scatenato una crisi esistenziale nell’ambiente di Google.”
(Scott Shane, Cade Metz and Daisuke Wakabayashi: How a Pentagon Contract Became an Identity Crisis for Google, 30 May 2018, The New York Times).
Dopo settimane di discussione interna e di proteste degli impiegati, e dopo l’interessamento da parte di vari giornali, Google decise di non rinnovare il suo contratto.
Per la prima volta un’iniziativa autonoma dei dipendenti di una semio-corporation ha costretto l’azienda a modificare una decisione che avrebbe subordinato in modo duraturo quel settore di ricerca al sistema militare.
Naturalmente non si tratta che di un episodio marginale e di una vittoria molto fragile. Non sappiamo se Google rinuncerà davvero al rapporto con il sistema militare. Ma si tratta di un segnale importante: la ribellione, le minacce di dimissioni, la minaccia di fare esplodere un caso giornalistico hanno permesso ai lavoratori dell’azienda più potente del ciberspazio di bloccare un’iniziativa della proprietà.
I commenti sono stati molti, e alcuni hanno osservato l’intrinseca debolezza dell’azione dei dipendenti Google in rivolta. In un articolo intitolato Pentagon will expand AI project prompting protests at Google pubblicato da Wired, Tom Simonite esprime un’opinione piuttosto cinica ma realistica:
“Una minoranza rumorosa degli 80.000 dipendenti di Google è riuscita a farcela. Più di 4000 di loro hanno firmato una lettera chiedendo a Google di cancellare i progetti legati al militare… ma questo potrebbe incoraggiare altre compagnie a prendere quel tipo di impegno. Il Pentagono può trovare altre compagnie competenti in AI e disposte a dare una mano.”
Naturalmente è vero che il sistema militare può trovare ingegneri e programmatori che accettino di prendere il posto di Google nella progettazione e perfezionamento di congegni per l’omicidio. Tuttavia il messaggio che arriva dai quattromila cognitari di Google è interessante, molto interessante dal mio punto di vista.
Vedo questo evento come un primo barlume di un processo possibile di autonomia etica dei lavoratori che costruiscono e sviluppano quotidianamente la macchina di rete globale, come un primo segno di soggettivazione cosciente e autonoma dei lavoratori cognitivi, nel cuore stesso del sistema globale.
Data l’impotenza della volontà politica di fronte alle agenzie deterritorializzate globali, la sola forza che può cambiare la direzione della macchina globale è la soggettività dei lavoratori in rete: solo coloro che hanno programmato e che ogni giorno sviluppano la macchina di rete possono agire dall’interno, e possono avviare un processo di smantellamento e di riprogrammazione della macchina globale.
****
[ENGLISH VERSION]
Google the Pentagon and the Researcher
In a report commissioned by the President of the French Republic, and published in 1979 with the title L’informatisation de la societé, the engineer Simon Nora and the sociologist Alain Minc, in a foresight of the future argued that telematics, the connection of the telephone network and the computers (eventually named Internet) was destined to undermine the effectiveness of political decision and of the national state.
The end of national sovereignty foretold in that book has come to be evident in the decades of economic globalisation and financial hyper-potency.
The neo-liberal culture has willingly favoured this post-sovereignty trend and semio-capitalist corporations have flourished thanks to the deregulation that followed the decline of political power of the nations and, by the way, of democracy.
In the years that follow the financial collapse of 2008, little by little a powerful counter-trend has emerged, that is embodied in the wave of nationalism that is mounting everywhere. The electoral triumph of the reactionary right is a symptom of the rage of the impoverished populations, but is also the attempt to reassert the force of political sovereignty, which is intrinsically linked to the national location of power.
Neo-liberal globalism has destroyed the effectiveness of popular will and of political action, in such a way that disrupting the very infrastructures of globalisation seems to be the only way to restore that effectiveness.
Will this neo-reactionary strategy work?
Can national sovereignty be restored, can democratic politics confront and regulate the global corporations, particularly those companies that act in the sphere of Semiosis (information, software, sharing platforms, networked distribution, artificial intelligence, cognitive automation and so on)?
I don’t think so.
In the Declaration of independence of the cyberspace in the year 1993, while the world wide web was just emerging, John Perry Barlow wrote:
“Governments of the Industrial World, you weary giants of flesh and steel, I come from Cyberspace, the new home of Mind. On behalf of the future, I ask you of the past to leave us alone. You are not welcome among us. You have no sovereignty where we gather.
We have no elected government, nor are we likely to have one, so I address you with no greater authority than that with which liberty itself always speaks. I declare the global social space we are building to be naturally independent of the tyrannies you seek to impose on us. You have no moral right to rule us nor do you possess any methods of enforcement we have true reason to fear.”
These words could sound arrogant and bombastic when uttered, but twenty years after that claim, the notion that the cyberspace cannot be regulated by the national state authority is common sense.
The semio-corporations, agencies whose economic activity is located in the deterritorialised sphere of the network, escape the political, fiscal and social regulation of the territorialised political actors. They do so because of a structural asymmetry of their sphere of action.
The European Union is trying to impose its fiscal and political authority to companies like Google and Facebook. I do not discuss the moral legitimacy of this attempt of regulation, and I don’t deny that some good result in terms of fiscal justice may be attained. But at the end of the day the effectiveness of national or supra-national regulation is structurally thwarted. The pre-condition for imposing the fiscal authority is the territoriality of the enterprise, while the flows of information that constitute the economic output of the global info-enterprises are essentially unattainable by political and territorialisied control.
The libertarian philosophy proudly proclaimed by Barlow has evolved into a sort of new totalitarianism based on the overall pervasiveness of the info-economic control. The techno-libertarians asserted the freedom of netters from the territorialised rule, but the freedom of the semio corporations tendentially coincides with the automated subjection of social cognition.
The entities that escape to the legal control draw their power from the control they exert upon the cognitive fabric, and on the daily exchanges that enable social survival. As a consequence no political agent can stop the process of implementation of the automaton.
“The tetrarchy – the GAFA (Google, Amazon, Facebook, Apple) – has a collective influence over the economic and social lives of hundreds of millions of people unparalleled in human history. It is not just the companies’ financial scale that boggles the mind (they are competing to be the first company valued at a trillion dollars) but the intimacy of their reach. They know your place, your purchases, your politics and your most personal proclivities.”
(Raphael Behr: The tech giants’ empire must fall – but they won’t go without a fight in The Guardian online
The role played by the semio-corps in the formation of the public opinion (and the related political influence that they can exert) has recently been targeted by democratic forces, particularly in the Western world. Should governments regulate the flow of the net? Should they censor hate speech? Should they set out rules and limits to the freedom of expression? It’s an hard job, not only because of the implicit violation of speech freedom, but mainly because of the subtleties and complications of language. Regulating language is not an easy task, particularly when the circulation of signs is boundless.
Moderators struggle to distinguish, for example, between a racist post and a sarcastic post lampooning racists. Automated programs for the identification of bad intentions poses evident philosophical problems. And the sheer volume of content to be vetted requires algorithmic surveillance, which grants extraordinary powers to the programmers tasked with encoding moral boundaries.
The well intentioned authorities of the European Union are facing a devilish alternative: either enforcing law over language or renounce to any regulation on the online dimension.
Furthermore the volume and the complexity of the online information are so overwhelming that, according to Alison Cool, protecting privacy and controlling that sphere is beyond the reach of regulating reason.
“In 2017, the year after the regulation was approved, I interviewed scientists, data managers, legal scholars, lawyers, ethicists and activists in Sweden. I learned that many scientists and data managers who will be subject to the law find it incomprehensible. They doubted that absolute compliance was even possible.” (Alison Cool: Europe’s Data Protection Law Is a Big, Confusing Mess, New York Times, May 15 2018).
Once upon a time the companies belonged to the territory of a national state, so they were forced to bend to some political rules and fiscal obligations. No longer. Now the contrary is true: the territory of national states, including the national state named United States of America, belongs to a deterritorialised sphere that is owned by Google.
The global system of telecommunications (from the postal system to the television chains) has been resemiotised by Facebook, and the economic agencies of the world have been resemiotised by the Google indexation of the economic territory.
Should we come to the conclusion that the ascent of a techno-totalitarian system is unstoppable? This is not my opinion. The battle of the mind, which overshadows the coming decade, will not be a fight between the new and the old systems, (print against net, national states against global corporations), it will rather deploy entirely inside the global process of production of the net-sphere.
In Spring 2018 the media informed about a controversy concerning an agreement between Google and the Pentagon, and involving a large number of Google’s employees. Some considerations about this controversy will help me in formulating an answer to the most important question: is there a subjectivity that may confront the hyper-corps?
Google and the Pentagon have been discussing an agreement concerning the military use of the Google research in the field of AI. When the news of the agreement was vented among the employees of the company, 4000 of them signed a letter against the prospect that the knowledge of Google (produced by eighty thousand cognitive workers salaried by the hyper-corp) might be used for lethal drone targeting. The argument is made more urgent by the fact that artificial intelligence, one of Google’s strengths, is expected to play an increasingly central role in warfare.
Fei-Fei Li, one of the brightest stars in the burgeoning field of artificial intelligence, wrote an email to colleagues:
“Avoid at ALL COSTS any mention or implication of AI. Weaponized AI is probably one of the most sensitized topics of AI — if not THE most. This is red meat to the media to find all ways to damage Google.”
“Dr. Li’s concern about the implications of military contracts for Google has proved prescient. The company’s relationship with the Defense Department since it won a share of the contract for the Maven program, which uses artificial intelligence to interpret video images and could be used to improve the targeting of drone strikes, has touched off an existential crisis, according to emails and documents reviewed by The Times as well as interviews with about a dozen current and former Google employees.”
(Scott Shane, Cade Metz and Daisuke Wakabayashi, How a Pentagon Contract Became an Identity Crisis for Google, 30 May 2018 The New York Times).
After weeks of internal debate and extensive protests from employees, and wide reporting in the printed media, Google decided not to renew its contract with a Pentagon drone program once it expires.
Some comments have remarked an intrinsic weakness in the action of the Google protesters.
In the article titled Pentagon will expand AI project prompting protests at Google published by Wired, Tom Simonite expresses a somehow cynical sentiment, when he writes:
“If a vocal minority of Google’s more than 80,000 employees have their way, the search company won’t be one of those contractors. More than 4,000 of them signed a letter saying Google should forswear all defense projects. …that might encourage other companies to make similar pledges. He also says that the Pentagon would still find companies competent in AI that are willing to help.”
Of course it is true that the military system may find more engineers and programmers who would accept to replace Google in perfecting killing devices.
However the message that comes from 4000 cognitarians of Google is interesting, very interesting in my view. I see this event as a first glimpse of a possible process of ethical autonomy of the workers who daily build and develop the global networked machine.
Given the impotence of political will when facing the deterritorialised agencies of global networking, the only force that can change the direction of the global machine is the subjectivity of the netters: only those who have programmed and develop every day the networked machine can act from the inside, and start a process of dismantlement and of reprogramming of the global machine.
Immagine in apertura: Minh Uong/The New York Times
[…] Franco Berardi Bifo, “Google, il Pentagono e la ricercatrice “, Effimera, 3 luglio […]